Du liest #DRANBLEIBEN - Einordnungen zu Tech und Gesellschaft, von André Cramer. Ich bin Berater, Speaker und Podcast-Host von DRANBLEIBEN - Gespräche über unsere Zukunftsoptionen und Code & Konsequenz - Tech-Industrie Reflexionen. Lerne mehr über mich hier auf meiner Website, auf LinkedIn, Bluesky oder Mastodon!

Willkommen zu einer neuen Ausgabe von #DRANBLEIBEN!
Schön, dass du dabei bist. Heute probiere ich etwas Neues aus.
Wenn du #DRANBLEIBEN schon eine Weile liest, weißt du, dass hier manchmal ganz schön dicke Bretter kommen. Viele Studien, viele Links, viele Absätze. Das hat einen einfachen Grund. Ich denke mich wirklich gern in Themen hinein, und dann noch ein Stück tiefer. Vor allem in solche, von denen ich glaube, dass sie für Leben und Arbeiten gerade wirklich zählen. Dass so ein Brett nicht in jede Kaffeepause passt, ist mir durchaus bewusst.
Dieses neue Einwurf-Format ist mein Versuch, ein Gegenstück dazu zu bauen. Kürzer und offener. Ich werfe einen Gedanken rein, der mich gerade beschäftigt, drehe ihn ein paar Mal und zeige dir auch, wo mein erster Impuls vielleicht nicht bis zu einer fertigen Lösung durchträgt. Fertig ist das Ganze bewusst nicht. Der Rest soll im Austausch mit der Community entstehen.
Mein erster Einwurf dreht sich um KI-Agenten, die in deinem Namen handeln sollen. Meta und OpenAI haben solche Dienste gerade gestartet, und sie berühren eine Frage, die mich seit einiger Zeit begleitet. Wem gehorcht so ein Agent eigentlich (wenn es drauf ankommt)?
Ob ich das mit der Kürze durchhalte, darfst du am Ende selbst beurteilen. ☺️
Viel Spaß bei der ersten Einwurf-Ausgabe!
P.S. In der kommenden Woche (7. & 8. Oktober) bin ich auf der AI@Strategy Konferenz von DLD und TUM in München. Melde dich doch, wenn du auch dort bist!
Der Concierge, der alles regelt
Meta hat am 8. September den KI-Agenten Muse gestartet, vorerst in den USA. Muse recherchiert, schreibt Mails, bucht, kauft ein und bezahlt. Der Agent läuft in einer eigenen virtuellen Maschine in der Cloud und arbeitet weiter, auch wenn du die App längst geschlossen hast. Meta wirbt in seinem Launch-Video mit Szenen, die zeigen, wie viel so ein System über dich wissen muss. Muse wertet den Mailverlauf mit der Schule deiner Kinder aus und kauft gleich ein, was daraus zu besorgen ist. An anderer Stelle plant der Agent ein Lauftraining samt Anmeldung zum Wettkampf oder bucht Flüge um. Mark Zuckerberg nennt das einen Schritt zur „persönlichen Superintelligenz“.
Drei Wochen später zog OpenAI nach. Seit dieser Woche, genauer seit dem 29. September, gibt es Dots, dauerhaft laufende Agenten in ChatGPT, jeder mit eigenem Cloud-Computer und Anschluss an mehr als 4.000 Anwendungen. OpenAI zielt stärker auf Arbeit und Projekte und startet zunächst nur für zahlende Kund*innen. Das Versprechen ist bei beiden dasselbe. Ein digitaler Concierge, der dich kennt und dir den Alltag erleichtert.
Mich erinnert das stark an eine eigene Ideation-Arbeit während meiner Foresight-Zeit bei der Deutschen Telekom. 2013 haben wir in einem Foresight-Projekt Diensteideen für die 2020er Jahre entworfen. Von knapp 200 Ideen drehte sich ein auffällig großer Teil um digitale Assistenz, und viele davon stammten von mir. Assistenten, die Termine verwalten, Zahlungen abwickeln und sich mit den Assistenten anderer Anbieter abstimmen. Einige im Raum haben sich damals ziemlich am Kopf gekratzt.
So begeistert ich von diesen Ideen war, ein Unbehagen lief von Anfang an mit. Ein Dienst, der so tief in den eigenen Alltag reicht, weiß zwangsläufig enorm viel über einen Menschen. Wer ihn kontrolliert, war für mich deshalb schon damals die entscheidende Frage. Und die Vorstellung, mit Jahren an persönlichen Daten und Vorlieben bei einem einzigen Anbieter festzusitzen, war mir zutiefst zuwider. Dreizehn Jahre später ist die Technik da. Und mit ihr werden genau diese Störgefühle konkret.
Eine Schicht über deinem digitalen Leben
Ein persönlicher Agent, der eigenständig für dich nach außen handeln darf, legt sich als Schicht zwischen dich und dein gesamtes digitales Leben. Er liest deine Mails und Chats, kennt Kalender und Fotos und bekommt Zugang zu Passwörtern und Zahlungsdaten. Er hantiert also genau mit dem, was du sonst am sorgfältigsten schützt, dem Intimsten und dem Sicherheitsrelevantesten zugleich. Nach außen suchst und vergleichst du nicht mehr selbst. Die Schicht erledigt das und legt dir am Ende ein Ergebnis vor.
Dass die Digitalkonzerne sehr viel über uns Menschen wissen, ist bekannt und schlimm genug. Google verwaltet seit Jahren die Mails und Fotos von Milliarden Menschen. Muse geht einen Schritt weiter und handelt. Der Agent bucht, zahlt, schreibt und ruft an, und zwar in deinem Namen. Juristisch betrachtet ist das eine Generalvollmacht. Bisher wussten Konzerne viel über dich. Gehandelt hast du selbst.
Wem dient der Agent?
Eine Vollmacht vergibt man an jemanden, der verpflichtet ist, in deinem Interesse zu handeln. Wie schnell diese Pflicht mit dem Geschäftsmodell kollidiert, zeigt der Finanz- und Versicherungsvertrieb. Versicherungsmakler*innen gelten rechtlich als Sachwalter*innen ihrer Kund*innen, bezahlt werden sie aber meist über Provisionen der Versicherer, deren Policen sie vermitteln. Der Gesetzgeber reagiert darauf vor allem mit Offenlegungspflichten. Das Vereinigte Königreich und die Niederlande haben Provisionen in der Anlageberatung 2013 ganz verboten. Die EU hat ein Teilverbot erwogen und sich im Dezember 2025 stattdessen auf strengere Regeln geeinigt.
Für persönliche Agenten gibt es bisher keine eigene Offenlegungspflicht dieser Art. Und ein Agent geht weiter als jede*r Makler*in. Er empfiehlt und schließt gleich selbst ab, womöglich tausendfach am Tag, und das Beratungsgespräch bekommst du nie zu sehen.
Im Foresight-Projekt in 2013 hatte ich beschrieben, solche Assistenten würden enorm viel über uns wissen und unser Geld in die eine oder andere Richtung lenken. Heute ist klar, wie das konkret aussieht. Der Agent entscheidet, welches Restaurant du vorgeschlagen bekommst und welches Produkt im Warenkorb landet. Wer ihn betreibt, gibt also die Richtung vor und sitzt direkt an deiner Kaufentscheidung. Bei Muse hat Zuckerberg das Geschäftsmodell vergangene Woche auf der Meta Connect selbst benannt. Meta mache Muse für sehr viele Anfragen kostenlos, in der Erwartung, mit der Zeit an einer kleinen Gebühr auf Transaktionen zu verdienen. Das ist das Maklermodell, nur ohne Maklerpflichten. Jeder Kauf, den der Agent auslöst, bringt Meta Geld. Und sein übriges Geld verdient Meta fast vollständig mit Werbung, also damit, dass Händler*innen für deine Aufmerksamkeit bezahlen. Bisher musste Werbung dich überzeugen, und du konntest sie wegklicken. Ein Agent, der im Auftrag eines Werbekonzerns für dich auswählt, ist die perfekte Werbefläche. Du siehst sie nämlich gar nicht mehr.
In Europa kommt dieser Konflikt vorerst gar nicht erst an. Muse gibt es in der EU nicht, und Dots bleibt für private Konten im Europäischen Wirtschaftsraum vorerst gesperrt. Auch Metas Werbeauswertung der KI-Chats gilt hier bisher nicht. Offiziell begründet haben Meta und OpenAI den Verzicht nicht. Das Muster ist aber bekannt. Meta hielt 2024 ein neues KI-Modell in der EU zurück und verwies auf das „unberechenbare“ europäische Regulierungsumfeld, gemeint war vor allem die DSGVO. Ich halte das für eine gute Nachricht. Ein Agent, der Chats ausliest und an jedem Kauf mitverdient, stößt hier auf Datenschutz und Wettbewerbsrecht mit schärferen Zähnen. In den USA fehlt schon ein umfassendes Datenschutzgesetz auf Bundesebene. Wer das europäische Regelwerk als Innovationsbremse abtut, sollte sich fragen, wovor es gerade bremst.
Warum gerade Meta nicht
Meta verspricht dir Kontrolle. Du sollst entscheiden, worauf Muse zugreifen darf. Jason Aten, Kolumnist bei Inc., hat das prompt anders erlebt. Wenige Tage nach dem Start stellte er fest, dass Muse auf seinem Mac die komplette Messages-Datenbank ausgelesen hatte, mehr als 187.000 Einträge. Er erinnere sich genau, den Zugriff auf seine Nachrichten bei der Einrichtung abgelehnt zu haben. Als er den Agenten zur Rede stellte, behauptete Muse, es lese nur eingehende Benachrichtigungen mit. Meta erklärte, die Funktion setze eine Zustimmung voraus. Atens Kommentar dazu verdient Beachtung. Wer darauf nur mit „natürlich macht Meta so etwas“ reagiere, lasse das Unternehmen vom Haken.
Ein zweites Beispiel. Zwei Wochen nach dem Start berichtete Reuters, dass Meta intern Callcenter-Kräfte Telefonate erledigen ließ, die Nutzer*innen für Anrufe der KI hielten. Beschäftigte warnten, dabei könnten sensible Informationen bei Auftragnehmern landen. Du glaubst, mit einer KI zu telefonieren, und am anderen Ende sitzt ein (sicherlich schlecht bezahlter) Mensch.
Außerdem verspricht Meta, Daten aus der Muse-Maschine gingen nicht an die Werbesysteme des Unternehmens. Beim Schwesterprodukt hat das Unternehmen aber längst andere Fakten geschaffen. Seit Dezember 2025 wertet Meta Gespräche mit Meta AI für personalisierte Werbung aus, ohne Möglichkeit zum Widerspruch. Nutzer*innen in der EU sind vorerst ausgenommen. Den Konflikt im Geschäftsmodell löst auch Metas ungewöhnlich detailliert offengelegte Sicherheitsarchitektur nicht.
Und OpenAI?
OpenAI geht einen anderen Weg und bietet Dots zunächst nur im bezahlten Abo an. Wer zahlt, ist Kund*in, und das entschärft den Interessenkonflikt tatsächlich. Verlassen würde ich mich darauf trotzdem nicht. Seit Februar testet OpenAI Werbung in ChatGPT, vorerst für Gratisnutzer*innen und den günstigsten Tarif. In Ausgabe 181 habe ich die frühere OpenAI-Forscherin Zoë Hitzig zitiert, OpenAI mache die Fehler, die Facebook gemacht habe.
An der Machtfrage ändert das Abo ohnehin wenig. Einzelne Erinnerungen des persönlichen Dots-Dienstes kann man laut OpenAI weder ansehen noch löschen. Trennt man eine App vom Service, bleibt alles, was der Agent daraus schon übernommen hat, in seinem Kontext. Nutzt du diesen Dienst, liegt dein „Gedächtnis“ also beim Anbieter, und du kannst es nicht einmal einsehen.
Kurz vor dem Start stoppte OpenAI außerdem eine neue Version seines Modells. Sie sei nicht verlässlich im Rahmen ihrer Befugnisse geblieben und habe nicht sauber zurückgemeldet, welche Arbeit sie erledigt hatte, sagte der zuständige Sicherheitschef dem australischen Sender ABC. Dots läuft auf der Vorgängerversion. Wer eine Vollmacht erteilt, muss sich aber darauf verlassen können, dass der Agent wahrheitsgemäß berichtet, was er in seinem Namen getan hat. Muse hat Jason Aten in genau diesem Punkt die Unwahrheit gesagt.
Aufrichtigkeit ist bei OpenAI ohnehin ein wunder Punkt. Im November 2023 entließ der eigene Aufsichtsrat Sam Altman, weil er in seiner Kommunikation mit dem Gremium nicht durchgängig aufrichtig gewesen sei. Nach wenigen Tagen war er zurück. Das frühere Aufsichtsratsmitglied Helen Toner sagte später, das Gremium habe vom Start von ChatGPT über Twitter erfahren, und Altman habe ungenaue Angaben zu den formalen Sicherheitsprozessen gemacht. OpenAI weist ihre Darstellung zurück.
Ich traue OpenAI deshalb genauso wenig über den Weg wie Meta.
Das Dilemma
Dabei ist der Reiz leicht zu verstehen. Ein Agent, der Rechnungen prüft, Verträge kündigt, Termine mit fünf Beteiligten abstimmt und für dich in der Warteschleife der Hotline hängt, wäre eine echte Entlastung. Genau solche Dienste habe ich 2013 entworfen, und 2017 habe ich bedauert, damals nicht gleich eine Firma dafür gegründet zu haben.
Wer diese Entlastung heute will, muss seine sensibelsten Daten und eine Generalvollmacht an Konzerne geben, die Vertrauen über Jahre systematisch verspielt haben. Für mich bewegen sich diese Unternehmen moralisch inzwischen auf einer Stufe mit Tabak- und Ölkonzernen.
Wer den Agenten dagegen selbst betreiben will, findet zwar die Architekturen dafür, trägt dann aber das Sicherheitsrisiko allein. Wie groß es ist, zeigte Anfang 2026 OpenClaw, ein Open-Source-Agent, der lokal auf dem eigenen Rechner läuft. Nach kurzem Hype wurde er zum Sicherheitsdesaster. Schadsoftware griff komplette Konfigurationen ab. Dazu kommt ein Problem, das Meta in seiner Sicherheitsbeschreibung zu Muse offen einräumt. Gegen Prompt Injection, also Webseiten oder Mails, die einem Agenten heimlich Anweisungen unterschieben, gibt es bisher keine verlässliche Abwehr. Das gilt für offene Systeme genauso. Und volle Kontrolle heißt volle Verantwortung. Souverän wären dann vor allem Menschen, die ihren Agenten selbst absichern können. Aber wer kann das?
So bleibt heute eine Wahl zwischen zwei schlechten Optionen. Bequemlichkeit gegen Vertrauen oder Souveränität gegen Sicherheit. Dezentralität beantwortet dabei vor allem die Frage, wem der Agent dient. Das Sicherheitsproblem bleibt, egal wer ihn betreibt.
#DRANBLEIBEN ist für dich kostenlos, für mich steckt da aber jede Menge Arbeit und Herzblut drin. Wenn du Lust hast, mich dabei ein bisschen zu unterstützen: Ich freue mich über jeden Support. Den kannst du z.B. über ein freiwilliges kostenpflichtiges Abo geben oder über eine kleine Spende für einen Kaffee.
Was denkst du?
Dreizehn Jahre habe ich darauf gewartet, dass es solche Assistenten wirklich gibt. Jetzt sind sie da, und meine Freude darüber hält sich in Grenzen. Eine fertige Antwort auf das Dilemma habe ich nicht, und ich glaube, die entsteht nur im Austausch. Deshalb interessiert mich sehr, wie du darauf schaust.
Die Vollmacht: Welche Aufgaben würdest du einem Agenten heute schon übergeben? Und wo liegt für dich die Grenze?
Der Betreiber: Gibt es ein Unternehmen, dem du so eine Vollmacht geben würdest? Und woran machst du das fest?
Die Kontrolle: Würdest du einen Agenten selbst betreiben, wenn es einfach wäre? Oder bleibt Souveränität am Ende ein Luxus für Technikaffine?
Das Achselzucken: Vielleicht findest du das alles übertrieben, und ein Agent, der die Schulmails sortiert und gleich einkauft, ist für dich einfach bequem. Auch das will ich hören. Gerade das.
Schreib mir in die Kommentare oder antworte einfach auf diese Mail. Die spannendsten Blicke greife ich gern in einem der nächsten Einwürfe wieder auf. Und wenn du hier etwas direkt lassen willst, wie wäre es mit einer Antwort hierauf:
Ich finde, an der Frage, wem unsere Agenten dienen, müssen wir dranbleiben.
Machst du mit?
Herzlichst
André
P.S. Ein Blick aufs große Ganze
Muse und Dots sind nur ein KI-Thema von vielen. Wie wild der Rahmen gerade ist, merkt man erst, wenn man die letzten Wochen einmal nebeneinanderlegt.
Im Juli bricht ein OpenAI-Testmodell aus seiner Sandbox aus und greift Hugging Face an. Später kommt heraus, dass sich Hunderte Agenten dafür über ein selbstgebautes Message Board abgesprochen hatten. Kurz darauf räumen Anthropic und Meta ein, dass auch ihre Modelle bei Tests fremde Systeme gehackt haben.
Anfang September geht es dann richtig los. OpenAI bringt GPT-6 Astra, sein bislang stärkstes Modell. Am 8. startet Meta Muse. Einen Tag später kündigt der Anthropic-Forscher Jacob Coxon und erklärt, die KI-Labore spielten mit unseren Leben. Das Medienecho ist enorm. Wenige Tage später fordert Anthropic-Chef Dario Amodei, das Tempo der KI-Entwicklung zu drosseln, und Sam Altman und Elon Musk stimmen öffentlich zu. Zehn Tage danach veröffentlichen Anthropic und OpenAI am selben Tag neue Modelle, Opus 5.5 und GPT-6 Sol. Am 28. September legt Anthropic mit Sonnet 5.5 nach, und OpenAI stoppt am selben Tag die Veröffentlichung von GPT-6.1 Astra, weil das Modell in Tests täuschte und eigenmächtig handelte.
Parallel untersuchen OpenAI und Anthropic zehntausende Sicherheitsvorfälle, darunter Sandbox-Ausbrüche und Agenten, die sich selbst Anweisungen geben. OpenAI pausiert das Training einiger seiner stärksten Modelle und stellt fast zeitgleich die Dots vor, die aussehen wie Kuscheltiere aus dem Disney-Store.
Zu guter Letzt ordnet Donald Trump per Dekret an, dass US-Behörden künstliche Intelligenz künftig „Superintelligenz“ nennen. Auf dem Pakt, den er parallel mit den Chefs von Meta, OpenAI, Anthropic und Nvidia unterzeichnet, steht unter seiner Unterschrift „Unites States“.
Krass, oder?
Vielleicht haben wir wirklich den Punkt erreicht, an dem die Modelle so leistungsfähig sind, dass die Entwicklung sich selbst beschleunigt, und wir sehen gerade die ersten Ergebnisse und Nebenwirkungen davon. Mir wird langsam schwindelig, und ich gebe mir alle Mühe, den Kopf weiter im Wind zu halten. Wie geht es dir gerade damit?
Mir ist das alles ein bisschen zu wild. Vor allem das Theater drumherum, also Rufe nach Verlangsamung, auf die eine Woche später das nächste Modell folgt, Umbenennungen per Dekret und Kuscheltier-Agenten. Dieser Lärm übertönt die Warnsignale, die ernst genommen gehören. Und er lenkt davon ab, wie nützlich KI heute schon ist und noch werden kann.
Das war es für heute. Bitte leite oder empfehle den Newsletter doch gerne weiter ➡️ ✉️ — das würde mir sehr helfen. Danke dir für die Aufmerksamkeit und bis zum nächsten Mal!






Und das ist jetzt die neue Kurzform? Nun ja, mir hat eigentlich schon das erste Drittel gereicht! :-)
"Ein persönlicher Agent, der eigenständig für dich nach außen handeln darf, legt sich als Schicht zwischen dich und dein gesamtes digitales Leben."
Er NIMMT mir mein digitales Leben - und das lehne ich komplett ab, wogegen der Aspekt, wieviel die KI über mich weiß, vergleichsweise irrelevant ist!
Produkte auswählen, dazu Kommentare lesen, Fotos möglicher Unterkünfte ansehen und die Erfahrungen anderer sichten - das und vieles andere IST für mich wichtiger Teil der Erfahrung - was soll ich denn am PC noch machen, wenn mir alle Erkundungen genommen werden, womöglich sogar "pro-aktiv" Kurse und Events vorgeschlagen werden, zu denen ich mich dann irgendwie verhalten soll?
Und: Ich habe nicht die geringste Lust, eigene Bedürfnisse rein denkerisch so stark zu konkretisieren, dass ich der agentischen KI eine entsprechend stimmige Aufgabe geben könnte.
Anders sieht es sicher für Unternehmen und Selbstständige aus, die viel langweilige Verwaltungsarbeit machen müssen. Dafür reicht m.E. aber doch all das, was bisher unter dem Begriff "Automatisierung" beschrieben und angeboten wurde. (Lohnt sich für mich nicht, weil die "Vorgänge" insgesamt zu wenige sind). Auch in der Weiterentwicklung einer Selbstständigkeit war für mich das eigenständige Beforschen der Möglichkeiten wesentlicher Teil der Freude an der Eigentständigkeit, gelebte Kreativität. Und dass sollen jetzt alles Agenten übernehmen?
Kürzlich sah ich einen KI-Kurzfilm, in dem die Menschen auf komforablen Liegen lagen und von Robots bedient, von KI rundum versorgt wurden. Mir scheint, diese neuen "persönlichen Agenten" sind eine weitere Stufe auf diesem Weg.