🏃‍♀️ #DRANBLEIBEN (Die schnellen 3)

#129: Was, wenn KI nicht nur unsere Arbeit übernimmt – sondern auch unser Denken?

März 09, 2025

Was, wenn KI nicht nur unsere Arbeit übernimmt – sondern auch unser Denken?

Künstliche Intelligenz ist überall. Sie löst Matheaufgaben, schreibt Gedichte und imitiert menschliche Sprache so überzeugend, dass man sich fragt: Ist das noch Simulation – oder beginnt KI tatsächlich zu „denken“? Sigal Samuel stellt diese Grundsatzfrage in ihrem Essay Is AI really thinking and reasoning — or just pretending to? und zeigt, warum KI gleichzeitig brillant und fehlerhaft ist. Ihre Analyse legt die Basis für das Verständnis der technologischen Möglichkeiten und Grenzen – und macht klar, dass es darauf keine einfache Antwort gibt.

Doch selbst wenn KI nicht wirklich denkt – ist es moralisch vertretbar, dass sie auf dem kollektiven Wissen der Menschheit trainiert wird? Robin Sloan nimmt sich dieser ethischen Dimension in Is it okay? an. Er hinterfragt die Praxis, Milliarden von Texten ungefragt in KI-Modelle zu speisen, und stellt die entscheidende Frage: Wo ziehen wir die Grenze zwischen Innovation und Enteignung? Falls KI bahnbrechende wissenschaftliche Durchbrüche ermöglicht, könnte ihr Nutzen das rechtfertigen – doch wenn sie nur austauschbare Inhalte generiert, wäre das ein Verrat an der kreativen Vielfalt, aus der sie schöpft.

Und schließlich: Was macht das alles mit uns? Surekha Davies blickt in We’re Already at Risk of Ceding Our Humanity to AI auf die gesellschaftlichen Konsequenzen. Was passiert, wenn KI nicht nur unser Wissen nutzt, sondern auch unsere kreative Identität infrage stellt? Wenn Maschinen unsere Kunst erschaffen und unsere Worte formulieren – was bleibt dann noch von uns?

Drei Essays, drei Perspektiven – und eine Technologie, die unser Denken herausfordert. Und vielleicht auch unsere Zukunft. Und weil das so wichtig ist, solltet ihr #DRANBLEIBEN!

3 wertvolle Artikel

Is AI really thinking and reasoning — or just pretending to? (Sigal Samuel)

Denken KI-Modelle wirklich – oder spielen sie nur eine beeindruckende Illusion? Diese Frage untersucht Sigal Samuel in ihrem Essay für Vox und beleuchtet die Kontroverse um das sogenannte „Reasoning“ in modernen Sprachmodellen. Unternehmen wie OpenAI behaupten, dass ihre neuesten Systeme komplexe Schlussfolgerungen ziehen können. Doch während einige Experten das als echten Fortschritt feiern, bleibt die Skepsis groß.

Ein zentrales Problem: Was bedeutet „Reasoning“ überhaupt? Menschliche Logik umfasst viele Formen des Denkens, von Deduktion bis hin zu intuitiver Mustererkennung. KI-Modelle wie OpenAIs neueste Varianten nutzen „Chain-of-Thought-Reasoning“, indem sie Probleme schrittweise auflösen. Doch das bedeutet nicht automatisch, dass sie wirklich „denken“ – sie könnten einfach nur Muster aus ihrem Training imitieren.

Skeptiker*innen argumentieren, dass KI lediglich eine raffinierte Form der Nachahmung betreibe, ohne echtes Verständnis. Dass sie schwierige Mathematikaufgaben lösen könne, aber an einfachen Fragen scheitere, spricht für eine oberflächliche Mustererkennung statt echter Kognition. Doch Befürworter halten dagegen: KI verallgemeinere Wissen und kombiniere gespeicherte Informationen mit heuristischen Entscheidungsprozessen – eine Form von Denken, wenn auch anders als beim Menschen.

Ein neuer Begriff beschreibt dieses Phänomen treffend: „Jagged Intelligence“. Während menschliche Intelligenz eher rund und zusammenhängend ist, wirkt KI wie eine Landschaft mit extremen Höhen und Tiefen – herausragend in manchen Bereichen, katastrophal in anderen.

Die praktische Lehre daraus? KI ist nützlich für Aufgaben, deren Ergebnisse überprüfbar sind. Etwa beim Programmieren oder Analysieren von Daten. Bei moralischen oder emotionalen Fragen hingegen sollte man sie eher als Sparringspartner denn als Entscheidungsträger betrachten. KI kann Gedanken anstoßen – aber ob sie wirklich denkt, bleibt offen. Wie auch in anderen Debatten über Kognition und Intelligenz immer wieder zu entnehmen ist, finde ich auch hier: Die Frage ist nicht, ob KI „schlauer“ oder „dümmer“ als wir Menschen ist – sondern dass sie fundamental anders funktioniert. Unternehmen präsentieren sie gerne als menschenähnlich, doch in Wahrheit bleibt sie eine fremde, eigene Form von Intelligenz. Deshalb kommt es nicht nur darauf an, was KI kann, sondern auch darauf, wie wir sie einsetzen und ihre Ergebnisse bewerten.

Is it okay? (Robin Sloan)

Robin Sloan stellt in seinem Essay Is it okay? eine zentrale Frage rund um KI: Ist es moralisch vertretbar, dass große Sprachmodelle auf der gesammelten Schriftkultur der gesamten Menschheit – von ihm als „Everything“ bezeichnet – trainiert werden? Die Technik schreitee ohnehin unaufhaltsam voran, doch bleibt die ethische Dimension relevant. Sloan versucht, sich der Frage auf eine Weise zu nähern, die weder in einfache Ablehnung noch in naive Begeisterung verfällt.

Er setzt sich mit zwei möglichen Extremen auseinander. Falls KI-Modelle tatsächlich bahnbrechende wissenschaftliche Fortschritte ermöglichen – etwa durch medizinische Durchbrüche oder die Lösung globaler Probleme –, könnte die Nutzung dieses „gemeinsamen Erbes der Menschheit“ gerechtfertigt sein. In dieser „Super-Science“-Perspektive würde der kollektive Nutzen die fragwürdige Aneignung digitaler Inhalte aufwiegen. Doch gebe es dafür bisher nur vage Versprechen, keine greifbaren Beweise.

Auf der anderen Seite steht die Gefahr, dass KI vor allem dazu genutzt wird, generische Inhalte zu erzeugen, die menschliche Kreativität verdrängen und die kulturelle Landschaft mit Massenware fluten. Sollte sich die Technologie in erster Linie als Werkzeug zur industriellen Produktion ramschiger und austauschbarer Medien erweisen – der „Slop Machine“-Effekt –, dann wäre die Aneignung von „Everything“ nicht zu rechtfertigen.

Sloan beschreitet hier einen interessanten gedanklichen Pfad von Technologieprüfung, dem ich viel abgewinnen kann: Sollten wir uns bei technologischen Entwicklungen nicht die Frage stellen, ob eine Neuerung dem Gemeinwohl dient oder ob sie unsere soziale Struktur untergräbt? Diese Frage wurde von Tech-Konzernen nie wirklich gestellt, sodass wir uns nun in einer Realität wiederfinden, in der sowohl vielversprechende Fortschritte im wissenschaftlichen Bereich als auch eine Flut austauschbarer KI-generierter Inhalte existieren.

Letztlich verweigert Sloan sich einer endgültigen Antwort. Er argumentiert, dass wir in einigen Jahren klarer sehen werden: Entweder werde KI tatsächlich tiefgreifende wissenschaftliche Durchbrüche liefern, oder sie bleibe eine Maschine zur Massenproduktion von Inhalten – dann allerdings auf Kosten der menschlichen Kreativität. Bis dahin bleibt die Debatte offen, und sein Essay liefert eine kluge, reflektierte Perspektive auf das Spannungsfeld zwischen KI und unserem kulturellen Erbe.

We’re Already at Risk of Ceding Our Humanity to AI (Surekha Davies)

Künstliche Intelligenz kann inzwischen Gedichte schreiben – aber die entscheidende Frage, wie ich finde, um die es geht: Sollten wir das überhaupt wollen? Genau diese Frage wirft die Historikerin und Autorin Surekha Davies in ihrem Essay We’re Already at Risk of Ceding Our Humanity to AI auf. Ausgangspunkt ist eine Unterhaltung, die sie 2019 in einer Bar in Rhode Island geführt hat. Ein Akademiker habe ihr erklärt, dass es großartig sei, wenn Maschinen Gedichte schreiben könnten – „damit Menschen es nicht mehr tun müssen“. Für Davies klingt das nicht nach Fortschritt, sondern nach einem schleichenden Verlust dessen, was uns als Menschen ausmacht.

Kreativität sei nicht nur Selbstzweck, sondern ein zutiefst menschliches Bedürfnis. Ob Schreiben, Malen oder Musizieren – es gehe nicht darum, ein Produkt abzuliefern, sondern um den Prozess, um das Denken, Fühlen und Wachsen, das dabei geschieht. Doch in einer Welt, in der Effizienz und Automatisierung über alles gestellt werden, droht genau das unter die Räder zu kommen. Davies sieht eine gefährliche Entwicklung: Je mehr KI uns kreative und intellektuelle Arbeit „abnehme“, desto größer werde das Risiko, dass wir Menschen selbst als überflüssig angesehen werden.

Dieses Denken ist kein Zufall, sondern Ergebnis einer technokratischen Ideologie, die alles, was sich nicht in Algorithmen und Profit umwandeln lässt, für irrelevant erklärt. Während Tech-Konzerne Rekordgewinne einfahren, werden Künstler, Autoren und Journalisten durch generative KI zunehmend in die Bedeutungslosigkeit gedrängt – oft mit Inhalten, die genau aus ihren eigenen Werken geklaut wurden. Gleichzeitig werden in Niedriglohnländern schlecht bezahlte Arbeitskräfte eingesetzt, um KI-Modelle von problematischen Inhalten zu „säubern”. Während in wohlhabenderen Ländern die Narrative dominieren, dass Maschinen ohnehin bald alles besser könnten als Menschen.

Davies zieht eine Verbindung zu Science-Fiction-Welten, die vor genau dieser Entwicklung warnen. Ob Blade Runner, Frankenstein oder Terminator – die Idee, dass Maschinen irgendwann nicht mehr nur Werkzeuge, sondern Rivalen oder gar Ersatz für den Menschen sein könnten, ist nicht neu. Was heute allerdings anders sei: Diese Szenarien sind längst keine Dystopien mehr, sondern Teil unserer Gegenwart. KI wird bereits genutzt, um Hollywood-Schauspieler*innen digital zu ersetzen. Journalismus durch klickoptimierte KI-Texte zu verwässern. Und Arbeitsprozesse zu entmenschlichen.

Doch der eigentliche Kampf geht nicht um Technik, sondern um Macht. Denn die Frage ist nicht, ob Maschinen besser dichten, zeichnen oder analysieren können als Menschen – sondern wer bestimmt, was das für unsere Gesellschaft bedeutet. Davies warnt davor, diese Entscheidung den Konzernen zu überlassen, die KI als Allheilmittel verkaufen. Denn wenn wir nicht aufpassen, würden bald Maschinen nicht nur unsere Arbeit bestimmen, sondern auch darüber, was uns als Menschen überhaupt noch ausmacht.

Zum Schluss

Das hier passt ganz gut in den Themenkomplex Mensch, Maschine und unsere Beziehung zueinander. Der in San Francisco beheimatete (und vormals von Sam Altman geführte) Startup Accelerator Y Combinator findet, dass dies hier einen Glückwunsch zur Markteinführung wert ist: ein KI-Startup mit KI-Überwachung für industrielle Fertigungsstraßen. Diese Jungs sagen, dass sie ihr ganzes Leben, einschließlich ihrer Kindheit, in Fabriken verbracht haben, die ihre Eltern leiten. Sie sind beide Studenten an der Duke University. Und was haben sie aus all diesen Erfahrungen mitgenommen? Chefs brauchen effizientere Wege, um ihre Arbeiter anzupöbeln.

Mehr lesen: Y Combinator Supports AI Startup Dehumanizing Factory Workers

Und ganz am Schluss möchte ich euch nochmal auf mein neues Podcastprojekt hinweisen: #DRANBLEIBEN - Gespräche über unsere Zukunftsoptionen. Dabei spreche ich mit Menschen, die neue Ideen einbringen. Die Zukunft aktiv mitgestalten. Die ihre Erkenntnisse teilen. Und die Mitstreiter*innen suchen.

🎧 In der ersten Folge geht es um Co-Creation – Zukunft gemeinsam gestalten.
Mein Gast: Stephan de Haas, Head of Co-Creation bei T-Systems. Er hat mit X-Creation eine Plattform aufgebaut, auf der Unternehmen, Wissenschaft und NGOs gemeinsam Lösungen für drängende Zukunftsfragen entwickeln.

Hier könnt ihr direkt reinhören:

Ich freue mich über euer Feedback hierzu! 🗣️

Das war es für heute. Bitte leitet oder empfehlt den Newsletter doch gerne weiter ➡️ ✉️ - das würde mir sehr helfen. Danke euch für die Aufmerksamkeit und bis zum nächsten Mal!