đââïž #DRANBLEIBEN (Die schnellen 3)
#129: Was, wenn KI nicht nur unsere Arbeit ĂŒbernimmt â sondern auch unser Denken?
Was, wenn KI nicht nur unsere Arbeit ĂŒbernimmt â sondern auch unser Denken?
KĂŒnstliche Intelligenz ist ĂŒberall. Sie löst Matheaufgaben, schreibt Gedichte und imitiert menschliche Sprache so ĂŒberzeugend, dass man sich fragt: Ist das noch Simulation â oder beginnt KI tatsĂ€chlich zu âdenkenâ? Sigal Samuel stellt diese Grundsatzfrage in ihrem Essay Is AI really thinking and reasoning â or just pretending to? und zeigt, warum KI gleichzeitig brillant und fehlerhaft ist. Ihre Analyse legt die Basis fĂŒr das VerstĂ€ndnis der technologischen Möglichkeiten und Grenzen â und macht klar, dass es darauf keine einfache Antwort gibt.
Doch selbst wenn KI nicht wirklich denkt â ist es moralisch vertretbar, dass sie auf dem kollektiven Wissen der Menschheit trainiert wird? Robin Sloan nimmt sich dieser ethischen Dimension in Is it okay? an. Er hinterfragt die Praxis, Milliarden von Texten ungefragt in KI-Modelle zu speisen, und stellt die entscheidende Frage: Wo ziehen wir die Grenze zwischen Innovation und Enteignung? Falls KI bahnbrechende wissenschaftliche DurchbrĂŒche ermöglicht, könnte ihr Nutzen das rechtfertigen â doch wenn sie nur austauschbare Inhalte generiert, wĂ€re das ein Verrat an der kreativen Vielfalt, aus der sie schöpft.
Und schlieĂlich: Was macht das alles mit uns? Surekha Davies blickt in Weâre Already at Risk of Ceding Our Humanity to AI auf die gesellschaftlichen Konsequenzen. Was passiert, wenn KI nicht nur unser Wissen nutzt, sondern auch unsere kreative IdentitĂ€t infrage stellt? Wenn Maschinen unsere Kunst erschaffen und unsere Worte formulieren â was bleibt dann noch von uns?
Drei Essays, drei Perspektiven â und eine Technologie, die unser Denken herausfordert. Und vielleicht auch unsere Zukunft. Und weil das so wichtig ist, solltet ihr #DRANBLEIBEN!
3 wertvolle Artikel
Is AI really thinking and reasoning â or just pretending to? (Sigal Samuel)
Denken KI-Modelle wirklich â oder spielen sie nur eine beeindruckende Illusion? Diese Frage untersucht Sigal Samuel in ihrem Essay fĂŒr Vox und beleuchtet die Kontroverse um das sogenannte âReasoningâ in modernen Sprachmodellen. Unternehmen wie OpenAI behaupten, dass ihre neuesten Systeme komplexe Schlussfolgerungen ziehen können. Doch wĂ€hrend einige Experten das als echten Fortschritt feiern, bleibt die Skepsis groĂ.
Ein zentrales Problem: Was bedeutet âReasoningâ ĂŒberhaupt? Menschliche Logik umfasst viele Formen des Denkens, von Deduktion bis hin zu intuitiver Mustererkennung. KI-Modelle wie OpenAIs neueste Varianten nutzen âChain-of-Thought-Reasoningâ, indem sie Probleme schrittweise auflösen. Doch das bedeutet nicht automatisch, dass sie wirklich âdenkenâ â sie könnten einfach nur Muster aus ihrem Training imitieren.
Skeptiker*innen argumentieren, dass KI lediglich eine raffinierte Form der Nachahmung betreibe, ohne echtes VerstĂ€ndnis. Dass sie schwierige Mathematikaufgaben lösen könne, aber an einfachen Fragen scheitere, spricht fĂŒr eine oberflĂ€chliche Mustererkennung statt echter Kognition. Doch BefĂŒrworter halten dagegen: KI verallgemeinere Wissen und kombiniere gespeicherte Informationen mit heuristischen Entscheidungsprozessen â eine Form von Denken, wenn auch anders als beim Menschen.
Ein neuer Begriff beschreibt dieses PhĂ€nomen treffend: âJagged Intelligenceâ. WĂ€hrend menschliche Intelligenz eher rund und zusammenhĂ€ngend ist, wirkt KI wie eine Landschaft mit extremen Höhen und Tiefen â herausragend in manchen Bereichen, katastrophal in anderen.
Die praktische Lehre daraus? KI ist nĂŒtzlich fĂŒr Aufgaben, deren Ergebnisse ĂŒberprĂŒfbar sind. Etwa beim Programmieren oder Analysieren von Daten. Bei moralischen oder emotionalen Fragen hingegen sollte man sie eher als Sparringspartner denn als EntscheidungstrĂ€ger betrachten. KI kann Gedanken anstoĂen â aber ob sie wirklich denkt, bleibt offen. Wie auch in anderen Debatten ĂŒber Kognition und Intelligenz immer wieder zu entnehmen ist, finde ich auch hier: Die Frage ist nicht, ob KI âschlauerâ oder âdĂŒmmerâ als wir Menschen ist â sondern dass sie fundamental anders funktioniert. Unternehmen prĂ€sentieren sie gerne als menschenĂ€hnlich, doch in Wahrheit bleibt sie eine fremde, eigene Form von Intelligenz. Deshalb kommt es nicht nur darauf an, was KI kann, sondern auch darauf, wie wir sie einsetzen und ihre Ergebnisse bewerten.
Is it okay? (Robin Sloan)
Robin Sloan stellt in seinem Essay Is it okay? eine zentrale Frage rund um KI: Ist es moralisch vertretbar, dass groĂe Sprachmodelle auf der gesammelten Schriftkultur der gesamten Menschheit â von ihm als âEverythingâ bezeichnet â trainiert werden? Die Technik schreitee ohnehin unaufhaltsam voran, doch bleibt die ethische Dimension relevant. Sloan versucht, sich der Frage auf eine Weise zu nĂ€hern, die weder in einfache Ablehnung noch in naive Begeisterung verfĂ€llt.
Er setzt sich mit zwei möglichen Extremen auseinander. Falls KI-Modelle tatsĂ€chlich bahnbrechende wissenschaftliche Fortschritte ermöglichen â etwa durch medizinische DurchbrĂŒche oder die Lösung globaler Probleme â, könnte die Nutzung dieses âgemeinsamen Erbes der Menschheitâ gerechtfertigt sein. In dieser âSuper-Scienceâ-Perspektive wĂŒrde der kollektive Nutzen die fragwĂŒrdige Aneignung digitaler Inhalte aufwiegen. Doch gebe es dafĂŒr bisher nur vage Versprechen, keine greifbaren Beweise.
Auf der anderen Seite steht die Gefahr, dass KI vor allem dazu genutzt wird, generische Inhalte zu erzeugen, die menschliche KreativitĂ€t verdrĂ€ngen und die kulturelle Landschaft mit Massenware fluten. Sollte sich die Technologie in erster Linie als Werkzeug zur industriellen Produktion ramschiger und austauschbarer Medien erweisen â der âSlop Machineâ-Effekt â, dann wĂ€re die Aneignung von âEverythingâ nicht zu rechtfertigen.
Sloan beschreitet hier einen interessanten gedanklichen Pfad von TechnologieprĂŒfung, dem ich viel abgewinnen kann: Sollten wir uns bei technologischen Entwicklungen nicht die Frage stellen, ob eine Neuerung dem Gemeinwohl dient oder ob sie unsere soziale Struktur untergrĂ€bt? Diese Frage wurde von Tech-Konzernen nie wirklich gestellt, sodass wir uns nun in einer RealitĂ€t wiederfinden, in der sowohl vielversprechende Fortschritte im wissenschaftlichen Bereich als auch eine Flut austauschbarer KI-generierter Inhalte existieren.
Letztlich verweigert Sloan sich einer endgĂŒltigen Antwort. Er argumentiert, dass wir in einigen Jahren klarer sehen werden: Entweder werde KI tatsĂ€chlich tiefgreifende wissenschaftliche DurchbrĂŒche liefern, oder sie bleibe eine Maschine zur Massenproduktion von Inhalten â dann allerdings auf Kosten der menschlichen KreativitĂ€t. Bis dahin bleibt die Debatte offen, und sein Essay liefert eine kluge, reflektierte Perspektive auf das Spannungsfeld zwischen KI und unserem kulturellen Erbe.
Weâre Already at Risk of Ceding Our Humanity to AI (Surekha Davies)
KĂŒnstliche Intelligenz kann inzwischen Gedichte schreiben â aber die entscheidende Frage, wie ich finde, um die es geht: Sollten wir das ĂŒberhaupt wollen? Genau diese Frage wirft die Historikerin und Autorin Surekha Davies in ihrem Essay Weâre Already at Risk of Ceding Our Humanity to AI auf. Ausgangspunkt ist eine Unterhaltung, die sie 2019 in einer Bar in Rhode Island gefĂŒhrt hat. Ein Akademiker habe ihr erklĂ€rt, dass es groĂartig sei, wenn Maschinen Gedichte schreiben könnten â âdamit Menschen es nicht mehr tun mĂŒssenâ. FĂŒr Davies klingt das nicht nach Fortschritt, sondern nach einem schleichenden Verlust dessen, was uns als Menschen ausmacht.
KreativitĂ€t sei nicht nur Selbstzweck, sondern ein zutiefst menschliches BedĂŒrfnis. Ob Schreiben, Malen oder Musizieren â es gehe nicht darum, ein Produkt abzuliefern, sondern um den Prozess, um das Denken, FĂŒhlen und Wachsen, das dabei geschieht. Doch in einer Welt, in der Effizienz und Automatisierung ĂŒber alles gestellt werden, droht genau das unter die RĂ€der zu kommen. Davies sieht eine gefĂ€hrliche Entwicklung: Je mehr KI uns kreative und intellektuelle Arbeit âabnehmeâ, desto gröĂer werde das Risiko, dass wir Menschen selbst als ĂŒberflĂŒssig angesehen werden.
Dieses Denken ist kein Zufall, sondern Ergebnis einer technokratischen Ideologie, die alles, was sich nicht in Algorithmen und Profit umwandeln lĂ€sst, fĂŒr irrelevant erklĂ€rt. WĂ€hrend Tech-Konzerne Rekordgewinne einfahren, werden KĂŒnstler, Autoren und Journalisten durch generative KI zunehmend in die Bedeutungslosigkeit gedrĂ€ngt â oft mit Inhalten, die genau aus ihren eigenen Werken geklaut wurden. Gleichzeitig werden in NiedriglohnlĂ€ndern schlecht bezahlte ArbeitskrĂ€fte eingesetzt, um KI-Modelle von problematischen Inhalten zu âsĂ€ubernâ. WĂ€hrend in wohlhabenderen LĂ€ndern die Narrative dominieren, dass Maschinen ohnehin bald alles besser könnten als Menschen.
Davies zieht eine Verbindung zu Science-Fiction-Welten, die vor genau dieser Entwicklung warnen. Ob Blade Runner, Frankenstein oder Terminator â die Idee, dass Maschinen irgendwann nicht mehr nur Werkzeuge, sondern Rivalen oder gar Ersatz fĂŒr den Menschen sein könnten, ist nicht neu. Was heute allerdings anders sei: Diese Szenarien sind lĂ€ngst keine Dystopien mehr, sondern Teil unserer Gegenwart. KI wird bereits genutzt, um Hollywood-Schauspieler*innen digital zu ersetzen. Journalismus durch klickoptimierte KI-Texte zu verwĂ€ssern. Und Arbeitsprozesse zu entmenschlichen.
Doch der eigentliche Kampf geht nicht um Technik, sondern um Macht. Denn die Frage ist nicht, ob Maschinen besser dichten, zeichnen oder analysieren können als Menschen â sondern wer bestimmt, was das fĂŒr unsere Gesellschaft bedeutet. Davies warnt davor, diese Entscheidung den Konzernen zu ĂŒberlassen, die KI als Allheilmittel verkaufen. Denn wenn wir nicht aufpassen, wĂŒrden bald Maschinen nicht nur unsere Arbeit bestimmen, sondern auch darĂŒber, was uns als Menschen ĂŒberhaupt noch ausmacht.
Zum Schluss
Das hier passt ganz gut in den Themenkomplex Mensch, Maschine und unsere Beziehung zueinander. Der in San Francisco beheimatete (und vormals von Sam Altman gefĂŒhrte) Startup Accelerator Y Combinator findet, dass dies hier einen GlĂŒckwunsch zur MarkteinfĂŒhrung wert ist: ein KI-Startup mit KI-Ăberwachung fĂŒr industrielle FertigungsstraĂen. Diese Jungs sagen, dass sie ihr ganzes Leben, einschlieĂlich ihrer Kindheit, in Fabriken verbracht haben, die ihre Eltern leiten. Sie sind beide Studenten an der Duke University. Und was haben sie aus all diesen Erfahrungen mitgenommen? Chefs brauchen effizientere Wege, um ihre Arbeiter anzupöbeln.
Mehr lesen: Y Combinator Supports AI Startup Dehumanizing Factory Workers
Und ganz am Schluss möchte ich euch nochmal auf mein neues Podcastprojekt hinweisen: #DRANBLEIBEN - GesprĂ€che ĂŒber unsere Zukunftsoptionen. Dabei spreche ich mit Menschen, die neue Ideen einbringen. Die Zukunft aktiv mitgestalten. Die ihre Erkenntnisse teilen. Und die Mitstreiter*innen suchen.
đ§ In der ersten Folge geht es um Co-Creation â Zukunft gemeinsam gestalten.
Mein Gast: Stephan de Haas, Head of Co-Creation bei T-Systems. Er hat mit X-Creation eine Plattform aufgebaut, auf der Unternehmen, Wissenschaft und NGOs gemeinsam Lösungen fĂŒr drĂ€ngende Zukunftsfragen entwickeln.
Hier könnt ihr direkt reinhören:
Ich freue mich ĂŒber euer Feedback hierzu! đŁïž
Das war es fĂŒr heute. Bitte leitet oder empfehlt den Newsletter doch gerne weiter âĄïž âïž - das wĂŒrde mir sehr helfen. Danke euch fĂŒr die Aufmerksamkeit und bis zum nĂ€chsten Mal!
