đ #DRANBLEIBEN - Ausgabe 111
Ăber "KI", Faschismus, den Mars und Wunderglauben an Technologie
Heute hiermit:
â ĂŒber den âKI-Sommerâ â ob âKIâ dabei hilft, KreativitĂ€t zu demokratisieren (oder eher das Gegenteil macht) â ĂŒber die VCs und Tech-Execs, die Faschismus unterstĂŒtzen â ĂŒber âStucktopiaâ, wie wir âstuckâ sind - und welche Wege es daraus gibt â ob wir in 20 Jahren den Mars mit 1 Mio. Menschen besiedelt haben werden â ĂŒber die RĂŒckkehr des Wunderglaubens an die Technologie und ihre Lösungskraft â und noch einiges mehr!
Ich hoffe, ihr mögt meine Empfehlungen fĂŒr interessante Artikel aus den letzten paar Wochen. Vielleicht ist was wertvolles fĂŒr Euch dabei â đ° đïž
Gute Artikel
The AI summer (Benedict Evans)
Benedict Evans schaut hier mal wieder ein wenig unter die OberflĂ€che des rasanten Aufstiegs von GenAI und auf die sich daraus ergebenden Herausforderungen. Er zieht Parallelen zwischen dem aktuellen âKIâ-Boom und frĂŒheren technologischen UmwĂ€lzungen, wie die Dotcom-Blase oder das Aufkommen von Smartphones. Ein wichtiger Aspekt: wie viel Zeit brauchten damals und brauchen heute bedeutende technologische VerĂ€nderungen um in unseren Alltag dauerhaft und tief integriert zu werden?
Heute sind die AbhĂ€ngigkeiten von bestimmten Voraussetzungen, vor allem im Bereich der verfĂŒgbaren Hardware-Bedingungen, geringer. Aber dennoch gibt es ein PhĂ€nomen bei GenAI, welches wir verstehen mĂŒssen: Hunderte Millionen Menschen haben ChatGPT ausprobiert. Aber die meisten von ihnen sind danach nicht wieder zurĂŒckgekommen. Jedes groĂe Unternehmen hat irgendeinen Pilotversuch unternommen mit der Technologie. Aber viel weniger als gedacht sind davon auch im tĂ€glichen Einsatz. Evans sagt, einiges davon sei nur eine Frage der Zeit. Aber LLMs könnten auch eine Falle sein: Sie sĂ€hen aus wie ârichtige Produkteâ und sie sĂ€hen âmagischâ aus, aber sie seien es nicht. Er wirft in den Raum, dass wir uns vielleicht doch auf die langsame, langweilige Suche nach dem Produkt-Markt-Fit begeben mĂŒssen. Und vielleicht ist das auch gut so (meine Meinung).
As with every observation about the acceleration of tech adoption, a lot of this is âstanding on the shoulders of giantsâ - OpenAI didnât have to wait for people to buy devices or for telcos to build DSL or 3G. For consumers, ChatGPT is just a website or an app, and (to begin with) it could ride on all of the infrastructure weâve built over the last 25 years. So a huge number of people went off to try it last year. The problem is that most of them havenât been back. If you ask what âusedâ actually means, it turns out that most people played with it once or twice, or go back only every couple of weeks. [âŠ]
But if this is the amazing magical thing that will change everything, why do most people say, in effect, âvery clever, but not for meâ and wander off, with a shrug? And why hasnât there been much growth in the active users (as opposed to the vaguely curious) in the last 9-12 months, as shown in a bunch of similar surveys? [âŠ]
A lot of these charts are really about what happens when the utopian dreams of AI maximalism meet the messy reality of consumer behaviour and enterprise IT budgets - it takes longer than you think, and itâs complicated (this is also one reason why I think âdoomersâ are naive). The typical enterprise IT sales cycle is longer than the time since Chat GPT3.5 was launched, and Morgan Stanleyâs latest CIO survey says that 30% of big company CIOs donât expect to deploy anything before 2026. They might be being too cautious, but the cloud adoption [âŠ] suggests the opposite. Remember, also, that the Bain âProductionâ data only means that this is being used for something, somewhere, not that itâs taken over your workflows. [âŠ]
That rush means weâve skipped the slow painful period at the bottom of the S-Curve, where you try to work out what product-market fit looks like, while you build the actual product. The web, and e-commerce, and the iPhone had to go through a painful process of growing and learning to become useful. The App Store wasnât part of the plan for the iPhone, and Tim Berners-Leeâs original web browser included an editor, because this looked like a better network drive (ask your parents), not a publishing platform. LLMs skipped that part, where you work out what this is and what itâs for, and went straight to âitâs for everything!â before meeting an actual user. [âŠ]
Of course, the crazy dreams of the Dotcom bubble really did happen, and the AI maximalists might be right - it may be that LLMs can do the whole thing. LLMs may be able to swallow most or all of existing software, and they may be able to automate vast new classes of task that were never in software before, just by themselves and with whole new layers of product, company and enterprise sales built around them. This might be the first S-Curve in tech history that turns out to be a J-Curve. But not this year.
AI is not "democratizing creativity." It's doing the opposite (Brian Merchant)
Brian Merchant setzt sich hier kritisch mit der weit verbreiteten Behauptung auseinander, âKĂŒnstliche Intelligenzâ wĂŒrde die KreativitĂ€t demokratisieren (ein fĂŒrchterlicher Begriff, zumindest in der Form, wie er in diesen Kontexten derzeit verwendet wird). Er argumentiert, dass diese Behauptung irrefĂŒhrend sei. Dass âKIâ in Wirklichkeit das Gegenteil bewirke. NĂ€mlich indem sie die Lebensgrundlage von Kreativschaffenden untergrĂ€bt. Indem sie dabei hilft, Macht und Reichtum in den HĂ€nden von Unternehmen und wenigen Tech-MilliardĂ€ren immer weiter zu konzentrieren.
This is because if you spend more than 45 seconds thinking about it, rather than allowing it to glitch past at 2x speed on a business podcast, it becomes so patently ridiculous that it is almost offensive. I know it is offensive to many artists, especially since itâs deployed in service of achieving *precisely the opposite aim* that it purports to. AI will not democratize creativity, it will let corporations squeeze creative labor, capitalize on the works that creatives have already made, and send any profits upstream, to Silicon Valley tech companies where power and influence will concentrate in an ever-smaller number of hands. The artists, of course, get 0 opportunities for meaningful consent or input into any of the above events. Please tell me with a straight face how this can be described as a democratic process. [âŠ]
To the big AI companies, none of that enters into the equation. The democratization pitch is aimed not at aspiring artists, but at tech enthusiasts who may or may not feel that largely abstracted gatekeepers have been unkind to them or derided their cultural contributions, who feel satisfaction at seeing slick-looking images produced from their prompting and eagerly share and promote the results, and industries who read the âdemocratizeâ lingo as code for âcheapâ, and would like to automate the production of images, text, or video. The AI companies, of course, do not much care if they take a wrecking ball to the already fragile creative economy. Creatives are already losing work, seeing pay rates decline, and asked to use AI to improve their productivity. In another of her defenses of AI art, Andreessenâs Moore argues that AI helps artists produce more outputâwhich, hooray! Artists get to crank out more work for the same or, soon, lower price, spending less time on craft and more on jamming the generate button, and so the value of art on the market tumbles down. People often say they wish the tech set would take more humanities classesâI wish theyâd study some political economy. [âŠ]
Thereâs plenty that companies like OpenAI could do if the were earnestly interested in âdemocratizingâ anything. To start, they could compensate writers, artists, coders, and other creative workers for the material theyâre already training their automation systems on. They could seek meaningful consent from these workers as to how or whether theyâd like their stuff treated in the training corpuses. But they wonât. Because the major AI companies arenât interested in democratizing creativityâtheyâre interested in transmuting it into profit.
Und das Dilemma ist, dass nicht nur die Big Tech Execs und GrĂŒnder*innen, Entwickler*innen, Business Developer*innen, etc. von Unternehmen im GenAI-Ăkosystem den Faktor Mensch auf der Input-, Output-, Impact-Seite so naiv oder auch geringschĂ€tzend zu betrachten scheinen. Eine Haltung von âAch, wie kann ich denn mit diesen Tools jetzt meine Dienstleister*innen drĂŒcken und drangsalieren?â breitet sich blitzschnell in unterschiedlichsten Industrien aus. Auch in Kreativindustrien, die eigentlich ein besseres GespĂŒr fĂŒr den menschlichen Faktor im Kreativprozess haben sollten. Eine wirklich passende, und bedrĂŒckende Geschichte hierzu lĂ€sst sich ganz aktuell hier auf LinkedIn nachlesen:
đ Danke an Sven KrĂŒger, durch den ich darauf aufmerksam geworden bin! Und der dazu schreibt:
Speziell beim Einsatz algorithmischer Systeme wĂŒnschen wir uns eine Verbesserung der LebensumstĂ€nde, die oft auch eine Verbesserung von QualitĂ€t bedeutet. DafĂŒr gibt es auch viel Potenzial, das aber nur sinnvoll gehoben wird, wenn bei diesen Ăberlegungen die beteiligten MENSCHEN im Vordergrund stehen. Die vielzitierte âKI-Ethikâ und âResponsible AIâ und Ă€hnlich diffusen Kram kann man dann getrost vergessen â die relevante Ethik ist die Ethik des Handelns im konkreten Fall von konkreten Personen und genauso verhĂ€lt es sich auch mit der Verantwortung.
Voller Support!
Ebenfalls sehr lesenswert von Brian Merchant in diesem Themenkomplex đ:
Hier geht es um den Hype der âKIâ und wie wichtig er fĂŒr zentrale Akteur*innen in diesem Ăkosystem ist, um die Maschine am laufen zu halten (und die erhofften gigantischen Financial Returns in der Zukunft zu sichern):
Yet AI scientists [âŠ] repeatedly caution that we need to be intensely skeptical of claims that, say, LLMs are better than humans at basic tasks. And it appears, as noted by the cognitive scientist Gary Marcus and others, that the AI models arenât improving as fast as they had in the past â they may in fact be plateauing. If thatâs the case, then a lot of these models will be stuck at reliability rates of around 80% â enough for noncritical text and image generation, but nothing a serious business would want to rely on for important documents or public-facing materials. It may well be that all these businesses that have bought into the enterprise tier AI systems use them for a few months to a year, and discard them as the hype dies down. [âŠ]
Again we see why itâs crucial that hype is maintained at near-apocalyptic levels; if itâs not getting results for a certain use case, well maybe Iâm just not using it right? This is the anointed technology right now, and Microsoft, Google, Meta, and $100 billion of valuation couldnât be wrong, right? If that hype drifts away, we may be left with an impressive but quirky technology, largely trained on the work of artists and writers who were not paid or consulted, and that has a few niche use cases for automating away the ones still currently trying to make a living. Considering how expensive and resource intensive the technology is to run, well, thatâs not going to be worth $100 billion, and it could all fall to earth â and take a hell of a lot with it in the process. [âŠ]
Andreessen Horowitz co-founders explain why theyâre supporting Trump (Techcrunch)
Netscape-GrĂŒnder, Tech-MilliardĂ€r und Venture Capitalist Marc Andreessen war sein ganzes Leben lang eigentlich ein Demokrat (hat er zumindest gesagt). Nun scheint er aber froh zu sein, dass er das in diesem Jahr aufgeben kann. Offensichtlich glaubt er, dass Trumps Politik fĂŒr die Tech-Branche und insbesondere fĂŒr das Startup-Ăkosystem aussichtsreicher ist. Einer seiner Hauptkritikpunkte an demokratischer Politik? Der Plan der Biden-Regierung, âKIâ zu âĂŒberregulierenâ. Laut Andreessen darf âKIâ aber keinerlei EinschrĂ€nkungen durch uns Menschen erfahren. Das ist alles wenig ĂŒberraschend, wenn man sich nochmal Andreessens âTechno-Optimist Manifestoâ vom FrĂŒhjahr in Erinnerung ruft (siehe auch meine Kommentierung dazu in #dranbleiben Ausgabe 105).
Nun ja, keine EinschrĂ€nkungen mögen gut fĂŒr die Wirtschaft sein (und fĂŒr das Geldverdienen von Tech-VCs und anderen einflussreichen Leuten in diesem Ăkosystem). Aber sind keine EinschrĂ€nkungen fĂŒr âKIâ auch gut fĂŒr die Welt, fĂŒr den Rest von uns Menschen?
Andreessen explained his reasoning and how the two presidential candidatesâ programs stack up against each other in the latest âThe Ben & Marc Showâ episode, a podcast that he co-hosts with a16z co-founder Ben Horowitz. âI wish we didnât have to pick a side,â said Horowitz, who also acknowledged that his political choice would upset many of his friends and even his mother. âWe literally [believe] the future of our business, the future of technology, and the future of America is at stake.â
âAny limitations we put [on] ourselves are going to disadvantage the U.S. versus the rest of the World,â Andreessen said. [âŠ]
Bidenâs proposal to tax unrealized capital gains is what Andreessen called âthe final strawâ that forced him to switch from supporting the current president to voting for Trump. If the unrealized capital gains tax goes into effect, startups may have to pay taxes on valuation increases. [âŠ] âIf youâre a venture firm, youâre getting strips of your portfolio pulled away from you every year. Youâre out of business,â Andreessen said. âThis makes startups completely implausible.â
So sprechen Leute, die sich Sorgen darum machen, dass das weitere Mehren ihres Ăberreichtums ins Stocken geraten könnte. Dann doch lieber Faschismus, oder?
Ebenfalls lesenswert zum Thema Tech-Industrie und Faschismus-Support ist dieser Artikel beim SPIEGEL: US-Unternehmer David Sacks: Dieser MultimillionĂ€r ist das Sprachrohr fĂŒr die Tech-Trumpisten
Welcome to Stucktopia (Hillary Kelly)
Im hektischen Alltag ĂŒbersehen wir oft die unaufhaltsamen VerĂ€nderungen in der Natur. Auf den grundlegendsten Ebenen verĂ€ndern sich Dinge langsam, aber dennoch unaufhaltsam. Gleichzeitig erleben wir in Bereichen wie Unterhaltung, Politik und Popkultur eine beispiellose Schnelllebigkeit. Auf den dazwischen liegenden Ebenen dringt der Wandel allmĂ€hlich durch Institutionen, Glaubenssysteme und Kultur â manchmal langsam, manchmal schneller, gelegentlich sanft, oft chaotisch. Es ist heutzutage schwierig, eine gelassene, taoistische Haltung wie "keine Eile" zu bewahren, wenn stĂ€ndig nach schnellen VerĂ€nderungen gerufen wird. Diese Spannung fĂŒhrt oft zu einem GefĂŒhl des Feststeckens. In ihrem lesenswerten Artikel "Stucktopia" beschreibt Hillary Kelly diesen Zustand und analysiert aktuelle Fernseh- und Kinofilme, in denen die Charaktere verzweifelt versuchen, auszubrechen. Auch wir versuchen oft, unserem eigenen "GefĂ€ngnis" zu entkommen, oder?
The resonance is chilling: Television has managed to uncannily capture the way life feels right now. Weâre all stuck. Whatâs being portrayed is not exactly a dystopia. Itâs certainly not a utopia. Itâs something different: a stucktopia. These fictional worlds are controlled by an overclass, and the folks battling in the mire are underdogs â mechanics, office drones, pilots and young brides. Yet theyâre also complicit, to varying degrees, in the machinery that keeps them stranded. Once they realize this, they strive to discard their sense of futility â the least helpful of emotions â and try to find the will to enact change.
The stucktopia might seem resonant to you, too. Time is a flat circle. The same two political candidates are running for president, while parodic commentary is once again being provided by Jon Stewart, who first hosted âThe Daily Showâ in 1999. Congress produces little more than increasingly outlandish sound bites. There are protests nearly every day, yet no resolution or change. Mass culture has come to a standstill, with endless reboots and resuscitations. Thanks to knockoff mania and fast fashion, clothes and dĂ©cor look like copies of copies. We spent a pandemic locked up in our homes, and the outside world â with superstorms and deadly heat waves â is no longer the respite Thoreau once envisioned. If we retreat into our phones, we end up algorithmically chasing ourselves down familiar rabbit holes.
Pop culture, performing its canary-in-the-coal-mine function, has been trying to warn us about stucktopia. Every age gets the dystopian nightmares it most fears: In the 1930s and â40s, it was George Orwell and Aldous Huxleyâs visions of totalitarianism; at the millennium, it was dark imaginings of societal collapse, whether a zombie apocalypse or the hunger games. Our new fictional nightmares are all about being trapped: mice running in an endless maze, too cowed by the complexity of the system to plow through the dead ends and find freedom.
Was ich mag: egal, wo wir sind, wir dĂŒrfen und können immer einen optimistischen Gedanken fassen⊠der vielleicht in eine tatsĂ€chliche Verbesserung mĂŒndet:
Weâre not stuck in our circumstance. Weâre stuck in the ways of living that perpetuate it. If enough of us give up the sense that things are inevitable â that weâre stuck â itâs possible that we can course-correct humanity, or at least nudge it toward a hopeful path. Thereâs another more realistic option that offers a thrill and reward of its own. If we donât let the stucktopia keep its hold on us, if we rebuke it, maybe we shift ourselves ever so slightly toward optimism, and give the system whatever small hell we can.
Elon Muskâs Plan to Put a Million Earthlings on Mars in 20 Years (Kirsten Grind, New York Times)
Das hier ist eine der absurdesten Geschichten, die ich seit langer Zeit von Musk gehört habe. Und zeigt, wie völlig entrĂŒckt dieser Mensch offensichtlich ist. Er scheint nun tatsĂ€chlich SpaceX Ressourcen dafĂŒr in Bewegung zu setzen, dass in bereits 20 Jahren 1 Million Menschen den Mars kolonisieren sollen. Naja, vielleicht passieren dann die beiden Meilensteine â1 Millionen Menschen auf dem Marsâ und âwirkliches Full-Self-Driving von Tesla Autosâ gleichzeitig⊠in 20 Jahren. đ
Diesen Artikel kann man sich antun, wenn man sehen möchte, was GröĂenwahn bedeutet.
Mr. Musk [âŠ] has directed SpaceX employees to drill into the design and details of a Martian city, according to five people with knowledge of the efforts and documents viewed by The New York Times. One team is drawing up plans for small dome habitats, including the materials that could be used to build them. Another is working on spacesuits to combat Marsâs hostile environment, while a medical team is researching whether humans can have children there. Mr. Musk has volunteered his sperm to help seed a colony, two people familiar with his comments said. [âŠ]
Mr. Musk has long tried to defy the impossible and has often managed to beat tough odds. But his vision for life on Mars takes his seemingly limitless ambitions to their most extreme â and some might say absurdist â point. No one has ever set foot on the planet. NASA doesnât expect to land humans on Mars until the 2040s. And if people get there, they will be greeted by a barren terrain, icy temperatures, dust storms, and air that is impossible to breathe.
Denke ich an Musk und den Mars, dann ist fĂŒr mich ĂŒbrigens die realistischste Vision einer Umsetzung ganz schön nah dran am Film âTotal Recallâ. Wer hatâs gesehen? Wer erinnert sich?
Das ganze wĂŒrde dann wahrscheinlich so aussehenâŠ
Passendster Kommentar zum Thema Besiedelung anderer Planeten ist fĂŒr mich ĂŒbrigens von âCaptain Picardâ Patrick Stewart, bereits von 2004:
Jetzt muss man sich nur noch vorstellen, dass er bereits 2004 eine Person wie Elon Musk in solch einer Gemengelage antizipiert hĂ€tteâŠ
Technologischer Fortschritt: Die RĂŒckkehr des Wunderglaubens (Christian Stöcker, Der Spiegel)
Ein toller Artikel von Christian Stöcker. Er ist Psychologe, Journalist, Autor, Professor und bekannt fĂŒr seine Arbeit zu digitalen Medien und gesellschaftlichen Auswirkungen der Technologie. Und schreibt diese stets lesenswerte Kolumne im Spiegel. Er kritisiert hier anhand verschiedener Themenfelder, dass uns Stilarten des âWunderglaubensâ fĂŒr die Lösung groĂer Probleme der Menschheit gerade in die Irre fĂŒhren. FĂŒr ihn steht fest, und das teile ich, dass der Wunderglaube an technologische Lösungen uns davon abhalten wird, wirklich notwendige und effektive MaĂnahmen zu ergreifen. Sowohl um die Risiken welche sich rund um die âKIâergeben zu lösen, als auch die Klimakrise zu bewĂ€ltigen. WĂ€hrend spekulative Weltuntergangsszenarien ĂŒber âKIâ diskutiert werden, stellt der unerschĂŒtterliche Glaube an unbewiesene Technologien zur Lösung der Klimakrise eine unmittelbarere Bedrohung dar.
Der andere Bereich, in dem im Moment stĂ€ndig Wunder herbeigeredet werden, ist die BekĂ€mpfung der Klimakrise. Hier allerdings mit anderen Vorzeichen. Gerade hierzulande werden derzeit stĂ€ndig Luftschlösser gebaut, mit dem durchsichtigen Ziel, möglichst wenig gegen die Klimakrise zu unternehmen. Zur Liste dieser Wunder gehören: Die magische Vermehrung des grĂŒnen Wasserstoffs, Die magische Vermehrung von E-Fuels, Die magische Entfernung von COâ aus der Luft, Die magische Energiequelle Kernfusion. Gerade die erklĂ€rten Fans der »Effizienz des Marktes« haben mit dem VerstĂ€ndnis des Konzepts Energieeffizienz offenbar massive Schwierigkeiten. Der grĂŒne Wasserstoff in Europa wird auf absehbare Zeit ohnehin nicht reichen, [âŠ]: Um auch nur die Wasserstoffziele zu erreichen, die die EU sich selbst gesetzt hat, mĂŒssten ihm zufolge in den kommenden sieben Jahren pro Jahr zehn Wasserstofffabriken gebaut werden, die dem gröĂten aktuell im Bau befindlichen Projekt Chinas entsprechen. Zehn. Pro Jahr. Klingt, als wĂ€ren auch dafĂŒr Wunder erforderlich. GrĂŒner Wasserstoff wird auf absehbare Zeit knapp und teuer bleiben. Erneuerbar erzeugter Strom muss immer und ĂŒberall so eingesetzt werden, dass möglichst wenig davon verloren geht. Und das ist sowohl beim Heizen als auch beim Auto geklĂ€rt, denn, wie gesagt, Thermodynamik verhandelt nicht: Den Strom direkt zu nutzen, ist immer die effizienteste Lösung.
Wunderglaube ist auch die zum Beispiel von Friedrich Merz gern beworbene vermeintliche Lösung, COâ mit Direct Air Capture (DAC) direkt aus der Luft zu holen. Es wĂ€re schön, wenn das ginge, aber es kostet im Moment 300 Euro pro Tonne COâ, mehr als dreimal so viel wie der aktuelle Preis fĂŒr COâ-Emissionsrechte. Auch hier haben wir es also mit Wunderglauben zu tun, nicht mit Pragmatismus. Aber DAC gibt es zumindest im kleinen MaĂstab immerhin tatsĂ€chlich. FĂŒr Kernfusion, die Energiequelle, von der Merz, Christian Lindner und andere immer schwĂ€rmen, um in der Gegenwart nichts tun zu mĂŒssen, gilt das nicht. Es gibt keinen funktionierenden Fusionsreaktor, schon gar keinen, der wirklich Strom ins Netz liefern könnte, und das wird wohl noch jahrzehntelang so bleiben . Die 1,5-Grad Schwelle werden wir aber vermutlich bereits in den kommenden zehn bis fĂŒnfzehn Jahren ĂŒberschreiten.
Goodies zum Schluss
GierâŠ
Besondere Klarheit. Das hier đ mal auf der Zunge zergehen lassen. Völlig unabhĂ€ngig davon, was man von Konzepten/Vorhaben wie â4-Tage-Wocheâ (ĂŒbrigens ganz unredlich als Kulturkampf-Narrativ von Konservativen herangezogen) hĂ€lt, die so deutliche GegenĂŒberstellung von âWohlstandâ und âschöneres Lebenâ finde ich mindblowing. Muss man mehr ĂŒber das Weltbild eines Politikers wissen, als das hier?
Ein Real-Life Enrico Palazzo Moment⊠đ
Das war es fĂŒr dieses Mal. Habt ein schönes Wochenende. Und einen guten Start in die neue Woche! Bis zum nĂ€chsten Mal!