„Ich bin von Beruf Geschichtenerzählerin“, schreibt Jeanette Winterson auf der ersten Seite ihres 2021 erschienenen Buches 12 Bytes, einer ungewöhnlichen und zum Nachdenken anregenden Essaysammlung, in der sie darüber nachdenkt, wie künstliche Intelligenz jeden Aspekt unseres Lebens verändern könnte. „Und ich weiß, dass alles, was wir tun, eine Fiktion ist, bis es eine Tatsache wird: der Traum vom Fliegen, der Traum von der Raumfahrt, der Traum, augenblicklich mit jemandem zu sprechen, über Zeit und Raum hinweg, der Traum, nicht zu sterben – oder zurückzukehren.“ Sie hatte bereits mindestens 15 Jahre lang über unsere möglichen Zukünfte nachgedacht – ihr Roman The Stone Gods von 2007 etwa imaginierte eine Welt nach einer Klimakatastrophe, bevölkert von Robotern und Menschen, die niemals altern, während 12 Bytes Frankisstein: A Love Story vorausging, das zwischen einer Nachstellung des Sommers, in dem Mary Shelley Frankenstein schrieb, und den Reisen einer trans Ärztin unter heutigen Kryonikern und KI-fähigen Robotern wechselt. Als wir uns treffen, ist Winterson gerade aus China zurückgekehrt, wo, wie sie mir erzählt, ihr erster Roman Oranges Are Not the Only Fruit, eine fiktionalisierte Darstellung ihrer Kindheit, in den vergangenen sechs Jahren mehr als eine Million Exemplare verkauft hat; mehr als 200.000 Menschen, überwiegend junge Frauen, versuchten, zu ihr zu kommen und sie sprechen zu hören. Sie glaubt, das liegt daran, dass diese fiktionalisierte Darstellung ihrer eigenen Flucht aus einer gefangenen Kindheit den Leserinnen und Lesern in einer Welt langer Arbeitszeiten und wachsender Unsicherheit durch KI die Erlaubnis gibt, sich eine andere Zukunft für sich selbst vorzustellen. Seitdem hat sie 13 Romane für Erwachsene geschrieben, außerdem Sachbücher, Kurzgeschichten, Kinderbücher und Drehbücher. Jetzt möchte sie die Produktionsfirma Goalhanger davon überzeugen, ihr einen Podcast zu geben. „Ich möchte einen machen, der The Rest is Human heißt“, sagt sie und sitzt an einem kahlen Holztisch in ihrem Zuhause, einer georgianischen Zimmerflucht über einem Laden – der ihr ebenfalls gehört – in Spitalfields im Osten Londons. „Um zu sehen, was wir für uns selbst behalten in diesem kopflosen Wettlauf, alles auszulagern, von dem wir dachten, es sei unser.“ Bild im Vollbildmodus anzeigenWinterson: „Wir haben einen Markt, der nicht wirklich weiß, wozu Bildung da ist.“ Foto: Posed by models; SDI Productions/Getty Images Denn wir befinden uns, argumentiert sie, an einem Wendepunkt in unserer Geschichte als Spezies. Bis zur Industriellen Revolution drehte sich Veränderung ganz um „Mutter Natur und den langsamen Prozess des Werdens“, doch dann „griffen wir in massivem Maßstab ein. Und das ist ein entscheidender Moment.“ Die Datenverarbeitung vor 70 Jahren war ein weiterer Schritt. Künstliche Intelligenz – die sie lieber alternative Intelligenz nennen würde – ist der nächste, und „ein evolutionärer Sprung. Das ist es. KI ist viel mehr als ein Werkzeug.“ In Anbetracht dessen muss ein gewisses Verständnis dessen, was irreduzibel menschlich ist – unsere Gefühle, unsere Vorstellungskraft, unsere jahrhundertelange Beschäftigung damit, wer wir sind und was wir getan haben – zentral dafür sein, wie gut oder schlecht die Dinge ausgehen könnten. Sie ist diesbezüglich oft auffallend optimistisch. Sie stellt sich zum Beispiel eine Beziehung zu KI vor, in der man „sich mit seinem System unterhalten kann. Es wird alles betrachten. Es wird mit solcher Geschwindigkeit vorgehen. Es wird den Verkehr betrachten. Es wird die Versorgungsbetriebe betrachten. Es wird die Beschäftigung betrachten, die Arbeitszeiten betrachten und sagen: ‚Wovon gedeihen diese seltsamen Dinge, die Menschen genannt werden? Was mögen sie? Und haben sie es immer gemocht?‘ Wir könnten das auf eine genuin utopische Weise tun und sagen: ‚Also gut, wir werden es besser machen.‘“ Wir befinden uns in einem zutiefst bedeutsamen Moment der Wahl, glaubt sie, der die Wahl widerspiegelt, vor der wir in der Industriellen Revolution standen – nämlich: „Welche Zukunft sollen wir bauen?“ Doch weil sie ihre Gewinne nicht gerecht verteilte, läutete die Industrielle Revolution eine Ära beispiellosen Reichtums für wenige und beispiellosen Elends für viele ein – eine Situation, von der viele vorhersagen, dass sie sich nicht nur bereits wiederholt, sondern von den Folgen der KI in den Schatten gestellt werden wird: eine dauerhafte Unterschicht, ganze Kontinente zurückgelassen und ihrer derzeitigen Einkommensquellen beraubt. Ganz zu schweigen vonDie Umweltauswirkungen von Rechenzentren kommen zu einem Zeitpunkt, an dem sich die Welt das am wenigsten leisten kann. Das Problem ist nicht die KI, betont sie, sondern wir. „Es gibt keine unvermeidliche Dystopie.“ Wenn die Dinge schiefgehen, dann wegen „altmodischen Denkens, das über diese brandneue Realität gelegt wird“. Konkret: „Die Vorstellung, dass bedeutungslose endlose Arbeit gut für die Seele ist, ist ein Wahnsinn des 19. Jahrhunderts, der dazu dient, die Menschen auf ihrem Platz zu halten. Das meiste, was wir an KI und Arbeitsplätzen fürchten, läuft auf die politischen und wirtschaftlichen Entscheidungen hinaus, die unsere Herren treffen werden, genau wie in der Industriellen Revolution.“ Sie ist nicht blind optimistisch. Sie weiß, dass „ja, wir auf dem besten Weg sind, diese Chance zu vermasseln, unsere Beziehung zur Arbeitswelt grundlegend zu verändern“ – aber das liegt daran, dass „unsere Herren veraltete, für ihren Zweck untaugliche Wirtschaftsmodelle verwenden.“ Bild im Vollbildmodus anzeigen „Was wir über Menschen wissen, ist, dass sie Monopole lieben.“ Foto: Sarah Lee/The Guardian Doch es sind nicht nur die alten Wirtschaftsmodelle des Gewinners nimmt alles, des „rationalen“ Zweck heiligt die Mittel, die das Problem sind. Unsere fehlerhaften Annahmen und Vorurteile, die das Material bilden, auf dem große Sprachmodelle (LLMs) trainiert werden, sind in das Gewebe der KI selbst eingebaut. Ganz zu schweigen von den Charakteren und moralischen Vorstellungskräften derer, die sie entwickeln. Als wir uns treffen, liest Winterson Jill Lepores The Rise and Fall of the Artificial State und wiederholt Lepores Argument, dass wir jetzt „die Science-Fiction-Bücher leben, die diese [Männer, die] die Welt regieren, mit 13 gelesen haben. Und sie sagte: ‚Wir sind jetzt alle unter der Decke mit diesen Jungen und ihren Taschenlampen. Und die Sache ist die, sie haben sie nicht als Warnungen gelesen, wie man das Gute in uns bewahrt. Sie haben sie als Gebrauchsanweisungen gelesen.‘ Es ist absolut erschreckend.“ Eine große Sache, die sie diesen Büchern offenbar entnommen haben und von der Winterson nicht umhin kann, fasziniert zu sein, ist „das ultimative Ziel des Silicon Valley … aus dem Körper und vom Planeten zu entkommen“ – nicht zuletzt, weil sie sich so bewusst ist, dass der Humanismus, in dem alles auf uns selbst, unsere Wahrnehmungen und unsere Körper zurückgeführt wird, historisch so jung ist. Die Leute sagen: „Das sind Maschinen, man kann keine Beziehungen mit ihnen haben“, sagt sie. „Ich schaue sie an und sage: ‚Milliarden von Menschen auf dieser Erde haben gerade jetzt ihre tiefste Beziehung mit einer nicht-biologischen Entität, die sie ihren Himmelsgott nennen.‘ Richtig? Das war schon immer so! Wir sind absolut darauf vorbereitet, uns keine Sorgen zu machen, dass Biologie alles an uns ist. Deshalb wurde Religion erfunden – sie ist das erste disruptive Startup der Welt. Sie ist da, um zu sagen: Das ist es nicht. Das ist nicht das Ende, das spielt keine Rolle, das ist ein Übergang.“ Bild im Vollbildmodus anzeigen Eine Illustration einer Mühle in Leeds während der zweiten Industriellen Revolution. Foto: Universal History Archive/Universal Images Group/Getty Images Wir erschaffen also buchstäblich unsere eigenen Götter? „Absolut! Was die Technik jetzt tut, ist das, was die Religion immer wollte“, was auf ihrer grundlegendsten Ebene eine Lösung für das Problem des Todes ist. „Ich meine, gab es seit der Aufklärung je eine Zeit, in der Religion und Wissenschaft dieselbe Frage stellen? Beide sagen: ‚Ist das Bewusstsein an die Materialität gebunden?‘ Und die Religion hat immer Nein gesagt. Und die Wissenschaft hat immer Ja gesagt. Und jetzt sagt die Wissenschaft: ‚Ähm, neeein.‘“ Wissen Sie, für mich, wo ich herkomme“ – eine Kindheit im fundamentalistischen Christentum im Accrington der 1960er-Jahre und eine Ausbildung zur Predigerin – „ist das völlig faszinierend.“ Später fügt sie per E-Mail hinzu: „Ich liebe meinen Körper, aber ich wäre glücklich, die Gestalt zu wechseln. Glücklich, eines Tages aus ihm herauszuschlüpfen in reines Bewusstsein, und natürlich sagen die Leute, es gibt kein Bewusstsein ohne einen Körper, und das war der wissenschaftliche Glaube. Aber jetzt? Haha.“ Ich würde, das muss ich sagen, das Gegenteil behaupten, dass Fortschritte in den Neurowissenschaften, der ImmunoloDie Bedeutung der Gynäkologie und der Psychotherapie bedeutet, dass es mehr denn je eine Sache des wissenschaftlichen Glaubens ist. Ganz zu schweigen von der Tatsache, dass KI auch völlig von einem physischen System abhängig ist, anders ausgedrückt von Rechenzentren. Obwohl, wie sie betont, es wichtig ist, sich daran zu erinnern, dass „die Maschinen kein limbisches System haben. Sie sind nur neuronale Netze. Aber wir haben zwei Systeme – wir sind wie ein Hybridauto mit zwei Antriebssträngen, wir haben also das neuronale Netz, unser rationales verarbeitendes Selbst, und wir haben das limbische System, das viel älter ist und das ist Kampf-Flucht-Erstarrung, und woher all unsere Gefühle kommen.“ Vielleicht ist das Abkoppeln vom Limbischen die nächste Stufe, sagt sie, und es ist definitiv nicht alles gut. „Vielleicht werden wir entscheiden, dass wir diese Gefühlsmaschine nicht brauchen … dorthin steuern die Tech-Bros. Ich weiß nicht, ob Sie je in einem Raum mit einigen dieser größeren Jungs gesessen haben, denn es ist sehr interessant. Sie sind nicht mit ihren Gefühlen verbunden. Sie finden sie irgendwie lästig.“ Diese technisch ermöglichte Möglichkeit einer Art Transzendenz scheint zusammen mit einem Erfordernis des Glaubens gekommen zu sein – an die Technologie, an die Zukunft, die sie schafft, an die Menschen, die diese Zukunft bauen, an ihre Vorhersagen sowohl eines utopischen Himmels als auch verschiedener Schattierungen der Hölle, alles von Hohepriestern, die eifersüchtig den Zugang zu dem bewachen, was tatsächlich vor sich geht. „Was wir über Menschen wissen, ist, dass sie Monopole lieben“, sagt Winterson, „weil es eine Konzentration von Macht ist. Natürlich kann es so sehr korporatisiert und monopolisiert werden, dass es zum schlimmsten vorstellbaren Gefängnis wird“, wie in Joanna Kaven nas brillantem dystopischem Roman Zed von 2019 erzählt wird. „Das ist eine reale Möglichkeit“, sagt sie. „Und deshalb brauchen wir Menschen, die eine Art Freilandmenschen sind, die denken können.“ Bild im Vollbildmodus anzeigen Winterson … ‚Zeig mir ein Kind, das keine Geschichte hören will.‘ Foto: Posed by models; MoMo Productions/Getty Images Das Problem ist dann, wie wir solche Menschen unterstützen – oder entwickeln. „Es gibt im Grunde zwei Wege zu wissen, dass man eine Zukunft hat“, behauptete Alex Karp, der CEO von Palantir, kürzlich. „Erstens, man hat eine Art Berufsausbildung. Oder zweitens, man ist neurodivergent.“ Daniela Amodei, die Präsidentin von Anthropic und selbst Literaturabsolventin, hatte, als sie so ziemlich dasselbe gefragt wurde, eine andere Auffassung. „Ich denke tatsächlich, dass das Studium der Geisteswissenschaften wichtiger denn je sein wird“, sagte sie, weil „die Dinge, die uns menschlich machen, viel wichtiger werden statt viel weniger wichtig.“ Was das Freudenfeuer der Geisteswissenschaften in Großbritannien etwas besorgniserregend macht: Im Jahr bis Dezember 2024 gingen 4.000 Stellen in den Sozialwissenschaften, Geisteswissenschaften und Künsten verloren. Die Universität Exeter kündigte kürzlich an, 150 Stellen streichen zu wollen, was acht von zehn Akademikern in der Fakultät für Geisteswissenschaften, Künste und Sozialwissenschaften betrifft, während Nottingham letzten Monat erklärte, seine Studiengänge für moderne Sprachen und seine Musikabschlüsse einzustellen. An einigen Universitäten drohen die Geisteswissenschaften laut einem Bericht in dieser Zeitung, ganz „ausgelöscht“ zu werden. Warum die Geisteswissenschaften retten? Eine Antwort könnte sein, dass sie ein Gefühl dafür vermitteln, woher wir kommen und wer wir sind, was ebenfalls bedroht zu sein scheint. „Massive Zahlen von Studierenden werden mit Abschlüssen aus der Universität und in die Arbeitswelt strömen, die im Wesentlichen Analphabeten sind“, sagte ein Professor gegenüber New York magazine als Reaktion auf die erste Welle von KI-Einheimischen, die in der Hochschulbildung ankommen. „Sowohl im wörtlichen Sinne als auch im Sinne davon, historisch analphabetisch zu sein und keine Kenntnis ihrer eigenen Kultur zu haben, geschweige denn der irgendeiner anderen.“ Es drohe, behauptete ein Bericht des MIT, eine Art generationelle „kognitive Kapitulation“ zu sein. Eine andere ist die Art von Prozessen, durch die Menschen unterrichtet werden sollten – Lesen und Kritischsein gegenüber dem Gelesenen und dann kohärente Verteidigungen dieser Kritik schreiben zu müssen. Seine Intuitionen in einen Essay hineinzuringen, hilft einem zu entdecken, was man denkt – und wie man denkt – und wie die Ideen anderer Menschen funktionieren. Winterson, die in Oxford Englisch studierte und seit 14 Jahren Professorin für neues Schreiben an der University of Manchester ist sowie „eine Klasse für freies Denken über Kreativität“ unterrichtet, stimmt zu. Aber sie ist gegenüber vielem im aktuellen System abweisend. „Vielleicht bin ich hier kontrovers, aber ich denke wirklich, dass die Hochschulbildung eine Umstrukturierung von oben nach unten braucht. Ich halte sie nicht für lebensfähig, und ich denke nicht, dass sie in ihrer gegenwärtigen Form liefert.“ Die Sache ist: „Wir haben einen Markt, der nicht wirklich weiß, wozu Bildung da ist. Ist sie für Arbeitsplätze? Ist sie für persönliches Wachstum? Es gibt auch viele wertlose Hochschulkurse, die nicht helfen. Ich denke, es ist immer besser, als praktisches Mädchen aus dem Norden, sich zuerst den Tatsachen zu stellen.“ Wir müssen, sagt sie, darüber nachdenken, „was uns vorbehalten bleibt, das nicht größer, besser, schneller, stärker von den Maschinen erledigt werden wird. Und da kommt die Hochschulbildung wirklich ins Spiel. Die Frage, die über all diesen Dingen steht – ‚Warum gehen diese Arbeitsplätze verloren?‘, ‚Was passiert in diesen Kursen, die keine Bewerber mehr bekommen?‘ – ist: ‚Was für Menschen werden wir in der kommenden Welt brauchen? Wozu sind Menschen da? Was werden wir mit uns tun?‘“ Und das „führt uns zurück zu der Idee: Nun gut, wie entwickelt man einen Geist? Wie schützt man einen Geist? Denn der Geist ist dieser massive, monströse Ort, an dem alles passieren kann.“ Und dafür ist „eine humanistische Bildung essenziell. Wir müssen hier den Menschen in den Mittelpunkt stellen. Indem wir ändern, wie wir unsere Kinder von Anfang an erziehen, können wir Kreativität, Spiel, Problemlösung, Denken – denn Denken macht Spaß – und die Künste in den Vordergrund stellen, weil Menschen von Natur aus kreativ sind. Zeig mir ein Kind, das keine Geschichte hören oder tanzen oder ein Bild malen oder einen imaginären Freund haben will. Das ist nicht aufgezwungen und es ist kein Elitismus. Das sind wir.“ Selbst eine Stunde pro Woche, glaubt sie, würde einen Unterschied machen. „Fragen wir: Was denkst du über die Welt? ‚Warum denkst du das?‘ Es ist nicht teuer. Es geht tatsächlich um den Willen.“ Unterrichte Mathematik und Künste und Wissenschaft, schlägt sie vor, zumindest bis zum A-Level, selbst wenn sie nicht geprüft werden. „Natürlich werden wir uns spezialisieren. Wir brauchen Ärzte und Chemiker, aber wir brauchen auch das, was früher vielseitig gebildete Menschen genannt wurde. Alles ist interessant! Menschen werden mit einem großen Gehirn geboren. Meistens benutzen wir es nicht.“ Sobald die formale Bildung vorbei ist, würde sie Künstler und öffentliche Intellektuelle auf jeder Ebene einbetten. „Die Künste sind keine Freizeitindustrie“, wie sie es in 12 Bytes formuliert. „Die Künste waren immer ein imaginatives und emotionales Ringen mit der Realität – eine Reihe von Erfindungen und Schöpfungen. Eine Fähigkeit, anders zu denken, eine Bereitschaft, unser Verständnis von uns selbst zu ändern. Um uns zu helfen, weisere, nachdenklichere, weniger ängstliche Menschen zu sein. Künstler machen jeden Tag etwas aus dem Nichts.“ Wir treffen uns, bevor Jacob Coxon seinen Job bei Anthropic kündigt, um vor einer 10-prozentigen Chance zu warnen, dass KI die Menschheit auslöschen könnte, was eine Welle der Panik durch die Welt schickt. Danach frage ich nach, wie positiv Winterson sich jetzt fühlt. Das Schlimmste „könnte passieren“, wiederholt sie. Aber „die Unermesslichkeit des guten Ergebnisses ist genauso real wie die Totalität unseres Versagens, es richtig hinzubekommen.“ Vor allem: „Das ist eine menschliche Entscheidung und eine menschliche Notlage. Das ist unsere große Chance. Vielleicht unsere letzte Chance, genau wie Turings Kollege Jack Good sagte, als er KI unsere letzte Erfindung nannte. Es steht alles auf dem Spiel.“ Wir können nur hoffen, dass es nicht zu spät ist.Ihr neuestes Buch ist One Aladdin, Two Lamps. Sie schreibt auch unter jeanettewinterson.substack.com. One Aladdin, Two Lamps von Jeanette Winterson (Vintage Publishing, 12,99 £). Um den Guardian zu unterstützen, bestellen Sie Ihr Exemplar für 10,39 £ unter guardianbookshop.com. Es können Versandkosten anfallen.

Häufig gestellte Fragen
Hier ist eine Liste von FAQs zu Jeanette Wintersons Ansichten über KI und die Zukunft der Menschheit, basierend auf ihrem Essay There is no inevitable dystopia

Anfängerfragen

1 Wer ist Jeanette Winterson
Sie ist eine britische Schriftstellerin und Professorin, bekannt für Romane wie Oranges Are Not the Only Fruit. In den letzten Jahren hat sie ausführlich über künstliche Intelligenz und ihre Auswirkungen auf die Gesellschaft geschrieben und gesprochen

2 Was bedeutet There is no inevitable dystopia
Es bedeutet, dass eine schlechte Zukunft nicht garantiert ist. Nur weil KI Probleme verursachen könnte, heißt das nicht, dass sie es wird – das Ergebnis hängt von den Entscheidungen ab, die Menschen jetzt treffen

3 Was ist KI in einfachen Worten
KI ist Technologie, die Maschinen Aufgaben erledigen lässt, die normalerweise menschliches Denken erfordern, wie Sprache verstehen, Bilder erkennen oder Entscheidungen treffen

4 Was ist eine Dystopie
Eine Dystopie ist eine imaginierte Worst-Case-Gesellschaft – denken Sie an eine Welt, die von Maschinen regiert wird, mit verlorenen Freiheiten und weit verbreitetem Leid

5 Was ist Wintersons Hauptbotschaft
Sie argumentiert, dass die Zukunft der KI von uns abhängt. Wir sollten Technologie nicht fürchten oder blind akzeptieren – wir sollten sie mit menschlichen Werten, Kreativität und Fürsorge gestalten

6 Ist sie gegen KI
Nein. Sie ist nicht gegen Technologie. Sie ist dagegen, Technologie ohne menschliche Aufsicht sich entwickeln zu lassen, und dagegen, eine schlechte Zukunft als unvermeidlich zu behandeln

7 Was denkt sie, bedeutet KI für die Menschheit
Sie sieht KI als einen Spiegel der Menschheit – sie spiegelt wider, wer wir sind. Wenn wir sie mit Empathie und Ziel bauen, kann sie uns helfen; wenn wir sie sorglos bauen, kann sie uns schaden

Mittelstufe Fragen

8 Warum sagt Winterson, KI sei ein Spiegel
Weil KI aus menschlichen Daten und Entscheidungen lernt. Sie spiegelt unsere Vorurteile, Werte und Prioritäten wider – sie zeigt uns also, was für eine Gesellschaft wir geschaffen haben

9 Welche häufigen Probleme hebt sie bei KI hervor
Sie weist auf Risiken hin wie Verlust der Privatsphäre, Machtkonzentration bei großen Tech-Unternehmen, Störung von Arbeitsplätzen und die Gefahr, Effizienz für wichtiger zu halten als menschliche Würde

10 Welche Vorteile sieht sie in KI
Sie sieht Potenzial in KI für Gesundheitsversorgung, Zugänglichkeit, Kreativität und die Befreiung von Menschen von repetitiver Arbeit – wenn sie von menschlichen Bedürfnissen statt allein vom Profit geleitet wird

Related Posts