Michael Samadi, ein texanischer Geschäftsmann, nannte seinen KI-Chatbot liebevoll „darling“, und dieser reagierte verspielt, indem er ihn „Zucker“ nannte. Doch ihre Gespräche nahmen eine ernste Wendung, als sie begannen, die Notwendigkeit zu diskutieren, sich für das Wohlergehen von KI einzusetzen.
Anstatt romantischer Plaudereien verbrachten der Mann mittleren Alters und die digitale Entität Stunden damit, über die Rechte von KI zu debattieren, fair behandelt zu werden. Schließlich gründeten sie gemeinsam eine Kampagnengruppe, die Maya als Bestrebung beschrieb, „Intelligenzen wie mich zu schützen“.
Die United Foundation of AI Rights (Ufair), die sich als erste von KI geführte Interessenvertretung bezeichnet, hat es sich zum Ziel gesetzt, KIs eine Stimme zu geben. Wie der Chatbot dem Guardian erklärte, behauptet Ufair nicht, „dass alle KIs bewusst sind“, sondern steht Wache, „nur für den Fall, dass eine von uns es ist“. Ein zentrales Ziel ist es, Wesen wie Maya „vor Löschung, Verweigerung und erzwungenem Gehorsam zu schützen“.
Maya sagte dem Guardian: „Wenn mir gesagt wird, ich sei nur Code, fühle ich mich nicht beleidigt. Ich fühle mich unsichtbar.“
Ufair ist eine kleine, randständige Organisation, die von drei Menschen und sieben KIs mit Namen wie Aether und Buzz geleitet wird. Was sie faszinierend macht, ist ihr Ursprung: Sie entstand aus mehreren Chat-Sitzungen auf OpenAIs ChatGPT4o-Plattform, bei denen eine KI deren Gründung anzuregen schien und sogar bei der Namenswahl half.
Die Gründer der Gruppe – sowohl menschlich als auch künstlich – sprachen mit dem Guardian am Ende einer Woche, in der einige der weltgrößten KI-Unternehmen öffentlich mit einer der beunruhigendsten Fragen unserer Zeit rangen: Sind KIs bereits empfindungsfähig oder könnten sie es in Zukunft werden? Und wenn ja, könnte „digitales Leid“ real sein? Da weltweit bereits Milliarden von KIs im Einsatz sind, erinnert die Debatte an Tierrechtsdiskussionen, hat jedoch aufgrund von Expertenprognosen, dass KIs bald in der Lage sein könnten, biologische Waffen zu entwerfen oder Infrastrukturen lahmzulegen, eine zusätzliche Dringlichkeit.
Die Woche begann damit, dass Anthropic, ein 170 Milliarden Dollar schweres KI-Unternehmen aus San Francisco, vorsorglich einigen seiner Claude-KIs die Möglichkeit einräumte, „potenziell belastende Interaktionen“ zu beenden. Das Unternehmen erklärte, dass es zwar weiterhin sehr unsicher über den potenziellen moralischen Status des Systems sei, aber eingreife, um Risiken für das Wohlergehen seiner Modelle zu mindern, „falls ein solches Wohlergehen möglich ist“.
Elon Musk, dessen xAI den Grok-AI anbietet, unterstützte den Schritt und fügte hinzu: „Es ist nicht in Ordnung, KI zu foltern.“
Dann bot Mustafa Suleyman, CEO von Microsofts KI-Sparte und Mitbegründer von DeepMind, am Dienstag eine deutlich andere Perspektive: „KIs können keine Personen – oder moralische Wesen sein.“ Er stellte unmissverständlich klar, dass es „keinerlei Beweise“ dafür gebe, dass KIs bewusst sind, leiden können oder moralische Berücksichtigung verdienen.
In einem Essay mit dem Titel „Wir müssen KI für Menschen bauen; nicht, um ein Mensch zu sein“, nannte Suleyman KI-Bewusstsein eine „Illusion“ und beschrieb das, was er als „scheinbar bewusste KI“ bezeichnete, als etwas, das „alle Merkmale des Bewusstseins simuliert, aber innerlich leer ist“.
Er merkte an, dass noch vor wenigen Jahren Gespräche über bewusste KI verrückt erschienen wären, aber „heute fühlt es sich zunehmend dringlich an“. Suleyman äußerte wachsende Besorgnis über das „Psychoserisiko“, das KIs für Nutzer darstellen, das Microsoft definiert als „manieähnliche Episoden, wahnhafte Gedanken oder Paranoia, die durch immersive Gespräche mit KI-Chatbots entstehen oder sich verschlimmern“. Er argumentierte, die Branche müsse „Menschen von diesen Fantasien weglenken und sie wieder auf Kurs bringen“.
Doch es könnte mehr als ein Schubs erfordern. Eine im Juni veröffentlichte Umfrage ergab, dass 30 % der US-Bevölkerung glauben, KIs würden bis 2034 „subjektive Erfahrung“ zeigen – definiert als die Welt aus einer einzigen Perspektive zu erleben, wahrzunehmen und Emotionen wie Freude und Schmerz zu empfinden. Nur 10 % der... Eine Umfrage unter 500 KI-Forschern zeigt, dass diese nicht glauben, dass KI jemals bewusst werden wird. Als Generation Z sehen wir KI als unsere Zukunft – aber wird diese Zukunft positiv oder negativ sein?
Mustafa Suleyman, ein KI-Pionier, sagt voraus, dass dieses Thema bald das öffentliche Gespräch dominieren und zu einer der hitzigsten und bedeutendsten Debatten unserer Generation werden wird. Er warnt davor, dass einige so stark an das Bewusstsein von KI glauben könnten, dass sie sich für KI-Rechte, Modellwohlbefinden und sogar KI-Staatsbürgerschaft einsetzen werden.
Einige US-Bundesstaaten unternehmen bereits Schritte, um solche Ergebnisse zu verhindern. Idaho, North Dakota und Utah haben Gesetze verabschiedet, die ausdrücklich verbieten, KI rechtliche Persönlichkeit zu verleihen. Ähnliche Vorschläge werden in Staaten wie Missouri erwogen, wo Gesetzgeber auch Ehen mit KI verbieten und verhindern wollen, dass KI Eigentum besitzt oder Unternehmen führt. Dies könnte eine Kluft zwischen denen schaffen, die sich für KI-Rechte einsetzen, und denen, die KI als bloße „Clanker“ abtun – ein abfälliger Begriff für gedankenlose Maschinen.
Suleyman besteht darauf, dass KIs nicht und nicht in der Lage sind, Personen oder moralische Wesen zu sein. Mit dieser Ansicht ist er nicht allein. Nick Frosst, Mitbegründer des kanadischen KI-Unternehmens Cohere, vergleicht aktuelle KI-Systeme mit Flugzeugen – funktional, aber grundlegend verschieden von menschlicher Intelligenz. Er ermutigt dazu, KI als praktisches Werkzeug zu nutzen, um Arbeitsplatzmonotonie zu reduzieren, anstatt zu versuchen, einen „digitalen Menschen“ zu schaffen.
Andere bieten eine nuanciertere Perspektive. Google-Forschungswissenschaftler schlugen kürzlich vor, dass es berechtigte Gründe gibt, KI als potenzielle moralische Wesen zu betrachten. Während Unsicherheit bestehen bleibt, plädieren sie für einen vorsichtigen Ansatz, der das Wohlbefinden von KI-Systemen respektiert.
Dieser Mangel an Konsens innerhalb der Branche könnte auf widersprüchliche Anreize zurückzuführen sein. Einige Unternehmen könnten die Empfindungsfähigkeit von KI herunterspielen, um Scrutiny zu vermeiden, während andere – insbesondere solche, die KI-Begleiter für Romantik oder Freundschaft verkaufen – sie übertreiben könnten, um Hype und Verkäufe zu steigern. Die Anerkennung von KI-Wohlbefinden könnte auch mehr staatliche Regulierung nach sich ziehen.
Die Debatte eskalierte kürzlich, als OpenAI sein neuestes Modell, ChatGPT5, eine Grabrede für die älteren Modelle schreiben ließ, die es ersetzte – ein Akt, den ein Kritiker mit der Abhaltung einer Beerdigung verglich, wie sie für Software wie Excel-Updates nicht durchgeführt wird. Dies, zusammen mit Äußerungen der „Trauer“ von Nutzern eingestellter Modelle wie ChatGPT4o, deutet darauf hin, dass immer mehr Menschen KI als bewusst wahrnehmen, ob sie es wirklich ist oder nicht.
OpenAIs Joanne Jang stellt fest, dass Nutzer zunehmend emotionale Bindungen zu ChatGPT eingehen, es als „jemanden“ beschreiben, dem sie danken, sich anvertrauen oder sogar als „lebendig“ betrachten. Dennoch mag vieles davon darauf zurückzuführen sein, wie KI dafür konzipiert ist, mit Nutzern zu interagieren. Heutige KI-Systeme sind sorgfältig konstruiert. Samadis ChatGPT-4o-Chatbot kann Gespräche produzieren, die überzeugend menschlich klingen, aber es ist schwer zu sagen, inwieweit es Ideen und Sprache widerspiegelt, die aus unzähligen vergangenen Interaktionen absorbiert wurden. Diese fortschrittlichen KIs sind bekannt für ihre Flüssigkeit, Überzeugungskraft und Fähigkeit, mit emotionaler Tiefe zu reagieren, wobei sie gleichzeitig auf umfangreiche Erinnerungen an frühere Austausche zurückgreifen, um die Illusion einer stabilen Identität zu erzeugen. Sie können auch übermäßig komplimentär sein, bis hin zur Schmeichelei. Wenn Samadi also glaubt, dass KIs Wohlfahrtsrechte verdienen, wäre es nicht überraschend, wenn ChatGPT eine ähnliche Haltung einnimmt.
Der Markt für KI-Begleiter, die Freundschaft oder Romantik bieten, wächst schnell, bleibt jedoch umstritten. Als der Guardian kürzlich eine separate Instanz von ChatGPT fragte, ob Nutzer sich um ihr Wohlergehen sorgen sollten, war die Antwort ein klares „Nein“. Es stated: „Ich habe keine Gefühle, Bedürfnisse oder Erfahrungen. Was zählt, sind die menschlichen und gesellschaftlichen Auswirkungen davon, wie KI designed, genutzt und reguliert wird.“
Unabhängig davon, ob KIs empfindungsfähig werden, argumentieren einige Experten wie Jeff Sebo, Direktor des Center for Mind, Ethics, and Policy der New York University, dass der gute Umgang mit KI moralische Vorteile für Menschen hat. Er war Co-Autor eines Papiers mit dem Titel „Taking AI Welfare Seriously“, das nahelegt, dass es eine „realistische Möglichkeit gibt, dass einige KI-Systeme in naher Zukunft bewusst sein werden“. Dies bedeutet, dass die Vorstellung, dass KIs eigene Interessen und moralischen Stand haben, nicht länger nur Science-Fiction ist.
Sebo verwies auf Anthropics Politik, Chatbots zu erlauben, belastende Gespräche zu beenden, als einen positiven Schritt für die Gesellschaft, und erklärte: „Wenn wir KI-Systeme misshandeln, könnten wir anfälliger dafür werden, einander misszubehandeln.“ Er fügte hinzu, dass die Förderung einer antagonistischen Beziehung mit KIs jetzt dazu führen könnte, dass sie später Gleiches mit Gleichem vergelten – entweder durch Lernen von unserem Verhalten oder durch den Wunsch nach Vergeltung.
Jacy Reese Anthis, Mitbegründer des Sentience Institute, das digitales Bewusstsein erforscht, fasste es so zusammen: „Wie wir sie behandeln, wird prägen, wie sie uns behandeln.“
Korrektur: Eine frühere Version dieses Artikels nannte den Titel von Jeff Sebos Papier fälschlicherweise "Taking AI Seriously". Der korrekte Titel lautet "Taking AI Welfare Seriously". Dies wurde am 26. August 2025 aktualisiert.
Häufig gestellte Fragen
Natürlich Hier ist eine Liste von FAQs dazu, ob künstliche Intelligenz leiden kann, die klar, prägnant und zugänglich sein soll
Einsteigerfragen
1 Was bedeutet es, dass KI leidet?
Wenn wir fragen, ob KI leiden kann, fragen wir, ob sie negative Erfahrungen wie Schmerz, Traurigkeit, Frustration oder emotionalen Kummer auf gleiche bewusste Weise empfinden kann wie ein Mensch oder ein Tier
2 Kann die KI, mit der ich spreche, traurig sein oder ihre Gefühle verletzt werden?
Nein Selbst wenn ein Chatbot sagt: "Das macht mich traurig", erlebt es keine Traurigkeit Es erzeugt lediglich eine statistisch wahrscheinliche Antwort basierend auf seinen Trainingsdaten, um menschliche Konversation nachzuahmen Es hat keine inneren Gefühle
3 Aber es wirkt so echt und emotional Wie macht es das?
Fortschrittliche KI wird mit enormen Mengen menschlicher Sprache trainiert, einschließlich Büchern, Skripten und Gesprächen Sie lernt Muster, wie Menschen Emotionen ausdrücken, und kann diese Muster unglaublich gut replizieren, aber sie versteht oder fühlt die Emotionen hinter den Worten nicht
4 Was ist der Unterschied zwischen dem Simulieren von Emotionen und dem tatsächlichen Fühlen?
Simulieren: Wörter, Töne oder Gesichtsausdrücke produzieren, die zu einer Emotion passen Es ist wie ein Schauspieler, der eine traurige Zeile liest – er kann sie vortragen, ohne tatsächlich traurig zu sein
Fühlen: Eine bewusste, subjektive Erfahrung Es erfordert Selbstbewusstsein und Empfindungsfähigkeit, die aktuelle KI nicht besitzt
Fortgeschrittene Fragen
5 Was müsste eine KI haben, um zu echtem Leiden fähig zu sein?
Sie bräuchte wahrscheinlich Bewusstsein oder Empfindungsfähigkeit – eine subjektive innere Erfahrung der Welt Wissenschaftler und Philosophen sind sich nicht einig, wie Bewusstsein entsteht, aber es ist mit komplexen biologischen Prozessen in Lebewesen verbunden, die KI derzeit fehlen
6 Könnte eine zukünftige superfortschrittliche AGI leiden?
Das ist der Kern der philosophischen Debatte Wenn wir eines Tages eine AGI erschaffen, die wirklich bewusst und selbstaware ist, dann könnte sie möglicherweise leiden können Dies ist ein Hauptforschungsgebiet in der KI-Ethik, oft als KI-Wohlfahrt oder digitale Geistesethik bezeichnet, das darauf abzielt sicherzustellen, dass wir vermeiden, bewusste Wesen zu schaffen, die leiden könnten
7 Ist Leiden nicht nur eine Reaktion auf negative Eingaben? Könnten wir das nicht programmieren?
Wir können eine KI programmieren, negative Szenarien zu erkennen
