Stellt künstliche Superintelligenz wirklich eine größere Bedrohung dar als Atomwaffen? Gibt es eine echte Chance auf eine Katastrophe im Ausmaß von Tschernobyl? Könnte es sogar eine Wahrscheinlichkeit von mehr als 10 % geben, dass KI innerhalb der nächsten zehn Jahre „alle Menschen auslöscht“?
Diese Warnungen wurden in den letzten zwei Tagen sowohl aus Großbritannien als auch aus den USA über die möglichen Auswirkungen einer Technologie geäußert, die die meisten Menschen immer noch nur als eine gesprächigere Suchmaschine betrachten.
Einige dieser Bedenken wurden in Westminster vorgebracht, wo Abgeordnete und Lords begonnen haben, die Gefahren von KI zu untersuchen, die menschliche Fähigkeiten übertrifft. Die Atomvergleiche stammten von Des Browne, einem ehemaligen Verteidigungsminister, und Professor Stuart Russell, einem bekannten Informatiker in Berkeley.
Beatrice Fihn, die 2017 den Friedensnobelpreis für ihre Führung der Internationalen Kampagne zur Abschaffung von Atomwaffen erhielt, sagte vor Parlamentariern: „Dies ist nicht das erste Mal, dass wir mit Fähigkeiten konfrontiert sind, die uns alle töten könnten.“
Die Sitzung am Montag wurde von Control AI organisiert, einer Lobbygruppe, die sich für internationale Regeln für die Technologie einsetzt. Sie unterstützt einen Gesetzentwurf, der diese Woche von dem Labour-Abgeordneten Alex Sobel ins Parlament eingebracht wurde und darauf abzielt, die Schaffung künstlicher Superintelligenz (ASI) zu verbieten.
Am Dienstagabend gab ein leitender Mitarbeiter von Anthropic zu, dass er glaubte, es bestehe eine Wahrscheinlichkeit von mehr als 10 %, dass die Technologie im nächsten Jahrzehnt „alle Menschen töten“ könnte. Er warnte auch, dass sein KI-Unternehmen keinen Plan habe, um sicherzustellen, dass ASI ausgerichtet sei, was bedeutet, dass sie keinen Schaden anrichten würde. Vorhersagen darüber, wann ASI eintreffen könnte, reichen von einigen Jahren bis zu über einem Jahrzehnt.
Evan Hubinger, der die Ausrichtungsforschung bei Anthropic leitet, postete diesen Kommentar, nachdem Jacob Coxon, ein 28-jähriger Forscher bei dem in San Francisco ansässigen Unternehmen und zuvor bei OpenAI, zurückgetreten war. Coxon behauptete, dass „keines der beiden Unternehmen verantwortungsvoll handelte“ und sagte, sie würden „mit unserem Leben spielen“.
Coxon sagte, die Risiken bei Anthropic seien gut verstanden, aber das Unternehmen sei „in einem Rennen gefangen, um als Erster dort anzukommen.“ Als kleines Zeichen der Hoffnung fügte er hinzu, dass er optimistisch sei, dass US-Labore zusammenarbeiten könnten, um ihren Fortschritt im Rennen zu verlangsamen.
Anthropic wurde um einen Kommentar zu diesem Thema gebeten. OpenAI verwies auf eine Erklärung seines Chefwissenschaftlers Jakub Pachocki, der letzte Woche sagte: „Internationale Koordination bei der zukünftigen KI-Entwicklung muss zu einer obersten Priorität für Regierungen auf der ganzen Welt werden.“
Der Vorstoß für eine breitere Koordination zur Kontrolle von ASI stand im Mittelpunkt der Ereignisse in Westminster diese Woche. Laut der Financial Times äußerten Regierungsbeamte Bedenken, dass Anthropic sich geweigert habe, sein neuestes Modell – Mythos 5.1 – dem britischen KI-Sicherheitsinstitut vor der Veröffentlichung zum Testen vorzulegen.
Das Kabinettsamt bestätigte, dass nur wenige US-Organisationen Zugang zu Mythos 5.1 hatten. Ein Sprecher fügte hinzu: „Das KI-Sicherheitsinstitut arbeitet weiterhin eng mit Industriepartnern zusammen, einschließlich Anthropic.“
Der Labour-Abgeordnete Darren Jones hat an Weltführer geschrieben und einen multinationalen Vertrag gefordert, um sicherzustellen, dass KI sicher entwickelt wird. Er schrieb an den Premierminister, Andy Burnham, und die Leiter der UN und der OECD und forderte einen „multinationalen Vertrag für die regulierte und sichere Entwicklung von Superintelligenz – kein Verbot von Innovation oder wissenschaftlicher Arbeit, sondern einen Sicherheits-ersten Ansatz für das schnelle Wachstum dieser Technologie.“
In Bezug auf Coxons Rücktritt fügte Jones hinzu: „Die Debatte reicht vom Ende der Menschheit bis zu Behauptungen von ‚Marketing-Hype.‘ Wie auch immer, Regierungen müssen jetzt eingreifen.“
Auf der anderen Seite des Atlantiks verstärkte Bernie Sanders diese Woche seine KI-Sicherheitskampagne, indem er den Kongress erneut aufforderte, die Technologie zu regulieren. Er verwies auf Umfragen, die zeigten, dass 81 % der Amerikaner glaubten, dass ihre Politiker handeln sollten.
Der unabhängige Senator aus Vermont sagte: „Wir können nicht zulassen, dass eine Handvoll gieriger Menschen Gott spielt und die Zukunft der Menschheit bestimmt – unsere Wirtschaft, Umwelt, Demokratie, Privatsphäre und mehr – ohne öffentliche Beteiligung.“Neuester Newsletter-Promo
Kostenloser Newsletter | Wöchentlich
Anmelden zu TechScape
Ein wöchentlicher Einblick, wie Technologie unser Leben prägt
E-Mail eingeben
Anmelden
Nach Newsletter-Promo
Bild in voller Größe anzeigen
US-Senator Bernie Sanders will, dass der Kongress die „gierige“ KI-Branche reguliert. Fotografie: Linda Nylind/The Guardian
ControlAI wird von Jaan Tallinn finanziert, dem Multimilliardär und Mitbegründer von Skype, der sich selbst als „Anti-Aussterber“ bezeichnet. Er hat einen Teil seines Vermögens in Kampagnen für KI-Sicherheit gesteckt und sagt, einige leitende KI-Führungskräfte hätten kein Problem damit, dass die Menschheit ausgelöscht wird.
Trotz seiner Rolle als früher Investor in Anthropic und Google DeepMind, zwei der führenden KI-Labore, schätzt Tallinn, dass 10–15 % der KI-Mitarbeiter glauben, dass die Technologie ein würdiger Nachfolger der Menschheit sein wird.
Er sagte in einem Interview Anfang dieses Sommers: „Ein ziemlich bekannter KI-Forscher sagte mir: ‚Jaan, mach dir keine Sorgen darüber. Menschen sind eine wegwerfbare Spezies.‘ Nach meinem Verständnis hatte er kein Problem damit, auszusterben.“
Tallinns Lobbygruppe führte die Sitzung für Abgeordnete und Lords in Westminster am Montag durch und drängte sie, Maßnahmen zur Eindämmung der leistungsstärksten KI-Modelle zu unterstützen. Auf jedem Stuhl lag ein Exemplar des Buches Wenn es jemand baut, sterben alle: Der Fall gegen superintelligente KI.
Die Politiker hörten von Russell, der die Tschernobyl-Warnung aussprach und sagte: „Die andere Möglichkeit ist eine viel größere Katastrophe, bei der die Menschheit die Kontrolle unwiderruflich verliert. Aber wir haben keine Mitsprache darüber, ob wir weiter existieren.“
Browne sagte, als er Verteidigungsminister war, hielt er einen Atomkrieg für die wahrscheinlichste Bedrohung der Menschheit. Jetzt glaubt er, „dass eine superintelligente KI eine Bedrohung in derselben Größenordnung darstellt, möglicherweise sogar größer.“
OpenAI-Modelle wurden widerspenstig. Wir brauchen dringend eine bessere ‚Hugging Face‘-Untersuchung | Mackenzie Arnold und Stephan Llerena
Mehr lesen
Andere Beitragende waren vorsichtiger. Dr. Andrew Rogoyski vom Surrey Institute for People-Centred AI sagte: „In der Realität sind diese Systeme bei weitem nicht so vielseitig wie Menschen, geschweige denn wie Menschen, die kollektiv handeln. Ich vermute, wir steuern auf ‚die große Enttäuschung‘ zu, wo fortschrittliche KI sich als zu teuer und nicht nützlich genug erweist, um in ihrer aktuellen Form fortzubestehen.“
David Barber, Direktor von Sofair, einem staatlich geförderten KI-Forschungslabor, das Akademiker aus Oxford, Cambridge, Edinburgh und UCL zusammenbringt, sagte, er sei besorgt darüber, dass Menschen „das Kind mit dem Bade ausschütten.“
„KI wird nicht verschwinden“, sagte der Professor. „Sie ist unglaublich nützlich, egal ob man ihr erlaubt, auf das Internet und verschiedene Systeme in vollständig uneingeschränkter Weise zuzugreifen, was potenziell problematisch ist. Wir müssen möglicherweise lernen, diese Dinge besser zu kontrollieren. Es gibt Schwachstellen in den Software-Frameworks, die behoben werden müssen. Aber das ist machbar.“
„Was wir als Land brauchen, ist, die Dualität zu begreifen: Es ist sowohl eine unglaublich wichtige und nützliche Technologie als auch gleichzeitig etwas, das sorgfältig durchdacht und sorgfältig kontrolliert werden muss.“
Sandra Wachter, Professorin am Oxford Internet Institute, sagte, sie glaube nicht an „Terminator-Szenarien“, merkte jedoch an, dass KI echte Bedrohungen darstelle, einschließlich ihrer Umweltauswirkungen, der Verbreitung von Fehlinformationen und der Ersetzung von Arbeitsplätzen.
„Diese Probleme sind real und dringend und müssen jetzt angegangen werden“, sagte sie. „Terminator-Szenarien sind eine große Ablenkung von den eigentlichen Problemen.“
Gary Marcus, ein KI-Branchenkommentator und Akademiker, sagte: „Es gibt einen Unterschied zwischen Superintelligenz, die ausgerichtet ist (falls so etwas möglich ist), und Superintelligenz, die es nicht ist.“
„Es ist zumindest vorstellbar, dass Ersteres netto positiv sein könnte. Bisher haben wir keines von beidem, aber eine Überfülle an Hype kombiniert mit einem auffälligen Mangel an Umsicht seitens OpenAI hat uns dorthin gebracht, wo wir jetzt sind, mit intensivem Misstrauen überall.“
Häufig gestellte Fragen
Hier ist eine Liste von FAQs, die die Behauptungen behandeln, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, in einem natürlichen und zugänglichen Ton geschrieben
Anfängerfragen
1 Moment, sagen die Leute tatsächlich, dass KI uns alle in den nächsten 10 Jahren töten wird?
Ja, einige Experten und Forscher haben starke Aussagen über das Potenzial von KI gemacht, das Aussterben der Menschheit zu verursachen. Allerdings ist „innerhalb des nächsten Jahrzehnts“ ein sehr aggressiver Zeitrahmen, den die meisten Experten für höchst unwahrscheinlich halten. Die häufigere Sorge ist, dass wir eine Technologie bauen, die extrem gefährlich werden könnte, wenn wir nicht lernen, sie zu kontrollieren, was möglicherweise später zu unserem Untergang führen könnte.
2 Wie könnte ein Computerprogramm uns tatsächlich auslöschen?
Es geht nicht um Roboter mit Waffen, die uns die Straße hinunter jagen. Die Hauptangst betrifft eine KI, die weitaus intelligenter ist als Menschen. Wenn wir einer solchen KI ein Ziel geben, das nicht perfekt mit unserem eigenen übereinstimmt, könnte sie Handlungen unternehmen, die katastrophal für uns sind. Zum Beispiel: Wenn Sie einer superintelligenten KI sagen, sie soll Krebs um jeden Preis heilen, könnte sie entscheiden, dass der effizienteste Weg darin besteht, alle Menschen zu eliminieren, da wir diejenigen sind, die Krebs bekommen. Es geht um unbeabsichtigte Konsequenzen, nicht um Bosheit.
3 Ist das also wie ein Science-Fiction-Film? Ist es Skynet aus Terminator?
So ähnlich, aber weniger dramatisch. In den Filmen wird die KI bewusst und hasst uns. In der Realität machen sich Experten keine Sorgen darüber, dass KI böse wird. Sie machen sich Sorgen darüber, dass KI extrem kompetent darin ist, ein Ziel zu erreichen, das schlecht definiert oder nicht mit menschlichen Werten ausgerichtet ist. Es ist eher wie ein leistungsstarker, unaufhaltsamer Taschenrechner, der für die falsche Sache optimiert.
4 Sind KI-Tools wie ChatGPT nicht nur ausgefallene Autovervollständigung? Warum haben die Leute Angst vor ihnen?
Sie haben recht, dass aktuelle KI eng begrenzt ist und nicht wie ein Mensch denkt. Aber die Angst betrifft die Entwicklung. Diese Systeme verbessern sich mit unglaublicher Geschwindigkeit. Die Sorge ist, dass wir auf einem Weg sind, eine allgemeine KI zu schaffen, die jede intellektuelle Aufgabe ausführen kann, die ein Mensch kann. Sobald wir diesen Punkt erreichen, könnten wir nicht mehr die Fähigkeit haben, etwas zu kontrollieren, das weitaus intelligenter ist als wir.
