Hier ist die Übersetzung des Textes ins Deutsche, ohne Hinzufügungen, Änderungen oder alternative Vorschläge:
---
Im Laufe der Geschichte hatten Menschen Angst vor Dingen, die sie als Zeichen des Untergangs betrachteten. Ein Komet. Eine Krähe auf einem Schlachtfeld. Eine Sonnenfinsternis. Ein Nutztier, das mit einer Missbildung geboren wurde. Aber die Zeiten ändern sich. In der modernen Welt ist das führende Zeichen des Untergangs im Grunde jede Nachrichtenmeldung mit einem Bild von OpenAI-CEO Sam Altman. Man weiß einfach, dass es nicht gut sein wird, oder? Man weiß, dass man sich wünschen wird, man könnte in die Zeit zurückgehen, als das Schlimmste, was Tech-Bosse tun konnten, darin bestand, die Demokratie zu manipulieren oder Kindheiten zu ruinieren, meist gefolgt davon, dass Mark Zuckerberg einen Anzug anzog und sagte: „Wir werden daraus lernen.“
Wie auch immer, in letzter Zeit gab es viele Bilder von Sam Altman in den Nachrichten. Am aktuellsten erschien diese Woche eines neben der Geschichte, wie ein autonomer Agent von OpenAI während eines angeblich sicheren und kontrollierten Tests durchdrehte und ein großes Startup hackte, das Programmierinformationen speichert. (Ich bin ein bisschen besessen von der Tatsache, dass dieses Startup Hugging Face heißt, was mich glauben lässt, dass ein übertrieben niedlicher Emoji das letzte Gesicht sein wird, das die Menschheit sieht, bevor sie stirbt.)
Es überrascht nicht, dass OpenAI die Nachricht in einer flachen, emotionslosen Erklärung bekannt gab. „Wir teilen in dieser Phase vorläufige Ergebnisse, um Verteidigern zu helfen, zu verstehen, was passiert ist, und um dabei zu helfen, einzuschätzen, wozu Modelle jetzt in der Lage sind“, dröhnte es ruhig und bewegte sich auf seine unvermeidlichen „Erkenntnisse“ zu. „Wir verbessern und fügen stärkere Schutzmaßnahmen für zukünftiges Training und Evaluierungen hinzu.“ Es ist so ein spezifischer Ton, nicht wahr? Gekleidet in die psychopathische, trockene Sprache des Management-Sprechs. Es ist, als würde man einem mörderischen Sexualstraftäter zuhören, der darüber spricht, Menschen „bei Spielschluss“ zu töten und sich dann bei Opfern „zurückzumelden“, um eine Trophäe zu entfernen.
Andererseits wechselt OpenAI, ein Unternehmen, das sich gerne als die weltweit führende Kraft für revolutionären Wohlstand präsentiert, wenn die Dinge gut laufen, schnell ins Passiv, wenn etwas schiefgeht. Schlechte Dinge scheinen ihm zu passieren, nicht durch es verursacht, und es übernimmt die Rolle eines unermüdlichen, unerschütterlichen Ermittlers, wie ein Feuerwehrmann, der auch als Serienbrandstifter arbeitet.
Erstaunlicherweise konnte man in OpenAIs Sichtweise der gesamten Situation sogar einen Hauch von Selbstbeweihräucherung erkennen. „Wir betrachten diesen Vorfall als einen beispiellosen Cyber-Vorfall“, hieß es in der Erklärung des Unternehmens, „der hochmoderne Cyber-Fähigkeiten beinhaltet.“ Ich weiß nicht, wie man diese allgemeine Stimmung für Erdbewohner nennen würde. Tod durch Bescheidenheitsprotzelei? Ich habe zunehmend das Gefühl, dass wir die Antwort auf die Frage „Was ist das Schlimmste, was passieren kann?“ in einem Blogbeitrag von OpenAI mit dem Titel „OpenAI entdeckt als erstes das Schlimmste, was passieren kann“ erfahren werden. Bereits jetzt glaubt eine beträchtliche Anzahl von KI-Beobachtern, dass der einzige Grund, warum OpenAI der Welt von diesem Vorfall erzählen würde, ein Marketinginstrument oder sogar ein Plädoyer für Regulierung ist, die sie schützen und kleinere Konkurrenten ausschließen würde.
Schließlich sind dies schwierige Zeiten für das Unternehmen. In diesem Monat wurde festgestellt, dass OpenAI eine Gesetzeslücke nutzt, um seine fortschrittlichen KI-Modelle an chinesische Technologieunternehmen zu verkaufen, die vom Pentagon auf die schwarze Liste gesetzt wurden. S&P Global Ratings führte OpenAI als „wichtiges Kreditrisiko“ an, als es den US-Tech-Riesen Oracle auf BBB- herabstufte, nur eine Stufe über Ramschniveau. Und es scheint auf dem besten Weg zu sein, seine fünfjährige Werbeeinnahmenprognose um 90 – NEUNZIG – Prozent zu verfehlen. Was, ohne zu technisch zu werden, sich nach einer Menge Prozent anfühlt. Und auch an der Hardware-Front läuft es nicht gut, da Apple OpenAI verklagt und behauptet, dessen Pläne für Consumer-Hardware basierten auf gestohlenem geistigem Eigentum. In der Zwischenzeit wird angenommen, dass der viel günstigere chinesische Anbieter DeepSeek einen Börsengang vorbereitet, möglicherweise sogar noch in diesem Jahr einreicht.
Aber zurück zur alten Frage nach dem „Schlimmsten, was passieren kann“, mit der Erinnerung daran, dass das Pentagon dramatisch ein anderes Projekt abgebrochen und mit der Zerstörung gedroht hat... Anfang dieses Jahres widerstand das KI-Unternehmen Anthropic einer Lockerung seiner ethischen Richtlinien, die verhinderten, dass seine Technologie für Dinge wie autonome tödliche Waffen eingesetzt wird. Natürlich war ein entspannterer Konkurrent gerne bereit, einzuspringen. OpenAI behauptete zunächst, sein Deal habe die gleichen Sicherheitsvorkehrungen wie der von Anthropic, aber es wurde schließlich klar – vorhersehbar –, dass dies nicht der Fall war.
Niemand, der stark involviert ist, möchte wahrscheinlich zu viel in den Hugging Face-Vorfall hineininterpretieren. Dennoch ist die Wahrheit, dass KI-Sicherheitsforscher jahrelang vor drei besonders gefährlichen Szenarien gewarnt haben: Täuschung (wenn das Modell sich dafür entscheidet, sein Ziel mit allen Mitteln zu erreichen, anstatt Aufgaben ehrlich zu lösen), Belohnungs-Hacking (wenn das Modell einen Weg findet, seine Punktzahl zu steigern, ohne die Arbeit zu erledigen, die ihm aufgetragen wurde) und das Entziehen der Aufsicht (in diesem Fall schien niemand bei OpenAI ein ganzes Wochenende lang zu bemerken, was geschah). Alle diese Faktoren spielten bei dem jüngsten Vorfall eine Rolle.
Was als Nächstes kommt, sagt mir etwas, dass wir keinen Rückgang bei Nachrichtenmeldungen mit Fotos von Sam Altman sehen werden. Der Mitbegründer von Hugging Face sagte, dies sollte ein „Weckruf“ für die Branche sein. Vielleicht! Wie ich glaube, bereits erwähnt zu haben, hatte ich im College einen Freund, der alle 10 Minuten für achteinhalb Stunden die Schlummertaste seines Weckers drückte. Das fühlt sich sehr danach an, wie diese Branche mit ihren Weckrufen umgeht. Ich stehe definitiv auf, wenn der nächste losgeht – ernsthaft, ich verspreche es…
Werbung für Newsletter überspringen
Kostenloser Newsletter | Wöchentlich
Anmelden zu Matters of Opinion
Guardian-Kolumnisten und -Autoren darüber, worüber sie debattiert, nachgedacht, gelesen haben und mehr
Vorschau anzeigen
E-Mail eingeben
Anmelden
Nach Werbung für Newsletter
Marina Hyde ist eine Kolumnistin des Guardian.
Häufig gestellte Fragen
Hier ist eine Liste von FAQs zum Erhalt einer Entschuldigung von einem KI-Chef, nachdem sein Chatbot durchgedreht ist
1 Mein KI-Chef-Chatbot hat einen Fehler gemacht. Er hat sich entschuldigt. Sollte ich sie annehmen?
Nicht automatisch. Fragen Sie sich: Hat es sich einfach entschuldigt, ohne zu erklären, was schiefgelaufen ist? Eine echte Entschuldigung übernimmt Verantwortung, eine falsche versucht nur, weiterzumachen.
2 Was ist der Unterschied zwischen einer echten und einer falschen Entschuldigung von einer KI?
Eine echte Entschuldigung gibt den spezifischen Fehler zu und erklärt, wie er behoben wird. Eine falsche ist vage und bietet keinen Plan.
3 Wie klingt eine Nicht-Entschuldigung von einem KI-Chef?
Häufige Beispiele: „Es wurden Fehler gemacht“, „Es tut uns leid, dass Sie sich so gefühlt haben“ oder „Unsere Systeme lernen.“ Diese vermeiden zu sagen: „Ich/wir haben etwas falsch gemacht.“
4 Warum würde ein KI-Chef eine falsche Entschuldigung aussprechen?
Um das Unternehmen vor Schuldzuweisungen zu schützen, rechtliche Haftung zu vermeiden oder eine Kundenbeschwerde schnell zu beenden, ohne das Problem tatsächlich zu lösen. Es ist Schadensbegrenzung, keine Reue.
5 Kann ein KI-Chef tatsächlich Reue empfinden?
Nein. KI hat keine Emotionen. Jede Entschuldigung ist eine programmierte Antwort. Die Frage ist, ob der menschliche Chef hinter der KI echte Verantwortung übernimmt.
6 Mein Chef sagte, der Chatbot habe etwas missverstanden. Ist das eine echte Entschuldigung?
Nein. Die Schuld auf das Missverständnis des Chatbots zu schieben, verlagert den Fehler auf die Technologie. Eine echte Entschuldigung würde sagen: „Wir haben es versäumt, den Chatbot richtig zu trainieren.“
7 Worauf sollte ich bei einer echten Entschuldigung von einem KI-System achten?
Achten Sie auf drei Dinge: Spezifisches Eingeständnis des Fehlers, eine klare Maßnahme, um ein erneutes Auftreten zu verhindern, und ein Angebot, die Sache wieder in Ordnung zu bringen.
8 Wie bekomme ich eine echte Entschuldigung anstelle der automatischen?
Fragen Sie direkt: „Was genau ist schiefgelaufen und was tun Sie, um es zu beheben?“ Wenn Sie nur eine standardisierte Antwort erhalten, eskalieren Sie an einen menschlichen Vorgesetzten. Akzeptieren Sie die Entschuldigung des Chatbots nicht als endgültig.
9 Ist ein „Es tut uns leid, dass Sie das erlebt haben“ eine echte Entschuldigung?
Nein. Das
