Die Leute fragen mich oft, ob ich glaube, dass alle zukünftigen Romane von KI geschrieben werden. Es ist weniger eine echte Frage als vielmehr eine Herausforderung. Fragen sie, ob ich mir Sorgen mache, dass eine Maschine meinen Job machen kann, und das auch noch besser? Ich wische das meistens mit so etwas ab wie: „Kein Algorithmus wird Anna Karenina schreiben!“ Aber das ist auch keine wirkliche Antwort.
Deshalb bin ich Papst Leo XIV., dem amerikanischen Papst, für seinen jüngsten Brief an die Welt dankbar, Magnifica Humanitas: Über den Schutz der menschlichen Person im Zeitalter der Künstlichen Intelligenz. Es ist ein langes (über 40.000 Wörter), intelligentes und durchdachtes Dokument, in dem der Papst darauf eingeht, wie diese schnell wachsende Technologie genutzt und missbraucht werden kann. Wenn mich jetzt jemand nach meiner Meinung zu KI fragt, kann ich ihn einfach auf den Brief des Papstes verweisen – oder zumindest auf Kapitel drei.
Der Brief beginnt mit einem passenden biblischen Verweis auf die tragischen Folgen eines Zusammenbruchs der menschlichen Kommunikation. Die Menschheit steht vor einer „entscheidenden Wahl: entweder einen neuen Turm zu Babel zu bauen oder eine Stadt zu errichten, in der Gott und die Menschheit gemeinsam wohnen.“ Es folgt eine detaillierte Betrachtung, wie die Vorgänger von Papst Leo über Dinge dachten, und die Vorstellungen des Vatikans zu Arbeit, Autorität, Regierung, Wissenschaft, Macht und unserer moralischen Pflicht zueinander. Es hebt auch die Arbeit der Kirche bei der Verteidigung der Menschenwürde und -freiheit hervor.
Das dritte Kapitel, Technologie und Dominanz: Die Größe der Menschheit im Lichte der Versprechungen der KI, wird dem Titel des Briefes gerecht. In einer eindrucksvollen (und oft zitierten) Passage, die erklärt, was KI nicht ist, definiert der Papst im Wesentlichen, was es bedeutet, Mensch zu sein. „Sogenannte künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz, reifen nicht durch Beziehungen und wissen von innen heraus nicht, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten.“ KI hat kein moralisches Gewissen und zeigt keine echte Sorge um das Gemeinwohl der Menschheit.
Der Brief sagt dann das Wichtigste und Notwendigste über das, was vielleicht die größte Bedrohung durch KI ist: Sie kann ausschließlich darauf programmiert werden, den Gewinn zu maximieren, was nur dazu führen kann, dass die Vielen für den Nutzen der Wenigen leiden. Der Papst warnt vor der „Manipulation der Privatsphäre“ und dem „Missbrauch von Informationen“, davor, Algorithmen zur Steuerung von Beschäftigung, zur Kontrolle des Zugangs zu öffentlichen Dienstleistungen und Krediten sowie zur Steigerung oder Schädigung des persönlichen Rufs einzusetzen.
Mitgefühl, Barmherzigkeit und Vergebung – nicht gerade hohe Prioritäten auf der Liste einer Maschine – könnten veralten. „‚Notwendige Opfer‘ könnten gerechtfertigt werden, wobei die Last auf die Verletzlichsten gelegt wird, im Streben nach der angeblichen Optimierung der Spezies.“ Wenn die Werkzeuge dieser neuen Macht in die Hände derer gelangen, die bereits Reichtum und Einfluss haben, werden sie genutzt, um den Komfort, die Gesundheit und das Wohlbefinden unserer reichsten und privilegiertesten Bürger zu verbessern.
Der Papst verurteilt KI nicht pauschal, sondern vielmehr die Art und Weise, wie sie als Werkzeug für politische Unterdrückung und zur Verschärfung wirtschaftlicher Ungleichheit eingesetzt werden kann.
Zum Abschluss des Briefes ruft uns der Papst dazu auf, der Wahrheit treu zu bleiben, in Bildung zu investieren, Beziehungen aufzubauen und in Gerechtigkeit und Frieden zu leben – um dem Widerstand zu leisten, wie neue Technologien „die Verletzlichsten ausbeuten, neue Formen der Sklaverei schaffen und aus Konflikten Profit schlagen können.“ Es wird deutlich, dass der Papst KI nicht pauschal verurteilt, sondern vielmehr die Art und Weise, wie sie als Werkzeug für politische Unterdrückung und zur Verschärfung wirtschaftlicher Ungleichheit genutzt werden kann.
Theoretisch könnte man den Brief dafür kritisieren, dass er nicht weit genug geht, dass er keine weitere biblische Metapher – das Goldene Kalb – verwendet, um KI zu verurteilen, weil sie das Sparen von Geld über das spirituelle, individuelle und gemeinschaftliche Wohlergehen stellt. Aber dieser Zug ist bereits abgefahren, und es gibt nicht viel, was Leo XIV. – oder irgendein religiöser Führer – tun kann, um diese neuen Fortschritte als eine Form des Götzendienstes des 21. Jahrhunderts zu verurteilen.
Trotzdem: Die Vision der menschlichen Natur in der Enzyklika, der Geist der Gerechtigkeit und des Einfühlungsvermögens, der vorherrschen muss, und die wesentliche Bedeutung der höchsten moralischen Werte – sie ist letztlich so freundlich, so positiv, so großzügig und so eindeutig richtig in Bezug auf unsere Pflicht, die Schwachen und Armen zu schützen, dass es schwerfällt, Gründe zu finden, sie abzutun.
Aber das ist der beängstigende Teil. Anscheinend gab es Widerstand aus dem Silicon Valley, wo die Schöpfer und Meister der neuesten Technologie angedeutet haben, dass der Papst nicht weiß, wovon er spricht.
Die Meinung des Guardian zum Papst und Claude: Leos XIV. Enzyklika über KI hat recht, den Menschen an erste Stelle zu setzen | Leitartikel
Weiterlesen
Jeremy Nixon, ein Gründer des AGI House – einer Gruppe, die sich darauf konzentriert zu beweisen, dass KI dem menschlichen Gehirn im Wesentlichen gleichgestellt ist – wurde in der New York Times mit den Worten zitiert, die Kirche habe „nicht tiefgründig über … KI nachgedacht“ und hinzugefügt: „Sie könnten keine Position dazu haben, weil sie sie nicht verstehen.“ Und es scheint die weit verbreitete Überzeugung zu geben, dass das Endergebnis der aktuellen Forschung im Grunde ein neuer Gott oder zumindest eine überzeugende Nachahmung sein wird. Besorgt über die Gefahren der Zukunft, entscheidet sich unsere Gesellschaft dafür, die Beweise zu ignorieren, dass die Nachteile der KI bereits da sind. Der Tochter eines Freundes, einer College-Studentin mit Hauptfach Werbung, wurde kürzlich von ihrer Beraterin gesagt, dass bis zu ihrem Abschluss alle Jobs in der Werbung von KI übernommen worden sein werden.
Wenn die Meister dieser neuen Technologie nicht zustimmen können, was der Papst als ihre Gefahren und Nachteile sieht, sind wir in großen Schwierigkeiten. Das Problem ist nicht, dass wir einen Roboter haben werden, der Anna Karenina schreibt. Das Problem ist, dass niemand einen Bedarf für einen Roman sehen wird, der so wunderschön das Leiden einer Frau, eines einzigartigen Menschen, einfängt.
Es gäbe keinen Sinn für ein solches Buch, es sei denn, diese Geschichte eines lebensverändernden Fehlers könnte von einem zukunftsorientierten Tech-Typen in Profit umgewandelt und verwendet werden, um eine größere, bessere Yacht zu kaufen – vermutlich bedient von einer permanenten Unterklasse, von Arbeitern, deren Würde, deren einst geschätzte und wertvolle Arbeitsplätze, von den gierigen Formen der künstlichen Intelligenz gestohlen wurden.
Francine Prose ist ehemalige Präsidentin des PEN American Center und Mitglied der American Academy of Arts and Letters und der American Academy of Arts and Sciences. Ihr neuer Roman, Fünf Wochen auf dem Land, wurde im Mai veröffentlicht.
Häufig gestellte Fragen
Hier ist eine Liste von FAQs basierend auf der Aussage: Ich bin dem Papst für seine Enzyklika über KI dankbar. Deshalb.
Fragen für Einsteiger
F: Was ist eine Enzyklika?
A: Es ist ein formeller Brief des Papstes an die gesamte katholische Kirche zu einem wichtigen Thema. Er soll lehren und die Menschen leiten.
F: Warum hat der Papst eine Enzyklika über Künstliche Intelligenz geschrieben?
A: Weil KI schnell verändert, wie wir leben, arbeiten und interagieren. Der Papst glaubt, dass sie tiefgreifende moralische und ethische Fragen zu Menschenwürde, Gerechtigkeit und Frieden aufwirft, also wollte er Orientierung bieten.
F: Sagt der Papst, dass KI schlecht ist?
A: Nein. Er ist nicht gegen Technologie. Er sagt, wir müssen vorsichtig sein und KI so einsetzen, dass sie das menschliche Leben respektiert, die Verletzlichen schützt und das Gemeinwohl fördert, nicht nur Profit oder Macht.
F: Was ist die Hauptbotschaft der Enzyklika über KI?
A: Die Kernidee ist, dass KI der Menschheit dienen sollte, nicht sie ersetzen oder kontrollieren. Sie ruft zu einem globalen Gespräch auf, um sicherzustellen, dass KI ethisch entwickelt und genutzt wird, mit einem Fokus auf Frieden, Wahrheit und Menschenwürde.
F: Wie betrifft mich das als normale Person?
A: Es ist wichtig, weil KI bereits in Ihrem Leben ist – in Suchmaschinen, sozialen Medien, Bankwesen und sogar medizinischen Diagnosen. Der Papst bittet alle, über Fairness, Privatsphäre und darüber nachzudenken, ob diese Werkzeuge der Gesellschaft helfen oder schaden.
Fragen für Fortgeschrittene
F: Vor welchen spezifischen Gefahren warnt der Papst in Bezug auf KI?
A: Er warnt vor einer algorithmischen Gesellschaft, in der Maschinen Entscheidungen treffen, die das Leben der Menschen beeinflussen, ohne Fairness oder Transparenz. Er hebt auch Risiken von Überwachung, Fehlinformation und wachsender Ungleichheit zwischen denen, die KI kontrollieren, und denen, die es nicht tun, hervor.
F: Spricht die Enzyklika über KI in Waffen oder Kriegsführung?
A: Ja. Sie verurteilt entschieden die Entwicklung autonomer Waffensysteme – Maschinen, die ohne menschliche Entscheidungsfindung töten können. Der Papst argumentiert, dass dies dem Krieg jede moralische Verantwortung entzieht und zu katastrophalen Konflikten führen könnte.
F: Wie unterscheidet sich die Sichtweise der Kirche auf KI von der der Technologieunternehmen?
A:
