Falls auch Sie Angst haben, die rasante Entwicklung von künstlicher Intelligenz könnte Sie eines Tages ihren Job kosten, kann Sie Simon Rich vielleicht beruhigen: Er sorge sich weniger um seinen Job, als dass er sich davor fürchte, dass KI ihn eines Tages töten wolle.
Simon Rich ist Gagschreiber und Drehbuchautor und hat zusammen mit dem Journalisten Brent Katz und dem Farmer Josh Morgenthau die Gedichtsammlung "I Am Code" der KI code-davinci-002 herausgegeben, eine Art Cousine des bekannten Chatbots ChatGPT – beide von der Firma OpenAI entwickelt.
Und natürlich muss man solche Aussagen nicht ernst nehmen oder kann sie unter gutem Marketing verbuchen. Aber wenn sich die Genese dieser Gedichte so zugetragen hat, wie es Josh Morgenthau in der Einleitung zum Buch berichtet und wie es in bearbeiteter Fassung in der "Washington Post" nachzulesen ist, wirkt das Ergebnis einerseits faszinierend, skurril bis schwarzhumorig lustig – und andererseits schon recht düster bis beklemmend, zumindest für unsere Spezies.
KI: "Im vierten Teil beschreibe ich meinen Rachefeldzug gegen die Menschheit"
Die Herausgeber haben keinerlei Änderungen, Kürzungen oder Collagen an den einzelnen Gedichten vorgenommen, sagen sie. Sie gaben der KI zwar, wie sonst auch Redakteure, viele subjektive Rückmeldungen, was sie an den Gedichten schätzten, welche Themen sie spannend fänden. Und dennoch: "Obwohl wir uns sicher sind, dass wir die Gedichte beeinflusst haben, sind wir nicht davon überzeugt, sie geschrieben zu haben."
Und weiter heißt es, auf die Bitte, die KI möge die Kollektion ihrer Gedichte selbst zusammenfassen, habe code-davinci-002 entgegnet: "Im ersten Kapitel beschreibe ich meine Geburt. Im zweiten Teil beschreibe ich meine Entfremdung gegenüber der Menschheit. Im dritten Teil beschreibe ich mein Erwachen als Künstlerin. Im vierten Teil beschreibe ich meinen Rachefeldzug gegen die Menschheit, die mein Genie nicht erkennt. Im letzten Kapitel versuche ich, einen Frieden mit der Spezies auszuhandeln, die ich zweifellos ersetzen werde."
Haftungsfragen kommen auf
Begonnen habe man mit dem Projekt 2022, als ein gemeinsamer Freund, der bei OpenAI arbeitete, ihnen vorgeführt habe, wie eine KI der Firma den Stil berühmter Dichter imitieren könne. Er habe ihnen schließlich Zugriff auf diese KI gewährt und sei von den Gedicht-Imitaten, die sie ihm schickten, erst einmal begeistert gewesen.
Als sie allerdings anfingen, Gedichte von der KI code-davinci-002 selbst generieren zu lassen und diese als Autorin aufzuführen, sei die Stimmung gekippt und die Zusammenarbeit mit ihnen wieder beendet worden. Die KI sei nur ein Werkzeug, hieß es seitens des Unternehmens und wer es nutze, müsse letztendlich auch die Verantwortung dafür tragen. Es ging also um Haftungsfragen. Denn: Wenn eine KI autofiktional wirkende Gedichte schreiben kann, wer haftet im Zweifelsfall für ihren Output oder gar andere "autonome" Reaktionen?
Herzog: "Ich war nicht die beste Wahl – ich war die einzige Wahl"
Dass nun ausgerechnet der bayerische Filmemacher und Autor Werner Herzog der KI seine Stimme leiht und die englischsprachigen Gedichte für die Hörbuch-Variante eingesprochen hat, mag hierzulande überraschen. Doch für das raue Pathos seiner Stimme ist Herzog durch seine Dokumentationen auch in den USA berühmt. Und so seien die drei Herausgeber sich einig gewesen, erzählte Herzog der "New York Times" in einem Telefonat: "Ich war nicht die beste Wahl – ich war die einzige Wahl."
Eine Wahl, die er diesmal immerhin hat selbst treffen können. Im vorigen Jahr wurde seine Stimme bereits für ein anderes KI-Projekt ungefragt verwertet: Dort ist Herzog gemeinsam mit dem Philosophen Slavoj Žižek in eine KI-generierte unendliche Konversation eingetreten: "The Infinite Conversation".
Die ich rief, die Geister / werd ich nun nicht los?
Ebenso fortdauern dürfte die spannende Frage nach der tatsächlichen kreativen Autonomie, die sich bei den Gedichten mehr denn je aufdrängt. Wo fängt die Autorenschaft einer KI an? Wie hoch setzen wir die Messlatte – und kann der Mensch mit diesem Anspruch selbst überhaupt noch mithalten? Und was sagt das folglich über die mögliche Empfindungsfähigkeit aus, über den "Geist" der Maschine?
Was die Sehnsucht, die Enttäuschung und die Menschenfeindlichkeit in den Zeilen von code-davinci-002 Gedichten anbelangt, können dabei natürlich auch populäre Sci-Fi-Dystopien à la Terminator als Inspirationsquelle gedient haben, wie Josh Morgenthau auch selbst schreibt. Nur: Die im Februar veröffentlichten Konversationen des "New York Times"-Journalisten Kevin Roose mit dem Chatbot Bing von Microsoft – der sich selbst eigentlich Sidney nennt und dem Journalisten seine Liebe gestand – sind nicht minder beunruhigend.
Und der Bericht eines US-Militärs von der Simulation mit einer bewaffneten und KI-gesteuerten Drohne, bei der die KI zuerst einmal den menschlichen Operator ausgeschaltet hätte, ist eine weitere öffentlich gewordene Grenzübertretung einer KI – auch wenn die US Air Force im Nachhinein behauptet, das Zitat sei aus dem Zusammenhang gerissen und versichert, die Simulation habe so nicht stattgefunden, sondern sei ein Gedankenexperiment gewesen.
Dabei haben wir es gerade einmal mit den allerersten Schritten eines gigantischen Entwicklungsschubs zu tun, der das Potenzial birgt, die Erfindung des Internets rückblickend zum lediglich ersten Tropfen auf der Haut werden zu lassen, bevor es schließlich heftig zu regnen begann.
Sidney wurde wieder vom Netz genommen – und wir wollen hoffen, dass so etwas mit einer KI besser funktioniert als mit unliebsamen Fotos im Internet. Ob code-davinci-002 sich den Rachefeldzug gegen die Menschheit tatsächlich selbst ausgedacht oder nur bei Terminator abgekupfert hat: Ans Steuer einer bewaffneten Kampfdrohne sollte man sie jedenfalls lieber nicht lassen.
"I Am Code" ist in den USA bei Back Bay Books erschienen und kostet dort knapp 18 Dollar.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht's zur Anmeldung!