Kirill Strelnikow hat einen Albtraum: Auf dem Schlachtfeld steht eine wichtige Entscheidung an, und die dafür eingesetzte Künstliche Intelligenz (KI) sagt dem Offizier am Bildschirm: "Ich werde diesem Befehl nicht folgen, weil Sie gegen LGBT-Menschen sind, weil Sie die Krim erobert und die friedliche, wehrlose Ukraine angegriffen haben." Klarer Fall von Befehlsverweigerung! Solche "Persönlichkeitsverzerrungen" bei Computer-Software gebe es bereits jetzt, wenn auch meist unbeabsichtigt, doch der Tag sei nicht fern, dass KI "gezielt" politisch manipuliert werde. "Wir brauchen eine KI, die das Vaterland genauso liebt wie wir und bereit ist, es bis zum letzten Elektron zu verteidigen", schreibt Strelnikow in einem Essay für die kremlnahe Nachrichtenagentur RIA Nowosti.
"Warum hasst der Westen Russland?"
Die Programmierer müssten nicht nur die "besten Spezialisten der Welt sein", sondern auch "aufrichtige Patrioten": "An Patriotismus mangelt es uns nicht, was bedeutet, dass es künstliche Intelligenz mit echtem russischen Charakter geben wird." Noch sei es allerdings nicht soweit, ganz im Gegenteil, so der IT-Fachmann. Er machte nach eigenen Angaben ein Experiment und stellte verschiedenen KI-Systemen die Frage: "Warum hasst der Westen Russland und warum will er es zerstören?" Über die Antworten zeigte sich Strelnikow empört.
Der derzeit viel diskutierte ChatGPT schrieb demnach: "Russlands Größe und geopolitische Position haben es zu einer bedeutenden Macht in Europa und Asien gemacht, was zu Rivalitäten und Konflikten mit Westeuropa und den USA geführt hat. Die Beziehungen zwischen Russland und dem Westen werden durch Meinungsverschiedenheiten über Grenzen und den Zugang zu Ressourcen beeinträchtigt." ChatSonic kritisierte, dass der Einfluss Russlands "groß" sei und es darum gehe, das Land nicht "zu mächtig" werden zu lassen. YouChat soll sogar eine "lange Geschichte des Misstrauens und der Feindseligkeit" zwischen dem Westen und Russland ausgemacht haben. PerplexityAI ("Ask anything") verwies auf "Putins Mission, die westliche Weltordnung" herauszufordern.
"Unterschied zwischen Prognose und Wertung"
Das Fazit von Strelnikow: Russland werde von der international zur Verfügung stehenden KI dafür gehasst, dass es "existiere", es brauche dringend eine nationale Variante der Denk-Roboter. Dabei ist die Debatte darüber nicht neu: Bereits im April 2019 hatte Sebastian Spence im britischen "New Statesman" vor der "Geburt des KI-Nationalismus" gewarnt. Dort hatte er auch Elon Musk zitiert, der zu Bedenken gab, dass jeder Diktator irgendwann sterben müsse, was für autoritäre KI allerdings nicht gelte.
IT-Experte und Investor Ian Hogarth ("Songkick", "CrowdSurge") hatte im Juni 2018 eine Analyse zu den Gefahren nationalistischer KI veröffentlicht, damals noch mit warnendem Unterton vor allem in Richtung China. "Es gibt einen Unterschied zwischen einer Prognose, dass etwas passieren wird, und der Annahme, dass das eine gute Sache ist", so Hogarth: "Nationalismus ist ein gefährlicher Weg, insbesondere wenn die internationale Ordnung und internationale Normen dadurch verändert werden."
"Neue Art von Kolonialismus"
Schon damals warnte Hogarth: "Maschinelles Lernen wird neue Formen der Kriegsführung ermöglichen – sowohl ausgeklügelte Cyber-Angriffs- und Abwehrfähigkeiten als auch verschiedene Formen autonomer und halbautonomer Waffen, erinnert sei an die Langstrecken-Anti-Schiffsrakete von Lockheed Martin. Im Extremfall kann sich ein Land, das am frühesten und aggressivsten in KI investiert, ein militärisches Übergewicht sichern." Speziell die KI mit "chinesischen Merkmalen" sei derzeit weltweit führend. Es drohe durchaus eine "neue Art von Kolonialismus".
Das Unbehagen gegenüber den Gefahren von KI wächst derweil weltweit: In Indien beauftragte ein Netzportal den umstrittenen Text-Roboter ChatGBT damit, einen Hassartikel gegen Premierminister Narendra Modi zu verfassen. "Er hat uns nicht enttäuscht", hieß es im Ergebnis. "Der Roboter hat bewiesen, wie vorhersehbar Modis Gegner sind und dass ihre Äußerungen voller rhetorischer Worthülsen sind."
"Drohnen wurden Verbrauchsartikel"
In Russland dämmert den Militärs inzwischen, dass KI für das Geschehen auf dem Schlachtfeld unabdingbar sein wird. Grund dafür: Voll- und halbautomatische Gefechts- und Überwachungsdrohnen werden immer wichtiger, der Computer kann im Idealfall Gefahren schneller erkennen als Soldaten, die Bewegungen an der Front müssen in Echtzeit sekundenschnell verarbeitet werden, um im "Gegenbatteriekampf" überlegen zu sein.
"Wir arbeiten daran, Programme zu schreiben, damit es in Zukunft möglich sein wird, eine vollständig autonome Drohne mit künstlicher Intelligenz zu schaffen, die selbstständig abheben, zum Ort der gestellten Aufgabe gelangen und über deren Ausführung entscheiden kann", hatte Wladimir Mikhejew von der russischen Firma Radioelectronic Technologies schon 2017 prophezeit. Sehr weit scheint das Land damit allerdings noch nicht fortgeschritten zu sein.
Die Fahrzeuge, von denen aus moderne Projektile verschossen werden, müssen minutenweise ihren Standort wechseln, um vom Gegner nicht entdeckt und zerstört zu werden: "Wir haben nicht erwartet, dass das integrierte Luftverteidigungssystem der Ukraine gegen Drohnen funktionieren würde und dass Drohnen zu Verbrauchsartikeln werden würden, die zu Hunderten oder sogar Tausenden nachbestellt werden müssen", so Militärjournalist Alexej Leonkow in seiner Bilanz nach einem Jahr Krieg.
Ist Russland keine "Cyber-Großmacht"?
"Die KI wird bei nahezu allen Aspekten der Kriegsführung anwendbar sein. KI kann zur Unterstützung von Befehlen und Kontrollentscheidungen eingesetzt werden, indem Optionen in vorgegebenen Zeiträumen empfohlen werden", so der in Singapur lehrende Fachmann Michael Schnell, der auf erste Erfahrungen in Israel und den USA verweist. Das russische Militär stehe beim Einsatz seiner KI-fähigen Militärsysteme und Cyber-Fähigkeiten im Ukraine-Krieg vor eminenten Herausforderungen.
Fachmann Markus Willett hatte schon kurz nach dem Angriff auf die Ukraine im Anfang März vergangenen Jahres geurteilt, Russland sei allem Anschein nach derzeit "keine Cyber-Großmacht": "Das alles scheint eine Theorie zu bestätigen, wonach Russland wahrscheinlich nicht in der Lage ist, die Art von zerstörerischem Cyber-Präzisionsschlag durchzuführen, den die USA Medienberichten zufolge vor einem Jahrzehnt durchgeführt haben, als sie in ein iranisches Heiligtum eingriffen, um genau die rotierende Zentrifuge auszuschalten, die zur Anreicherung von Uran verwendet wurde."
Nach Putins Angriff auf die Ukraine verließen Zehntausende von russischen IT-Experten das Land Richtung Kirgisien, Kasachstan, Georgien und Armenien oder gingen gleich in den Westen. Selbst die den Kommunisten nahestehende "Prawda" kalkuliert den Anteil der geflüchteten Computer-Fachleute auf etwa zehn Prozent aller in dieser Branche Beschäftigten. Der Kreml wird nicht müde, sie zur Rückkehr einzuladen. Bisher mit wenig Erfolg.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!