Symbolfoto: Verfremdetet Blick auf ein Motherboard eines Computers
Bildrechte: picture alliance / Klaus Ohlenschläger | Klaus Ohlenschläger

Symbolfoto: Verfremdetet Blick auf ein Motherboard eines Computers

Per Mail sharen
Artikel mit Audio-InhaltenAudiobeitrag

Schattenseiten: Wenn die KI zum Komplizen von Betrügern wird

Der Hype um die Möglichkeiten von künstlicher Intelligenz Abläufe zu optimieren ist vor allem in der Wirtschaft groß. Doch zugleich zeigt sich, dass KI auch Menschen hilft, die mit Geschäften Geld machen, die illegal sind oder im Graubereich liegen.

Erst kürzlich sorgte eine neue Telefon-Betrugsmasche für Schlagzeilen: Ein Freund oder Familienmitglied ruft vermeintlich an und bittet um Geld – mit einer von einer KI täuschend echt gefälschten Originalstimme des angeblichen Anrufers. Das macht den Betrugsanruf und diese Variante des sogenannten "Enkeltricks" besonders glaubwürdig und entsprechend viele Menschen fallen darauf rein und überweisen Geld. Die Polizei rät deswegen innerhalb der Familie zum Beispiel Codeworte zu vereinbaren.

Versicherungswirtschaft befürchtet mehr Betrugsfälle

Auch die Versicherungswirtschaft befürchtet, dass durch den Einsatz von Künstlicher Intelligenz in Sprachgeneratoren wie ChatGPT die Zahl bei Versicherungsbetrugsfällen steigen wird: So warnt Stephen Voss vom StartUp Neodigital im Handelsblatt beispielsweise davor, dass Kriminelle verstärkt Künstliche Intelligenz einsetzen werden. "Die neuen Möglichkeiten rund um ChatGPT werden dazu führen, dass Betrugsfälle zunehmen", sagt er.

Online-Bilder mehrfach als Beweis benutzt

Dadurch dass die KI im Sprachgenerator Texte generiert, die von normaler menschlicher Sprache so gut wie nicht mehr zu unterscheiden sind, könnten sich Betrüger durch die Eingabe weniger Fakten sehr einfach Schadensfälle beschreiben lassen. Auch passende Bilder dazu fänden entsprechende Roboter im Internet. So ist das Bild einer kaputten Ceranplatte von einer Koch- und Backsite laut Voss bereits mehrfach als vermeintliches Beweisfoto eingereicht worden. Pech für die Betrüger: Die Versicherer nutzen inzwischen verstärkt die Bild-Rückwärtssuche im Netz.

Kleinvieh macht auch Mist

Neben solchen klar illegalen Aktivitäten bietet die KI aber auch die Grundlage für Geschäfte, die im Graubereich liegen. So hat die Musikplattform Spotify beispielsweise vor einigen Tagen laut einem Bericht der Financial Times tausende Songs der KI-Plattform Boomy entfernt. Der Verdacht: Die von einer KI zusammengestellten Lieder wurden von Profilen, die von Robots gesteuert werden, wieder und wieder heruntergeladen. Dadurch sollen die Initiatoren unverhältnismäßig hohe Lizenzgebühren ergaunert haben.

  • Zum Artikel: KI in der Musik: Kann uns ein KI-Song zum Weinen bringen?

Kasse durch Masse

Das Problem ist dabei nicht, dass KI-generierte Songs grundsätzlich auf Musikplattformen wie Spotify eingestellt werden, sondern die riesige Menge an Musik, die dadurch entsteht, weil es selbst für absolute Laien sehr leicht ist, solche Songs von der KI erstellen zu lassen. Durch den geringen Aufwand ist der Ertrag, der erst in der Summe zu einem nennenswerten Betrag wächst, trotzdem rentabel.

Die KI steigert durch Online-Rezension den Umsatz

Und die Musik ist nur eine Sparte, in der durch die Mithilfe von KI mit zumindest zweifelhaften Methoden Einnahmen erzeugt werden sollen. Rezensionen, die massenhaft durch Ki-gesteuerte Sprachgeneratoren für Produkte werben - oder auch von denen der Konkurrenz abraten – können den Umsatz in Online-Shops enorm beeinflussen. Laut einer Studie der Softwareberatungsplattform Captera aus dem vergangenen Jahr lesen 63 Prozent der Kunden von Online-Shops in Deutschland immer oder häufig Online-Bewertungen, bevor sie ein Produkt kaufen oder eine Dienstleistung in Anspruch nehmen. Und eine repräsentative Umfrage des Branchenverbands Bitkom ergab vor wenigen Wochen mit 55 Prozent ein ähnliches Ergebnis bei der Wahl von Ärzten und Kliniken.

Tantiemen, die die KI verdient

Das einfache und schnelle Erzeugen von Texten führte bei der Onlinezeitschrift Clarkesworld dazu, dass das Postfach zum Einsenden von Lesertexten geschlossen wurde. Denn bei der renommierten Science-Fiction-Zeitschrift können Autoren, deren Texte zur Veröffentlichung ausgewählt werden, 11 US-Cent pro Wort bekommen: Leicht verdientes Geld, wenn zuvor die KI die Arbeit übernimmt.

Putin kniet vor Xi Jingping

Und selbst wenn klar ist, dass eine KI hinter einer Kreation steckt, heißt das nicht, dass damit der Wert schwindet. So bietet beispielsweise der KI-gesteuerte Bildgenerator der Plattform Midjourney die Möglichkeit Bilder im Stil von Nachrichtenagentur durch die Eingabe von Text zu erzeugen. Auf diese Art fertigte Eliot Higgins, Gründer des in den Niederlanden ansässigen Kollektivs Bellingcat für investigativen Journalismus Bilder an, die beispielsweise einen vor dem chinesischen Staatschef Xi Jinping knieenden Wladimir Putin zeigen. Obwohl Higgins die Bilder als Fake kennzeichnete, brachten sie auf anderen Websites hohe Klickraten – da allerdings ohne den Hinweis, dass es sich um Fake-Bilder handelt. Das steigert die Bekanntheit desjenigen, der solche Bilder veröffentlich und damit die Chance, beispielsweise Werbeeinnahmen zu generieren.

  • Zum Artikel: KI in der Fotografie: Boris Eldagsen treibt die Debatte voran

Neue Art von SPAM

Experten sehen in dem leichten Zugang zu sehr gut gemachten Kreationen, die ohne KI-Unterstützung viel größeren kreativen Aufwand bräuchten, eine neue Art von SAPM bei Bildern, Texten oder Musik. Und ähnlich wie bei SPAM steckt auch hier vielfach die Motivation dahinter, Geld zu machen oder Leuten Geld aus der Tasche zu ziehen.

"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!