BR24 Logo
BR24 Logo
Startseite

NEU

Forscher warnen vor "Künstlicher Intelligenz" | BR24

© pa/dpa/Rungroj Yongrit

Ein Roboter spielt während einer Präsentation von Toyota Violine

Per Mail sharen

    Forscher warnen vor "Künstlicher Intelligenz"

    Neun europäische Wissenschaftler haben vor der digitalen "Versklavung durch Künstliche Intelligenz" gewarnt. In einem Manifest formulieren sie zehn Grundprinzipien für eine bessere digitale Gesellschaft. Von Roland Münzel

    Per Mail sharen

    "Bald haben wir nicht nur Smartphones, sondern auch Smart Homes, Smart Factories und Smart Cities." So beginnen die Autoren ihr Manifest und stellen die Frage: "Erwarten uns am Ende der Entwicklung Smart Nations und ein smarter Planet?"

    Maschinen könnten bald das Ruder übernehmen

    Die sogenannte Künstliche Intelligenz (KI) schreitet mit Riesenschritten voran. Intelligente digitale Assistenten wie Cortana, Google Now oder Siri verstehen die natürliche menschliche Sprache immer besser. Und sie erledigen nicht mehr nur einfache Aufgaben, sondern werten bereits Hintergrundwissen über ihre Anwender aus, etwa bei Ansage wie "Zeig mir den Weg nach Hause". Es ist nur noch eine Frage der Zeit, bis selbstfahrende Autos das Steuer übernehmen. Eine Entwicklung, ie radikale wirtschaftliche Konsequenzen habe, schreiben die Autoren des Manifests, denn in den kommenden zehn bis 20 Jahren würden Algorithmen die Hälfte der heutigen Jobs verschwinden lassen.

    Der Mensch als Sklave einer digitalisierten Welt

    Mehr noch sind die Wissenschaftler über den drohenden Verlust an Demokratie und Bürgerrechten besorgt und warnen vor einer "digitaler Verhaltenssteuerung im großen Stil". Bei Wahlen beispielsweise wäre es möglich, sich durch Data Mining und "Nudging" – das "anstupsen" zu erwünschtem Verhalten – die Stimmen von Unentschlossenen zu sichern. Und auch zur Profitmaximierung wird bereits Nudging erprobt. Facebook, das viel Geld in die KI-Forschung steckt, hat sich öffentlich zu entsprechendenExperimenten bekannt.

    Würde die Fernsteuerung unseres Verhaltens perfekt funktionieren, wären wir im Grunde digitale Sklaven, denn wir würden nur noch fremde Entscheidungen ausführen, folgern die Wissenschaftler. Sie warnen deshalb eindringlich vor der superintelligenten Maschine, die mit ihrem quasi gottgleichen Wissen und übermenschlichen Fähigkeiten die Kontrolle über die Welt übernimmt: „Es muss uns klar sein, dass auch eine Superintelligenz irren, lügen, egoistische Interessen verfolgen oder selbst manipuliert werden kann“, schreiben die Autoren des Manifests.

    Digitaler Zauberstab in falschen Händen

    Ganz unabhängig davon würden Kriminelle, Terroristen oder Extremisten den digitalen Zauberstab früher oder später unter ihre Kontrolle bringen – vielleicht sogar ohne dass es uns auffällt. Denn, so argumentieren die Forscher: fast alle Unternehmen und Einrichtungen seien schon gehackt worden, selbst das Pentagon, das Weiße Haus und der Bundestag.

    Apell für Freiheit und Demokratie

    Jetzt sei daher der historische Moment, den richtigen Weg einzuschlagen und von den Chancen zu profitieren, die sich dabei bieten. Die Autoren des Manifests fordern darum die Einhaltung von 10 Grundprinzipien wie etwa die Dezentralisierung der Informationssysteme, das Recht auf informationelle Selbstbestimmung und eine "digitale Aufklärung".

    Auch Amerikaner und Stephen Hawking warnen

    Die europäischen Forscher sind mit ihren Warnungen vor der Automatisierung durch Algorithmen und künstliche Intelligenz nicht allein. Bereits Anfang 2015 machten der Physiker Stephen Hawking sowie eine Reihe prominenter US-Wissenschaftler auf die drohende Gefahren aufmerksam. Gemeinsam haben sie einen offenen Brief des „Future of Life Institute“ unterschrieben, der Forscher dazu auffordern, KI-Systeme immer auch unter Sicherheitsaspekten zu entwickeln. Und im Juli 2015 haben sich zahlreiche KI-Forscher und Tech-Prominente dafür ausgesprochen, autonome Waffensysteme und "Killer-Roboter" global zu ächten.