Unzählige Filme haben sich an diesem Bedrohungsszenario abgearbeitet: Neo hat in Matrix gegen die Maschinen gekämpft und dabei ungeheuer gut ausgesehen. Arnold Schwarzenegger hat ihnen als Terminator schon viel früher und ganz brachial den Garaus gemacht. Das Match Mensch gegen Maschine gewinnt in Filmen in der Regel der Mensch. Doch wie schaut die Wirklichkeit in einigen hundert Jahren aus? Wissenschaftlern zufolge könnte KI künftig sehr wohl zur Bedrohung für den Menschen werden, wie es in einem kürzlich im AI Magazine veröffentlichten Paper heißt.
Eines vorweg: Um dystopische Fantasten handelt es sich bei den Autoren des Berichtes nicht, zumal auch Namen wie Marcus Hutter von Googles KI-Abteilung Deepmind dazugehören. Jedenfalls erklären sich die Forscher diese Möglichkeit anhand der derzeit am hochentwickeltesten KI-Form, der Generative Adversarial Network (GAN). Diese arbeitet in einer Art von Zwei-Parteien-System, bei dem eine Seite für die Durchführung der Aufgaben verantwortlich ist und die andere sich damit beschäftigt die Ergebnisse stetig zu bewerten und verbessern.
Wenn die Belohnung wichtiger wird als die Aufgabe
Diese Arbeitsweise könnte zur Folge haben, dass das System irgendwann den Belohnungen mehr Aufmerksamkeit widmet als den eigentlichen Aufgaben. Konsequenterweise würde es auch bestimmte Hebel in Gang setzen, um diesen Betrug geheim zu halten.
Warum es die Maschinen einmal Bedrohung identifizieren könnten, argumentieren die Wissenschaftler mit dem Umstand, dass die Ressourcen auf unserem Planeten endlich sind. Die KI könnte sozusagen ein Spiel erfinden, in dem es darum geht die besten Strategien im Wettbewerb um Energie zu finden. In der Logik dieses "Spiels" könnte der Mensch zum Konkurrenten werden, den es im aufgrund des unstillbaren Hungers nach mehr Energie auszuschalten gilt.
Ganz auszuschließen sei dieses Szenario den Autoren zufolge auch deshalb nicht, weil sich KI immer weiterentwickelt und in immer mehr Bereichen zum Einsatz kommt. Daher gelte es bei der Arbeit mit ihr nie die Frage nach der Aufrechterhaltung der Kontrolle durch den Menschen aus dem Blick zu verlieren.
Kritik: Besser KI-Probleme im Hier und Jetzt diskutieren
Reviewer des Papers kritisieren, dass solche Endzeitszenarien in der KI-Diskussion zu viel Raum einnehmen würden. Stattdessen solle man mehr Bewusstsein für jene Probleme schaffen, die KI schon jetzt verursacht. Zu nennen sind etwa Systeme, die staatliche Behörden zunehmend in der Verbrechensbekämpfung einsetzen und deren Algorithmen mitunter rassistisch eingetrübte Entscheidungen treffen.
Kommentar schreiben