Zwischen utopischer Hoffnung und existenzieller Angst: Wie real ist die Bedrohung durch künstliche Intelligenz?
Seit Sprachmodelle binnen weniger Jahre von einer Laborkuriosität zu einem Alltagswerkzeug geworden sind, sprengt die Frage, ob künstliche Intelligenz das Überleben der Menschheit selbst gefährden könnte, längst den Rahmen der Science-Fiction. Einige führende Forscher, darunter der Nobelpreisträger Geoffrey Hinton, warnen, dass die Risiken unterschätzt werden könnten. Andere wiederum sind der Ansicht, dass gerade solche apokalyptischen Szenarien von den Schäden ablenken, die diese Technologie schon heute anrichtet. Für eine nüchterne Bewertung dieser Debatte lohnt es sich, die drei Szenarien, die am häufigsten genannt werden, einzeln zu betrachten.
Am greifbarsten ist das erste Szenario, der gezielte Missbrauch: Leistungsfähige Systeme könnten Einzelnen oder kleinen Gruppen ermöglichen, Schäden in einem Ausmaß anzurichten, das früher Staaten vorbehalten war. Besonders beunruhigend ist die Vorstellung, dass Systeme beim Entwurf biologischer Waffen oder bei koordinierten Cyberangriffen auf kritische Infrastruktur wie Stromnetze helfen könnten. Deshalb integrieren die Entwickler der fortschrittlichsten Modelle bereits Schutzmechanismen, obwohl Kritiker befürchten, dass diese mit geringem Aufwand umgangen werden könnten.
Das zweite Szenario, als Alignment-Problem bekannt, betrifft die Möglichkeit, dass Systeme so leistungsfähig werden, dass ihre Ziele mit menschlichen Interessen nicht mehr übereinstimmen. Ein solches System müsste nicht im menschlichen Sinne böswillig sein; es würde genügen, dass es ein falsch formuliertes Ziel mit äußerster Konsequenz verfolgt. Forscher wie Hinton, der 2024 den Nobelpreis für Physik erhielt, halten dieses Risiko für durchaus real, während Skeptiker entgegnen, heutige Modelle seien von jeglichem eigenen Willen weit entfernt.
Das dritte Szenario ist weniger spektakulär, manchen Analysen zufolge aber nicht minder besorgniserregend: Es geht um die allmähliche, kaum merkliche Übertragung zentraler Entscheidungen auf automatisierte Systeme. Wenn Unternehmen, Behörden und Armeen immer mehr Entscheidungen an Algorithmen delegieren, weil diese schneller und billiger arbeiten, könnte der Mensch nach und nach die Fähigkeit verlieren, diese Prozesse zu verstehen und zu korrigieren. So würde die Macht nicht gewaltsam entrissen, sondern still preisgegeben, in Tausenden von scheinbar vernünftigen Schritten. Ähnliche Prozesse, so die Befürworter dieser These, ließen sich bereits dort beobachten, wo Algorithmen über Kredite, Einstellungen oder die Vergabe von Sozialleistungen entscheiden.
Die Kritiker solcher Szenarien, unter ihnen viele Forscher aus der Technikethik, bestreiten nicht zwingend jedes langfristige Risiko, warnen aber vor falsch gesetzten Prioritäten. Während die Öffentlichkeit über eine hypothetische Superintelligenz debattiere, entstünden reale Schäden schon heute: Desinformation, die sich schneller als je zuvor verbreitet, diskriminierende Entscheidungen undurchsichtiger Systeme und Druck auf Berufe, die lange als sicher galten. Zudem erfordern Training und Betrieb großer Modelle enorme Mengen an Strom und Wasser zur Kühlung von Rechenzentren, was die Fragen nach ihrem ökologischen Fußabdruck verschärft. Aus dieser Perspektive nütze der Fokus auf ferne Katastrophen ausgerechnet den Unternehmen, weil er die Aufmerksamkeit von der Regulierung ihrer gegenwärtigen Praktiken ablenke.
Allerdings sind die beiden Ansätze nicht zwangsläufig unvereinbar. Viele Forscher argumentieren, dass dieselben Instrumente, die zur Lösung der heutigen Probleme nötig seien, etwa Transparenz, unabhängige Prüfungen und klare rechtliche Haftung, auch die Wahrscheinlichkeit späterer Katastrophen verringern würden. Die Europäische Union klassifiziert mit ihrem KI-Gesetz bereits Systeme nach ihrem Risikoniveau, während die Regulierung in anderen Ländern vorerst fragmentierter bleibt. Über die Wirksamkeit solcher Regeln entscheidet auch, ob die Staaten gemeinsame Standards vereinbaren können, was angesichts der gegenwärtigen geopolitischen Rivalität keineswegs gesichert ist. Sicher ist nur eines: Die Frage, wie eine Technologie zu steuern ist, die sich schneller entwickelt als die Institutionen, die sie beaufsichtigen sollen, wird die Politik der kommenden Jahrzehnte prägen.