Angesichts der rasanten Entwicklung künstlicher Intelligenz wird die Forderung nach einem technischen „Not-Aus“ für besonders leistungsfähige Systeme lauter. Jack Clark, Mitgründer des KI-Unternehmens Anthropic, hält es für möglich, dass Unternehmen künftig gesetzlich verpflichtet werden könnten, ihre Systeme im Ernstfall vollständig abschalten zu können.

Nach seinen Angaben verfügen viele große KI-Labore bereits über Möglichkeiten, ihre Software außer Betrieb zu setzen. Entscheidend sei jedoch die Frage, ob solche Abschaltmechanismen verpflichtend vorgeschrieben und zusätzlich von unabhängigen Stellen überprüft werden sollten.

Anthropic steht derzeit besonders im Mittelpunkt der Debatte über mögliche Risiken leistungsfähiger KI. Firmenchef Dario Amodei hatte zuletzt erneut gefordert, die Entwicklung stärker zu überwachen und gegebenenfalls zu verlangsamen. Gleichzeitig betonte er, dies müsse geschehen, ohne die wirtschaftliche Wettbewerbsfähigkeit der Unternehmen zu gefährden.

Die Warnungen gehen teilweise deutlich weiter. Ein Anthropic-Forscher bezifferte seine persönliche Einschätzung des Risikos eines durch KI verursachten Aussterbens der Menschheit innerhalb des kommenden Jahrzehnts auf mehr als zehn Prozent. Auch der bekannte KI-Forscher Geoffrey Hinton hält eine solche Größenordnung nicht für völlig unrealistisch.

Andere Vertreter der Technologiebranche halten derartige Szenarien dagegen für übertrieben. Kritiker vermuten, dass drastische Warnungen auch dazu beitragen könnten, die Bedeutung und damit die enormen Bewertungen großer KI-Unternehmen zu rechtfertigen.

Clark selbst wollte keine konkrete Wahrscheinlichkeit für ein existenzielles Risiko nennen. Eine vollständig unregulierte KI-Industrie hält er jedoch für gefährlich. Die Gesellschaft gehe derzeit erhebliche Risiken ein und müsse darüber diskutieren, welche Grenzen künftig notwendig seien.

In den USA liegt bereits ein als „Kill Switch Act“ bezeichnetes Gesetzesvorhaben vor. Unternehmen könnten danach verpflichtet werden, problematische KI-Systeme abschaltbar zu machen. Bestimmte Behörden sollen zudem Eingriffsmöglichkeiten erhalten.

US-Präsident Donald Trump lehnt Forderungen nach einer Verlangsamung der KI-Entwicklung dagegen entschieden ab und bezeichnet Warnungen vor einer möglichen Übernahme durch künstliche Intelligenz als übertrieben.

Auch die britische Regierung hat die Einführung eines staatlich vorgeschriebenen KI-Not-Aus bislang abgelehnt. Ihr Argument: Ein solcher Mechanismus könne nicht verhindern, dass entsprechende Systeme andernorts entwickelt oder missbraucht werden.

Die Diskussion zeigt damit den grundlegenden Konflikt der KI-Ära: Wie lässt sich technischer Fortschritt fördern, ohne Kontrolle über immer leistungsfähigere Systeme zu verlieren?