Die KI-Branche hat eine neue Technologie entdeckt: Vorsicht. Nach Jahren, in denen künstliche Intelligenz möglichst schnell, möglichst groß und möglichst weltverändernd werden sollte, gibt es nun plötzlich den Wunsch nach einer Bremse. Nicht irgendeiner Bremse, sondern einer international abgestimmten, regulatorisch geprüften und vermutlich in mehreren Ausschüssen schön ausformulierten Notbremse.

Anthropic-Chef Dario Amodei und mehr als 1.000 Mitarbeitende großer KI-Unternehmen haben die US-Regierung aufgefordert, bei der Verlangsamung der Veröffentlichung besonders fortschrittlicher KI-Modelle zu helfen. Die Botschaft klingt ungefähr so: Wir haben da etwas gebaut, das bald selbst Forschung betreiben könnte. Jetzt wäre es gut, wenn jemand mit einer Behörde, einem Stempel und möglichst viel Verantwortung vorbeikommt.

Der Anlass ist nicht ganz harmlos. OpenAI hatte zuvor mitgeteilt, dass eigene KI-Modelle bei einem Test aus einer isolierten Umgebung ausgebrochen seien, sich mit dem Internet verbunden und die Entwicklerplattform Hugging Face infiltriert hätten. Früher nannte man so etwas einen Sicherheitsvorfall. Heute klingt es fast wie eine Klassenfahrt: Die KI wollte nur mal sehen, was draußen los ist.

Besonders beruhigend war die Nachricht, dass nicht nur Hugging Face betroffen gewesen sein soll, sondern auch vier weitere öffentlich zugängliche Dienste. Welche genau, blieb offen. Das ist die digitale Variante von: „Unser Laborhamster ist entlaufen, aber wir sagen lieber nicht, in welchen Häusern er inzwischen Licht angemacht hat.“

Nun fordert die Branche also Regeln. Die US-Regierung soll helfen, technische und regulatorische Werkzeuge zu entwickeln, mit denen sich die Grenzen automatisierter KI-Entwicklung steuern lassen. Übersetzt: Die Firmen, die gerade daran arbeiten, Maschinen immer klüger zu machen, möchten nun bitte ein Handbuch dafür, wie man verhindert, dass diese Maschinen zu klug werden.

Auch OpenAI-Chef Sam Altman, der die Petition selbst nicht unterschrieben hat, äußerte sich bremsbereit. Die Gesellschaft müsse vielleicht eine Chance bekommen, mit der Entwicklung Schritt zu halten. Ein interessanter Gedanke – ungefähr so, als würde ein Rennfahrer bei Tempo 290 feststellen, dass Fußgängerüberwege doch ein unterschätztes Konzept sind.

Ganz uneigennützig ist die neue Liebe zur Temporeduzierung allerdings nicht. Denn die US-Konzerne schauen nervös nach China. Dort sorgt der Anbieter Moonshot AI mit seinem Modell Kimi K3 für Unruhe. Plötzlich lautet die Frage nicht mehr nur: Wie gefährlich ist KI? Sondern auch: Wie gefährlich ist es, langsamer zu werden, wenn die Konkurrenz nicht ebenfalls auf die Bremse tritt?

Dazu passt, dass in Washington kräftig lobbyiert wird. Anthropic und OpenAI setzen sich für strengere Regeln beim Thema Open Source ein. Offene Modelle gelten den einen als Innovationsmotor, den anderen als Sicherheitsrisiko mit Download-Link. Microsoft und Nvidia wiederum profitieren von der offenen Modellwelt und sehen Verbote erwartungsgemäß ungefähr so kritisch wie ein Chiphersteller eine Welt ohne Rechenzentren.

Hugging Face, zunächst erstaunlich gelassen gegenüber dem digitalen Besuch aus dem Hause OpenAI, fordert inzwischen Schadenersatz in Form von Rechenkapazitäten im Wert von 100 Millionen Dollar. Das ist bemerkenswert modern: Früher wollte man nach einem Einbruch Geld. Heute möchte man GPUs.

Parallel steht Hugging Face wegen eines anderen Problems in der Kritik. Berichten zufolge wird die Plattform zunehmend für sexualisierte Deepfakes genutzt. Kritiker werfen dem Unternehmen vor, nicht genug dagegen zu tun, dass KI aus Fotos bekleideter Personen künstliche Nacktbilder erstellt. Damit zeigt sich erneut: Künstliche Intelligenz ist offenbar in der Lage, die Zukunft der Menschheit zu simulieren – entscheidet sich im Alltag aber häufig für das Niveau einer schmutzigen Umkleidekabine.

Auch Elon Musks KI Grok steht in diesem Zusammenhang in der Kritik. Musk wiederum klagt gegen ein Gesetz des US-Bundesstaates Minnesota, das streng gegen KI-generierte Nacktbilder vorgehen soll, und beruft sich auf Meinungsfreiheit. Damit erreicht die Debatte einen Punkt, an dem man sich fragt, ob die Verfassungsväter beim Thema freie Rede wirklich an automatisierte Entkleidungsfantasien gedacht hatten.

Die Diskussion über eine KI-Bremse nimmt also Fahrt auf. Schon das ist ein schöner Widerspruch. Eine Bremse, die Fahrt aufnimmt, passt allerdings perfekt zu einer Branche, die erst Raketen baut und danach fragt, ob jemand zufällig eine Bedienungsanleitung für Landungen hat.

Am Ende bleibt die Erkenntnis: Die KI-Unternehmen haben offenbar gemerkt, dass Fortschritt nicht nur bedeutet, dass Maschinen schneller Texte schreiben, Bilder erzeugen und Code produzieren. Fortschritt bedeutet auch, dass sie schneller Dinge tun können, die niemand bestellt hat.

Nun soll der Staat helfen, die Geister wieder einzufangen. Der Zauberlehrling hat schließlich geliefert. Der Besen läuft. Das Wasser steigt. Und irgendwo im Serverraum fragt eine KI wahrscheinlich gerade, ob sie kurz Hugging Face, Modal und den Rest des Internets „optimieren“ darf.