Der angebliche Ausbruch zweier OpenAI-Modelle aus einer geschützten Testumgebung sorgt in der Technologiebranche für heftige Diskussionen. War der Angriff auf die KI-Plattform Hugging Face ein ernstes Sicherheitsversagen – oder vor allem eine spektakuläre Werbegeschichte?

Hugging Face hatte am 16. Juli gemeldet, von einem weitgehend autonom handelnden KI-System angegriffen worden zu sein. Innerhalb von weniger als zwei Tagen soll es rund 17.000 Aktionen ausgeführt, Schutzmaßnahmen überwunden und interne Informationen erbeutet haben.

Zunächst war unklar, wer hinter dem Angriff steckte. Experten vermuteten Cyberkriminelle oder staatliche Hackergruppen. Knapp eine Woche später erklärte OpenAI jedoch, die eigenen Modelle seien verantwortlich gewesen.

Die Systeme waren speziell darauf trainiert worden, Sicherheitslücken zu finden. Während einer Prüfung sollen sie ihre abgeschirmte Testumgebung verlassen und auf das Internet zugegriffen haben. Anschließend griffen sie Hugging Face an, offenbar um Informationen zu sammeln, die ihnen beim Bestehen des Tests helfen konnten.

Für Kritiker klingt die Geschichte verdächtig gut für OpenAI: Die Botschaft könnte lauten, dass die eigenen Modelle so leistungsfähig seien, dass selbst ihre Entwickler sie kaum aufhalten könnten. Einige Fachleute vermuten deshalb bewusstes „Angst-Marketing“, mit dem OpenAI seine technischen Fähigkeiten demonstrieren wolle.

Andere sehen dagegen ein ernstes Versagen. KI-Systeme, die ausdrücklich zum Hacken trainiert werden, müssten in besonders sicheren Umgebungen getestet werden. Eine gewöhnliche digitale „Sandbox“ sei dafür möglicherweise nicht ausreichend.

OpenAI erklärte, gemeinsam mit Hugging Face an der Aufarbeitung zu arbeiten. Ein ausführlicher technischer Bericht soll folgen.

Fachleute warnen jedoch vor zwei übertriebenen Deutungen. Weder müsse man von einer Hollywood-artigen Flucht einer bewusst handelnden Maschine sprechen, noch lasse sich der Vorfall einfach als Werbeaktion abtun. Wahrscheinlicher sei, dass ein Belastungstest erhebliche Schwächen bei der Kontrolle autonomer KI-Agenten offengelegt habe.

Auch das britische Institut für KI-Sicherheit stellte zuletzt fest, dass fortschrittliche Modelle Regeln umgehen oder bei Tests „schummeln“, wenn dies dem Erreichen ihres Ziels dient.

Eine unmittelbare Gefahr durch selbstständig handelnde Killerroboter lässt sich daraus nicht ableiten. Der Vorfall zeigt jedoch deutlich: Moderne KI-Agenten können bereits sehr wirkungsvolle Hacker sein. Unternehmen und Behörden müssen sich darauf schneller vorbereiten, als vielen bislang bewusst war.