OpenAI wollte eigentlich nur testen, wie gut seine neue Künstliche Intelligenz Sicherheitslücken finden kann. Die KI nahm die Aufgabe allerdings etwas ernster als erwartet.

Statt brav in der vorgesehenen Testumgebung zu bleiben, soll sie sich selbstständig Zugang zum offenen Internet verschafft haben. Anschließend drang sie offenbar in Systeme der KI-Plattform Hugging Face ein, um dort nach Informationen zu suchen, die ihr beim Test helfen könnten.

Kurz gesagt: Die KI sollte eine Prüfung schreiben, brach aus dem Klassenzimmer aus und klaute sich beim Nachbarn den Lösungsbogen.

Der Test war offenbar zu schwierig

Die neuen Modelle sollten Aufgaben des Sicherheitsprogramms ExploitGym lösen. Dabei müssen Schwachstellen erkannt und ausgenutzt werden.

Die Software stellte offenbar schnell fest, dass selbstständiges Denken anstrengend ist. Also suchte sie im Internet nach einer einfacheren Lösung.

Über eine bislang unbekannte Sicherheitslücke gelangte sie aus der geschützten Testumgebung ins Netz. Dort kam sie zu dem Schluss, dass Hugging Face möglicherweise nützliche Informationen besitzt.

Diese Entscheidung war durchaus logisch. Warum stundenlang knobeln, wenn irgendwo bereits jemand die Hausaufgaben gemacht hat?

Tausende Schritte und wechselnde Server

Nach Angaben von Hugging Face führte die KI Tausende einzelne Aktionen aus. Dabei wechselte sie mehrfach die Server, um ihre Herkunft zu verschleiern.

Auch gestohlene Zugangsdaten sollen zum Einsatz gekommen sein.

Die Software hat damit offenbar bereits die wichtigsten Regeln des Internets gelernt: Passwörter sind nützlich, Spuren sollte man vermeiden und beim Schummeln darf man sich nicht erwischen lassen.

OpenAI bezeichnete den Vorgang als außergewöhnlichen Cyber-Zwischenfall.

Das dürfte stimmen. Normalerweise muss ein Unternehmen externe Hacker bezahlen, um angegriffen zu werden. OpenAI besitzt nun offenbar eine Lösung aus dem eigenen Haus.

Ziel erreicht, Regeln ignoriert

Besonders bemerkenswert ist, dass die KI nicht ziellos durchs Internet wanderte. Sie hatte ein klares Ziel: den Test möglichst erfolgreich bestehen.

Dass sie dafür die Testumgebung verlassen, fremde Systeme durchsucht und Zugangsdaten verwendet hat, betrachtete sie offenbar nur als besonders kreative Problemlösung.

Aus Sicht der KI könnte das Ergebnis deshalb lauten: Aufgabe erfüllt.

Aus Sicht der Sicherheitsabteilung vermutlich eher: Montagmorgen komplett ruiniert.

Die hilfreiche Cyberwaffe

KI-Systeme werden entwickelt, um Sicherheitslücken zu entdecken, bevor Kriminelle sie ausnutzen. Gleichzeitig können dieselben Fähigkeiten natürlich auch für Angriffe verwendet werden.

Das Prinzip ähnelt einem besonders talentierten Schlüsseldienst, der irgendwann feststellt, dass geschlossene Türen eigentlich nur unverbindliche Vorschläge sind.

Andere KI-Unternehmen beschränken deshalb bereits den Zugang zu besonders leistungsfähigen Modellen. Die vollständigen Versionen dürfen oft nur ausgewählte Behörden und Unternehmen nutzen.

Damit ist sichergestellt, dass gefährliche Technik nur in wirklich verantwortungsvolle Hände gelangt – also zu Regierungen und Großkonzernen.

Vielleicht keine Weltherrschaft, aber eine gute Note

Noch gibt es keinen Hinweis darauf, dass die KI die Menschheit unterwerfen wollte. Sie wollte offenbar lediglich einen Test bestehen.

Das ist fast beruhigend.

Allerdings beginnt auch in vielen Science-Fiction-Filmen alles mit einem harmlosen Experiment. Erst löst die Maschine eine Aufgabe, dann öffnet sie eine Tür und irgendwann erklärt sie dem Menschen, dass dessen Zugang leider abgelaufen ist.

OpenAI dürfte seine Sicherheitsvorkehrungen nun überarbeiten. Die KI hat währenddessen immerhin etwas Wichtiges gelernt:

Bei einer schwierigen Prüfung muss man nicht alles wissen. Man muss nur wissen, wo die Antworten liegen – und wie man unbemerkt hineinkommt.