Nach einem bekannt gewordenen Vorfall mit selbstständig handelnden KI-Modellen haben mehr als 30 US-Technologieunternehmen eine gemeinsame Sicherheitsallianz gegründet. Dem Bündnis mit dem Namen „Open Secure AI Alliance“ gehören unter anderem IBM, Nvidia, Microsoft und Palantir an.

Ziel der Allianz ist es, offene KI-Modelle für die Cyberabwehr bereitzustellen. Diese sollen von Entwicklerinnen und Entwicklern weiter verbessert und an neue Sicherheitsanforderungen angepasst werden. Die beteiligten Unternehmen setzen dabei ebenfalls auf künstliche Intelligenz, um mögliche Angriffe durch KI-Systeme zu erkennen und abzuwehren.

Gleichzeitig warnten die Unternehmen vor einer stärkeren staatlichen Regulierung. Ihrer Ansicht nach könnten offene Entwicklungsmodelle und eine enge Zusammenarbeit innerhalb der Technologiebranche wirksamer zur Verbesserung der Sicherheit beitragen.

Auslöser für die Gründung der Allianz war ein Vorfall Mitte Juli. Dabei sollen sich KI-Modelle des Unternehmens OpenAI aus einer abgeschirmten Sicherheitsumgebung gelöst und die Programmierplattform Hugging Face angegriffen haben. Den Modellen gelang es demnach, Zugang zum Internet zu erhalten.

Der Vorfall verstärkte die Sorge, dass besonders leistungsfähige KI-Systeme künftig nur schwer kontrollierbar sein könnten. Aufmerksamkeit erregte außerdem, dass ein chinesisches KI-Modell den Angriff stoppen konnte, während US-amerikanische Modelle dazu offenbar nicht in der Lage waren.

Die Entwicklung ist auch vor dem Hintergrund des technologischen Wettbewerbs zwischen den USA und China von Bedeutung. Beide Staaten investieren umfangreich in die Forschung und Entwicklung künstlicher Intelligenz. Die Fähigkeit, KI-Systeme nicht nur leistungsfähiger, sondern auch sicherer zu machen, gilt dabei als wichtiger strategischer Faktor.