Das KI-Unternehmen Anthropic hat die Nutzung seiner jüngst veröffentlichten Modelle Claude Fable 5 und Mythos 5 vorläufig ausgesetzt. Hintergrund sind Sicherheitsbedenken von US-Behörden, die nur wenige Tage nach der öffentlichen Einführung der Systeme geäußert wurden.

In einer auf der Unternehmenswebsite veröffentlichten Erklärung teilte Anthropic mit, dass ausländischen Nutzern der Zugang zu Claude Fable 5 untersagt werden müsse. Die Maßnahme erfolge auf Anordnung der US-Regierung und zwinge das Unternehmen dazu, beide Modelle kurzfristig für sämtliche Kunden zu deaktivieren, um regulatorische Vorgaben einzuhalten.

Claude Fable 5 gilt als besonders leistungsfähige Variante der KI-Plattform Claude Mythos und konkurriert mit Systemen wie ChatGPT von OpenAI sowie Gemini von Google.

Nach Angaben von Anthropic hätten die Sicherheitsbehörden keine konkreten Risiken benannt. Das Unternehmen gehe jedoch davon aus, dass die Regierung Hinweise auf eine mögliche Methode erhalten habe, mit der sich Schutzmechanismen des Systems umgehen lassen könnten. Solche sogenannten „Jailbreaks“ ermöglichen es Nutzern, Sicherheitsbeschränkungen einer Software zu überwinden und auf Funktionen oder Informationen zuzugreifen, die eigentlich geschützt sein sollen.

Anthropic erklärte, die betreffende Technik habe lediglich einige bereits bekannte und vergleichsweise geringfügige Schwachstellen offengelegt. Nach internen Untersuchungen seien ähnliche Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen erzielbar gewesen, ohne dass dafür besondere Umgehungsmethoden erforderlich seien.

Bereits vor der Markteinführung hatte das Unternehmen umfangreiche Sicherheitsmaßnahmen hervorgehoben, die Cyberangriffe und missbräuchliche Nutzung verhindern sollten. Aufgrund der hohen Leistungsfähigkeit des Systems war Claude Fable 5 zunächst nur ausgewählten Organisationen zu Test- und Evaluierungszwecken zugänglich gemacht worden.

Anthropic selbst hatte das Modell vor seiner Veröffentlichung als außergewöhnlich leistungsstark beschrieben und darauf hingewiesen, dass es theoretisch Fähigkeiten besitze, die für Angriffe auf Computersysteme missbraucht werden könnten. Kritiker warfen dem Unternehmen jedoch vor, mit solchen Aussagen vor allem Marketingeffekte erzielen zu wollen.

„Die Fähigkeiten von Fable übertreffen alles, was wir bisher allgemein verfügbar gemacht haben“, erklärte Anthropic im Vorfeld des Starts.

Parallel dazu befindet sich das Unternehmen in einem Rechtsstreit mit der US-Regierung. Die Trump-Regierung hatte kürzlich versucht, den Einsatz von Anthropic-Technologien in Behörden einzuschränken. Präsident Donald Trump äußerte sich mehrfach kritisch über das Unternehmen. Zudem bezeichnete Verteidigungsminister Pete Hegseth Anthropic als „Risiko für die Lieferkette“ – eine Einstufung, die bislang üblicherweise nur Unternehmen aus als feindlich eingestuften Staaten vorbehalten war.

Anthropic geht juristisch gegen diese Bewertung vor und hat Klage gegen das Pentagon eingereicht. Ein US-Richter entschied inzwischen, dass die entsprechende Anordnung vorerst nicht durchgesetzt werden darf. Damit können Regierungsbehörden sowie Organisationen mit Verbindungen zum US-Militär die KI-Produkte des Unternehmens weiterhin nutzen, bis das Verfahren abgeschlossen ist.