Der US-amerikanische KI-Entwickler Anthropic hat den Zugang zu seinen besonders leistungsfähigen Modellen Claude Fable 5 und Claude Mythos 5 kurzfristig ausgesetzt. Auslöser ist eine Anordnung der US-Regierung, nach der ausländische Staatsangehörige die beiden Systeme aus Gründen der nationalen Sicherheit nicht mehr verwenden dürfen. Da Anthropic nach eigener Darstellung nicht zuverlässig sicherstellen kann, dass ausschließlich berechtigte US-Nutzer auf die Modelle zugreifen, werden die Angebote vorerst für sämtliche Kunden deaktiviert. Andere KI-Produkte des Unternehmens sollen von der Maßnahme nicht betroffen sein, die monrose.de berichtet mit ВВС.
Die Entscheidung erfolgte nur wenige Tage nach der öffentlichen Bereitstellung von Fable 5. Anthropic hatte das Modell zuvor als besonders leistungsfähig beschrieben und zugleich darauf hingewiesen, dass seine Fähigkeiten im Bereich Programmierung und Cybersicherheit erhebliche Risiken mit sich bringen könnten. Nun steht ausgerechnet ein möglicher Weg zur Umgehung der eingebauten Schutzmechanismen im Mittelpunkt des Konflikts.
US-Regierung verbietet ausländischen Nutzern den Zugang
Nach Angaben von Anthropic stützt sich die Regierungsentscheidung auf nationale Sicherheitsbefugnisse und exportrechtliche Vorschriften. Die Anordnung gilt demnach nicht nur für Menschen außerhalb der Vereinigten Staaten. Betroffen sind auch ausländische Staatsangehörige, die sich rechtmäßig in den USA aufhalten, sowie internationale Mitarbeiterinnen und Mitarbeiter des Unternehmens.
Damit erhält die Maßnahme eine ungewöhnlich große Reichweite. Anthropic erklärte, dass die praktische Umsetzung eine sofortige Abschaltung der Modelle für die gesamte Kundschaft erforderlich mache. Eine individuelle Prüfung von Staatsangehörigkeit, Aufenthaltsstatus und Zugriffsberechtigung sei innerhalb der kurzen Frist offenbar nicht umsetzbar.
„Die unmittelbare Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt deaktivieren müssen, um die Vorgaben einzuhalten“, erklärte Anthropic in seiner Stellungnahme.
Das Unternehmen betonte zugleich, dass der Zugriff auf seine übrigen Modelle unverändert bleiben soll. Nutzerinnen und Nutzer können somit weiterhin auf andere Claude-Systeme zugreifen, sofern diese nicht unter die neue Anordnung fallen.
Welche Anthropic-Modelle von der Abschaltung betroffen sind
Fable 5 und Mythos 5 beruhen nach Unternehmensangaben auf derselben technischen Grundlage, unterscheiden sich jedoch bei ihren Schutzmechanismen und vorgesehenen Einsatzbereichen. Fable 5 wurde für eine breitere Nutzung bereitgestellt, während Mythos 5 vor allem für ausgewählte Organisationen, Cybersicherheitsteams und staatliche Partner vorgesehen war.
| KI-Modell | Ursprünglicher Einsatzbereich | Sicherheitsbeschränkungen | Aktueller Status |
|---|---|---|---|
| Claude Fable 5 | Breite kommerzielle und öffentliche Nutzung | Schutzfilter für sensible Anfragen | Vorläufig deaktiviert |
| Claude Mythos 5 | Ausgewählte Cyberabwehr- und Regierungsprojekte | Teilweise erweiterte Fähigkeiten | Vorläufig deaktiviert |
| Andere Claude-Modelle | Allgemeine KI-Anwendungen | Modellabhängige Schutzmaßnahmen | Weiterhin verfügbar |
Claude Fable 5 galt als das leistungsfähigste Modell, das Anthropic bis dahin einer größeren Nutzergruppe zugänglich gemacht hatte. Bei bestimmten Anfragen aus sensiblen Bereichen sollte das System Antworten blockieren oder auf ein weniger leistungsfähiges Modell ausweichen. Mythos 5 war hingegen für einen begrenzten Kreis vertrauenswürdiger Anwender geplant und konnte in einzelnen Bereichen mit weniger Einschränkungen arbeiten.
Diese Unterschiede sind für die aktuelle Debatte entscheidend. Gerade die hohe Leistungsfähigkeit bei der Analyse von Programmcode und beim Auffinden von Sicherheitslücken macht die Modelle für Verteidiger wertvoll, kann aber bei missbräuchlicher Nutzung auch neue Gefahren schaffen.
Möglicher Jailbreak löste Sicherheitsbedenken aus
Anthropic erklärte, die US-Behörden hätten dem Unternehmen keine ausführliche technische Begründung für die drastische Maßnahme übermittelt. Nach seinem derzeitigen Verständnis gehe es um eine Methode, mit der Schutzbarrieren von Fable 5 umgangen werden könnten. Ein solcher Vorgang wird in der KI-Branche als Jailbreak bezeichnet.
Bei einem Jailbreak versuchen Nutzer, ein KI-System durch besondere Formulierungen, verschachtelte Anweisungen oder technische Tricks dazu zu bringen, eigentlich gesperrte Inhalte auszugeben. Dadurch könnten Sicherheitsfilter umgangen und Funktionen freigeschaltet werden, die der Anbieter bewusst eingeschränkt hat.
Im konkreten Fall soll die Methode verwendet worden sein, um einige bereits bekannte Schwachstellen in Software zu identifizieren. Anthropic widerspricht jedoch offenbar der Einschätzung, dass daraus eine außergewöhnliche oder unmittelbar neue Gefahr entstanden sei.
Zu den zentralen Streitpunkten gehören:
- ob der demonstrierte Jailbreak tatsächlich nur mit Fable 5 funktioniert;
- ob damit bisher unbekannte Sicherheitslücken entdeckt werden können;
- ob vergleichbare öffentlich verfügbare Modelle dieselben Ergebnisse liefern;
- ob eine vollständige Abschaltung verhältnismäßig ist;
- wie ausländische Nutzer technisch zuverlässig ausgeschlossen werden könnten;
- welche Belege die US-Behörden dem Unternehmen vorgelegt haben.
Anthropic erklärte, die bei der Demonstration gefundenen Schwachstellen seien vergleichsweise einfach und bereits zuvor bekannt gewesen. Nach Darstellung des Unternehmens könnten auch andere frei verfügbare KI-Modelle solche Fehler erkennen, ohne dass dafür ein besonderer Jailbreak erforderlich wäre.
Damit stellt der Entwickler nicht grundsätzlich infrage, dass leistungsfähige KI-Systeme für Cyberangriffe missbraucht werden können. Er bezweifelt jedoch, dass der konkrete Vorfall eine derart weitreichende Sperre rechtfertigt.
Warum Fable 5 als besonders leistungsfähig gilt
Anthropic hatte Fable 5 erst kurz vor der Abschaltung öffentlich vorgestellt. Das Unternehmen bezeichnete seine Fähigkeiten als stärker als bei allen Modellen, die es zuvor allgemein verfügbar gemacht hatte. Besonders hervorgehoben wurden Leistungen beim Programmieren, bei komplexen Analysen und beim Erkennen von Schwachstellen in Softwaresystemen.
Vor der breiteren Veröffentlichung erhielten ausgewählte Organisationen Zugang zu einer Testversion. Sie sollten prüfen, wie zuverlässig das Modell Sicherheitsprobleme erkennt und ob sich seine Fähigkeiten unter kontrollierten Bedingungen für die Cyberabwehr einsetzen lassen. Gleichzeitig arbeitete Anthropic an Schutzvorkehrungen, die gefährliche Anfragen blockieren sollten.
Die hohe Cyberkompetenz der KI schafft jedoch ein grundsätzliches Dilemma. Ein Modell, das Verteidigern beim Aufspüren von Schwachstellen hilft, kann theoretisch auch Angreifern nützliche Informationen liefern. Je besser ein System Programmcode versteht, desto größer wird sein Potenzial für beide Seiten.
Leistungsfähige KI kann Sicherheitslücken schneller finden und Unternehmen bei ihrer Behebung unterstützen. Dieselbe Fähigkeit kann jedoch missbraucht werden, wenn Schutzmechanismen versagen oder bewusst umgangen werden. Der Konflikt zeigt deshalb, wie schwer sich Nutzen und Risiko moderner KI voneinander trennen lassen.
Anthropic hatte selbst erklärt, dass bestimmte Fähigkeiten von Mythos 5 bei einer böswilligen Nutzung erheblichen Schaden verursachen könnten. Aus diesem Grund sollte das Modell zunächst nur kontrolliert und in Zusammenarbeit mit vertrauenswürdigen Partnern eingesetzt werden.
Kritiker vermuteten auch eine Marketingstrategie
Bereits vor der Veröffentlichung sorgte die Kommunikation von Anthropic für Diskussionen. Das Unternehmen hatte Fable 5 zeitweise sinngemäß als zu leistungsfähig für eine uneingeschränkte Veröffentlichung beschrieben. Einige Beobachter sahen darin eine ernst gemeinte Warnung vor bislang unbekannten Risiken. Andere bewerteten die Aussagen als zugespitzte Werbung, die Aufmerksamkeit für das neue Produkt schaffen sollte.
Diese Kritik erhält durch die plötzliche Abschaltung neue Nahrung. Einerseits scheint die staatliche Intervention die Warnungen des Unternehmens zu bestätigen. Andererseits behauptet Anthropic nun, dass der von den Behörden angeführte Jailbreak keine außergewöhnlichen Fähigkeiten offengelegt habe.
Die widersprüchlichen Signale erschweren die Bewertung. Einerseits bewirbt der Entwickler seine Modelle mit außergewöhnlicher Leistungsfähigkeit. Andererseits argumentiert er gegenüber der Regierung, die beanstandeten Funktionen seien auch bei Konkurrenzprodukten vorhanden und stellten deshalb kein einzigartiges Risiko dar.
Branchenbeobachter weisen darauf hin, dass Sicherheitswarnungen und Produktmarketing bei besonders fortschrittlichen KI-Modellen zunehmend ineinandergreifen. Aussagen über extreme Leistungsfähigkeit können Vertrauen bei Investoren schaffen, zugleich aber den Druck der Aufsichtsbehörden erhöhen.
Konflikt zwischen Anthropic und Trump-Regierung verschärft sich
Die aktuelle Anordnung trifft Anthropic in einer Phase angespannter Beziehungen zur US-Regierung. Das Unternehmen streitet bereits mit dem Pentagon über die Bedingungen, unter denen seine KI für militärische und staatliche Zwecke eingesetzt werden darf.
Anthropic hatte sich gegen eine uneingeschränkte Verwendung seiner Systeme für bestimmte Anwendungen ausgesprochen. Dazu zählen insbesondere vollständig autonome Waffensysteme und Formen der massenhaften Überwachung innerhalb der Vereinigten Staaten. Vertreter der Regierung kritisierten diese Einschränkungen und warfen dem Unternehmen vor, sicherheitspolitische Interessen zu behindern.
Das US-Verteidigungsministerium stufte Anthropic daraufhin als Risiko für die Lieferkette ein. Eine solche Bezeichnung wurde in der Vergangenheit überwiegend gegenüber Unternehmen aus Staaten verwendet, die von Washington als strategische Gegner betrachtet werden. Für ein amerikanisches Technologieunternehmen war dieser Schritt daher ungewöhnlich.
Anthropic ging juristisch gegen die Einstufung vor. Ein Gericht setzte die Umsetzung der Pentagon-Maßnahme vorläufig aus. Damit konnten US-Behörden und Auftragnehmer des Militärs die Produkte des Unternehmens während des laufenden Rechtsstreits zunächst weiterverwenden.
Der Rechtsstreit mit dem Pentagon ist von der neuen Exportanordnung rechtlich zu unterscheiden. Politisch stehen beide Konflikte jedoch in einem engen Zusammenhang, weil sie dieselbe Grundfrage berühren: Wer entscheidet darüber, wie leistungsfähige kommerzielle KI-Systeme eingesetzt werden dürfen?
Folgen für Unternehmen und internationale Nutzer
Die Abschaltung dürfte vor allem Organisationen treffen, die Fable 5 bereits in ihre Arbeitsprozesse eingebunden hatten. Dazu können Softwareentwickler, Cybersicherheitsanbieter, Finanzunternehmen und Forschungseinrichtungen gehören. Da das Modell erst kurze Zeit öffentlich verfügbar war, dürfte die Zahl produktiver Integrationen allerdings noch begrenzt sein.
Für internationale Kunden entsteht dennoch erhebliche Unsicherheit. Sie müssen damit rechnen, dass der Zugang zu fortschrittlichen US-Modellen nicht nur durch Unternehmensentscheidungen, sondern auch durch Exportkontrollen kurzfristig eingeschränkt werden kann. Das betrifft besonders Firmen, die zentrale Anwendungen vollständig von einem einzigen KI-Anbieter abhängig machen.
Auch Cloud-Plattformen und Vertriebspartner müssen die Sperre technisch umsetzen. Dabei stellt sich die Frage, wie zuverlässig ausländische Staatsangehörige erkannt werden können, ohne umfangreiche persönliche Daten zu erheben. Eine Beschränkung allein nach dem Standort oder der IP-Adresse wäre nicht ausreichend, da sich ausländische Personen auch innerhalb der Vereinigten Staaten befinden können.
Für Unternehmen ergeben sich daraus mehrere praktische Risiken. Laufende Projekte können unterbrochen werden, Schnittstellen funktionieren plötzlich nicht mehr und zuvor getestete Anwendungen müssen auf andere Modelle umgestellt werden. Zusätzlich können sich Fragen zum Datenschutz ergeben, wenn Anbieter künftig Identität oder Staatsangehörigkeit ihrer Nutzer genauer überprüfen sollen.
Neue Phase der Exportkontrolle für künstliche Intelligenz
Die Anordnung könnte über den konkreten Fall hinaus Bedeutung erlangen. Bisher konzentrierten sich amerikanische Exportbeschränkungen im KI-Bereich vor allem auf Hochleistungschips, Rechenzentren und technische Ausrüstung. Nun wird offenbar auch der Zugang zu einem konkreten KI-Modell selbst zum Gegenstand staatlicher Kontrolle.
Damit könnten sich die Regeln für die internationale KI-Branche grundlegend verändern. Besonders leistungsfähige Modelle lassen sich über das Internet weltweit verbreiten und benötigen keine physische Lieferung. Klassische Exportkontrollen sind für solche digitalen Dienste daher schwer umzusetzen.
Regierungen müssen entscheiden, welche Fähigkeiten als sicherheitsrelevant gelten und ab welchem Leistungsniveau Beschränkungen greifen sollen. Zu weitreichende Verbote könnten Forschung und wirtschaftliche Innovation bremsen. Zu schwache Regeln könnten dagegen dazu führen, dass gefährliche Cyberfähigkeiten leicht zugänglich werden.
Der Fall Anthropic zeigt außerdem, dass eine nationale Beschränkung globale Auswirkungen haben kann. Weil internationale Nutzer nicht kurzfristig von amerikanischen Kunden getrennt werden konnten, führte das Verbot letztlich zur vollständigen Abschaltung der beiden Modelle. Damit verloren auch grundsätzlich berechtigte Nutzer vorübergehend den Zugang.
Was Nutzer jetzt wissen müssen
Nach derzeitigem Stand sind Fable 5 und Mythos 5 nicht mehr regulär verfügbar. Anthropic hat nicht angegeben, wann oder unter welchen Bedingungen der Zugang wiederhergestellt werden könnte. Denkbar wäre eine technische Lösung, die ausschließlich überprüften US-Nutzern Zugang ermöglicht. Ebenso möglich sind Änderungen an den Schutzmechanismen oder eine juristische Anfechtung der Regierungsanordnung.
Andere Claude-Modelle sollen weiterhin genutzt werden können. Unternehmen, die Anthropic-Dienste einsetzen, müssen deshalb prüfen, welches konkrete Modell in ihren Anwendungen hinterlegt ist. Bei automatisierten Systemen kann eine Umstellung notwendig werden, damit Dienste nicht ausfallen oder fehlerhafte Antworten liefern.
Anthropic dürfte parallel versuchen, zusätzliche Informationen von den zuständigen Behörden zu erhalten. Entscheidend wird sein, ob die Regierung konkrete technische Nachweise vorlegt und welche Bedingungen für eine erneute Freigabe gelten. Auch die Frage, ob konkurrierende KI-Modelle vergleichbaren Beschränkungen unterworfen werden, bleibt offen.
Welche Bedeutung die Abschaltung für den KI-Markt hat
Die Sperre von Fable 5 und Mythos 5 markiert einen neuen Höhepunkt im Konflikt zwischen staatlicher Sicherheitskontrolle und privat entwickelter künstlicher Intelligenz. Erstmals trifft eine weitreichende US-Anordnung zwei besonders leistungsfähige Modelle unmittelbar nach ihrer Einführung und zwingt den Anbieter zu einer globalen Reaktion.
Für Anthropic bedeutet die Entscheidung einen Rückschlag bei der Vermarktung seiner neuesten Technologie. Das Unternehmen muss nicht nur technische und regulatorische Fragen lösen, sondern auch das Vertrauen von Geschäftskunden sichern. Diese erwarten planbare Verfügbarkeit, insbesondere wenn KI-Modelle in kritische Prozesse eingebunden werden.
Gleichzeitig unterstreicht der Vorgang, dass fortschrittliche KI nicht mehr nur als kommerzielles Softwareprodukt betrachtet wird. Modelle mit starken Programmier- und Cyberfähigkeiten werden zunehmend wie strategische Technologien behandelt. Behörden prüfen deshalb genauer, wer Zugang erhält, wie Schutzmechanismen funktionieren und welche Folgen eine weltweite Veröffentlichung haben kann.
Die weitere Entwicklung hängt nun von Gesprächen zwischen Anthropic und der US-Regierung, möglichen technischen Anpassungen und laufenden Gerichtsverfahren ab. Bis zu einer neuen Regelung bleiben Fable 5 und Mythos 5 abgeschaltet. Für die internationale Technologiebranche ist der Fall ein deutliches Signal, dass der Zugang zu leistungsfähiger KI künftig stärker von Sicherheitsrecht, Exportkontrollen und geopolitischen Entscheidungen abhängen könnte.