Anthropics Safety-Wende: Das Ende des Sicherheitsversprechens

Anthropic streicht sein zentrales Sicherheitsversprechen aus der Responsible Scaling Policy. Das Unternehmen, das sich über KI-Sicherheit definiert hat, gibt dem Wettbewerbsdruck nach — und ersetzt harte Zusagen durch öffentliche Roadmaps.

Anthropic hat am 24. Februar 2026 die dritte Version seiner Responsible Scaling Policy (RSP) veröffentlicht — und damit sein Markenzeichen gestrichen. Das Kernversprechen der bisherigen Policy lautete: Wir pausieren das Training neuer Modelle, wenn deren Fähigkeiten unsere Sicherheitsmaßnahmen übersteigen. Dieses Versprechen existiert in der neuen Version nicht mehr.

Für ein Unternehmen, das von ehemaligen OpenAI-Mitarbeitern gegründet wurde, weil ihnen dort die Sicherheitsstandards zu niedrig waren, ist das mehr als ein Policy-Update. Es ist eine strategische Kehrtwende, die jeden betrifft, der auf Anthropics Modelle setzt — oder Claude als „die sichere Alternative“ positioniert hat.

Symbolbild: Ein zerbrochenes Schutzschild mit KI-Schaltkreismuster — Anthropics Sicherheitsversprechen bekommt Risse — der Wettbewerbsdruck wiegt schwerer als freiwillige Selbstverpflichtung.

Was sich konkret geändert hat

Die bisherige RSP basierte auf einem binären Prinzip: Wenn ein KI-Modell eine bestimmte Fähigkeitsschwelle überschreitet, wird das Training gestoppt, bis die entsprechenden Sicherheitsmaßnahmen nachweislich funktionieren. Dieses System nutzte sogenannte AI Safety Levels (ASL) — analog zu den Biosicherheitsstufen in Laboren. ASL-2 für aktuelle Modelle, ASL-3 für fortgeschrittenere Fähigkeiten, ASL-4 und höher für zukünftige Generationen.

Die neue RSP v3.0 ersetzt dieses System durch drei Elemente:

Trennung von Unternehmens- und Branchenempfehlungen. Anthropic unterscheidet jetzt zwischen dem, was es selbst tut, und dem, was die gesamte Branche tun sollte. Die ambitionierteren Maßnahmen werden als Industrieempfehlung formuliert — nicht mehr als eigene Verpflichtung.
Frontier Safety Roadmap. Statt harter Zusagen veröffentlicht Anthropic öffentliche Ziele, an denen es sich messen lässt. Die Roadmap umfasst Sicherheitsforschung, Alignment-Projekte und Policy-Vorschläge. Aber: Es sind erklärtermaßen „keine harten Commitments“, sondern „öffentlich erklärte Ziele“.
Risk Reports. Alle drei bis sechs Monate soll ein detaillierter Bericht über die Risikoprofile aktueller Modelle erscheinen — potenziell mit externer Prüfung.

Die offizielle Begründung — und was dahintersteckt

Anthropic nennt drei Gründe für die Änderung. Erstens: Die „Zone der Ambiguität“ bei Fähigkeitsbewertungen. Das Unternehmen räumt ein, dass es selbst nach aufwändigen Tests — einschließlich Laborstudien zu biologischen Risiken — oft unklar bleibt, ob ein Modell eine bestimmte Gefahrenschwelle definitiv überschritten hat. Die Wissenschaft der Modellbewertung sei schlicht nicht weit genug.

Zweitens: Das politische Klima. Anthropic spricht von einem „anti-regulatorischen politischen Klima“ in den USA, in dem Wettbewerbsfähigkeit und Wirtschaftswachstum Priorität vor Sicherheitsdiskussionen haben. Staatliche Maßnahmen zur KI-Sicherheit seien langsamer gekommen als erhofft.

Drittens: Höhere Sicherheitsstufen (ASL-4 und darüber) seien für ein einzelnes Unternehmen unmöglich umzusetzen. Ein RAND-Report zur Gewichtssicherheit habe bestätigt, dass die höchsten Schutzstandards „derzeit nicht möglich“ seien und „Unterstützung der nationalen Sicherheitsgemeinschaft“ erfordern würden.

Die inoffizielle Wahrheit formulierte Jared Kaplan, Anthropics Chief Science Officer, gegenüber TIME unverblümt:

„Wir hatten nicht das Gefühl, dass es irgendjemandem helfen würde, wenn wir aufhören, KI-Modelle zu trainieren. Es ergab keinen Sinn, einseitige Zusagen zu machen … wenn die Konkurrenz nach vorne prescht.“

Der Kontext: Wettbewerb und 60 Milliarden Dollar

Anthropic befindet sich in einer Phase massiven Wachstums — zuletzt mit rund 60 Milliarden Dollar bewertet — und kann es sich wirtschaftlich immer weniger leisten, langsamer als die Konkurrenz zu sein. OpenAI liefert mit GPT-5.2 ein starkes Reasoning-Modell, Google dominiert mit Gemini 3.1 Pro die Benchmarks, chinesische Open-Source-Modelle unterbieten die Preise um den Faktor 20. In diesem Umfeld wird ein freiwilliger Entwicklungsstopp zum existenziellem Risiko.

Was Anthropic dafür anbietet: Transparenz statt Versprechen

Anthropic argumentiert, die neue Policy sei „die bisher stärkste in Bezug auf öffentliche Rechenschaftspflicht und Transparenz“. Das ist nicht völlig von der Hand zu weisen. Die konkreten neuen Maßnahmen:

Öffentliche Frontier Safety Roadmap mit messbaren Zielen, die regelmäßig bewertet werden
Risk Reports alle 3–6 Monate mit detaillierten Risikoprofilen, potenziell extern geprüft
Moonshot-R&D-Projekte für Informationssicherheit auf beispiellosem Niveau
Automatisiertes Red-Teaming, das die Ergebnisse hunderter Bug-Bounty-Teilnehmer übertreffen soll
Umfassende Audit-Logs aller kritischen KI-Entwicklungsaktivitäten

Das Problem: Transparenz und Rechenschaftspflicht sind keine Substitute für harte Verpflichtungen. Ein Unternehmen, das öffentlich erklärt, seine Ziele seien „ambitioniert, aber nicht bindend“, setzt auf Reputation statt auf Mechanismen. Wenn die Reputation unter Wettbewerbsdruck leidet — und genau das passiert gerade — fehlt die Absicherung.

Was das für B2B-Entscheider bedeutet

Die praktischen Auswirkungen der Policy-Änderung sind vielschichtiger, als die Schlagzeilen vermuten lassen:

Sicherheitsnarrative kritisch prüfen. Wenn Ihr Unternehmen Claude gewählt hat, weil Anthropic „die sichere Alternative“ ist: Evaluieren Sie, ob diese Annahme noch trägt. Die technische Qualität der Modelle bleibt exzellent — aber das Safety-Argument hat an Substanz verloren.
Vendor-Lock-in vermeiden. Die Konvergenz der Modellqualität bei gleichzeitiger Divergenz der Unternehmensstrategien spricht mehr denn je für Multi-Model-Architekturen. Kein Anbieter verdient blindes Vertrauen.
Compliance-Dokumentation anpassen. Wer in regulierten Branchen Anthropics frühere Safety-Commitments als Teil der eigenen Risikobewertung dokumentiert hat, muss diese Dokumentation aktualisieren.
Risk Reports nutzen. Die angekündigten vierteljährlichen Risikoberichte sind tatsächlich ein wertvolles neues Instrument. Fordern Sie diese ein und integrieren Sie sie in Ihre Due Diligence.
EU AI Act beachten. Ab August 2026 gelten die GPAI-Pflichten des AI Act vollständig. Anthropics Shift von bindenden Zusagen zu freiwilligen Roadmaps steht in Spannung zu den europäischen Erwartungen an nachweisbare Risikominimierung.

Einordnung: Ein Symptom, kein Einzelfall

Anthropics Entscheidung ist kein isoliertes Ereignis. Sie ist das jüngste Symptom einer Branche, die zwischen exponentiellem Fortschritt und institutioneller Trägheit gefangen ist. Die KI-Fähigkeiten verdoppeln sich in Monaten. Regulierung braucht Jahre. Unternehmen, die freiwillig langsamer fahren, verlieren Marktanteile an solche, die es nicht tun.

Das bedeutet nicht, dass Anthropics Analyse falsch ist — im Gegenteil, sie ist erschreckend ehrlich. Aber es bedeutet, dass die Ära der freiwilligen Selbstverpflichtung als primäres Sicherheitsinstrument vorbei ist. Wenn selbst das Unternehmen, das KI-Sicherheit als Gründungsmission hat, seine harten Zusagen aufweicht, ist klar: Nur verbindliche Regulierung kann die Lücke füllen.

Für Unternehmen im DACH-Raum, die KI-Systeme evaluieren oder bereits im Einsatz haben, ist die Botschaft klar: Vertrauen Sie keinem einzelnen Anbieter — vertrauen Sie Ihren eigenen Prozessen, Audits und der sich entwickelnden Regulierung. Und behalten Sie die Risk Reports im Auge, wenn Anthropic sie tatsächlich liefert.