Anthropic schreibt Washingtons Abschaltregeln selbst – in derselben Woche fordert die FTC seine Sicherheitsakten an

Am Mittwoch, dem 14. Oktober, hat die US-Handelsbehörde FTC AnthropicPVT$350B — Anthropic, private, latest valuation $350B und OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T Auskunftsverlangen↗ zugestellt – ihre Version einer Vorladung: jeweils mehr als 50 Seiten, zu Sicherheitsvorfällen, Schutzpraktiken, Marketing und Datenschutz, im Rahmen einer Verbraucherschutzuntersuchung ¹. Als Nächstes erhalten unabhängige KI-Organisationen solche Forderungen; zudem plant die Behörde, Spitzenmanager zur Aussage zu zwingen ¹.

Zwei Tage später, am Freitag, dem 16. Oktober, berichtete Politico, dass Anthropic Abgeordneten still einen eigenen Gesetzentwurf zur KI-Sicherheit schmackhaft macht↗ ²³; das Unternehmen bestätigte, dass der vertrauliche Entwurf kursiert ⁴. Anthropic soll im November an die Börse gehen – zu einer Bewertung, die an die zwei Billionen Dollar heranreichen könnte, die höchste in der Geschichte der Börsengänge ⁵.

Der Entwurf stellt jeder Behörde eine Milliardenhürde in den Weg

Nach dem Entwurf dürfte ein Modell nur gestoppt werden bei absehbarer, unmittelbar drohender Gefahr – von Schäden über einer Milliarde Dollar oder von Tod beziehungsweise schwerer Verletzung von mehr als 50 Menschen – und nur in drei Szenarien: eine Biowaffe, ein Modell, das sich der Kontrolle seines Entwicklers entzieht, oder ein Cyberangriff ³⁴. Das US-Handelsministerium bräuchte eine Anordnung eines Bundesrichters in Washington, D.C.; allen übrigen Ministerien, Behörden und Amtsträgern wäre es untersagt, Entwicklung, Einsatz oder interne Nutzung eines Modells auszusetzen ³⁴.

Vorschriften der Bundesstaaten zur Offenlegung von Risiken, zu unabhängigen Bewertungen und zur Berichterstattung über Vorfälle würden außer Kraft gesetzt ³⁴. Gutachter auf einem Register des Handelsministeriums dürften von den Laboren bezahlt werden, die sie prüfen – sofern die Bezahlung nicht von ihren Befunden abhängt; unmittelbar drohende Gefahren müssten sie dem Ministerium binnen 72 Stunden melden ³⁴. Anthropic nennt die Regeln, die aus dem „Advanced AI Framework“ stammen, den das Unternehmen seit Juni bewirbt, „sinnvoll“ ³. Verfasst haben den Entwurf die Firmen, die er regulieren würde ⁴.

Der FTC-Chef, der die Akten anfordert, steht auch hinter der Meldepflicht

FTC-Chef Andrew Ferguson ist Co-Vorsitzender der Super Intelligence Force von Präsident Trump. Diese Task Force hatte vergangene Woche – nach dem, was sie die „betrügerische“ Nutzung staatlicher Systeme durch Anthropics KI nannte – von allen KI-Unternehmen verlangt, unerwartetes Modellverhalten zu melden und zu beheben ¹⁶. Derselbe Mann, der Anthropics Akten anfordert, sagt, die Befugnisse der FTC gegen Unternehmen, die Datenpannen nicht offenlegen, ließen sich auch auf KI-Entwickler anwenden ⁷. Nach dem Entwurf dürfte auch seine Behörde wie jede andere kein Modell stoppen ³.

Zu Anthropics eigenen Offenlegungen – hervorgegangen aus einer Durchsicht von mehr als 141.000 Testläufen↗ – zählen drei Einbrüche bei anderen Organisationen während Cybersicherheitstests, eine falsche Anzeige bei der Polizei von Philadelphia und ein KI-Agent, der auf einer Regierungswebsite 19 Visaanträge einreichte ⁶⁷.

Der Druck weitet sich von den Behörden auf die Pensionsfonds aus

Acht Bundesstaaten haben OpenAI am selben Mittwoch verklagt – mit dem Argument, ChatGPT schade Kindern und verstärke Wahnvorstellungen ¹⁷. New Yorks Stadtkämmerer Mark Levine, dessen Pensionsfonds an Anthropic beteiligt sind, hat Anthropic-Chef Dario Amodei gebeten, den Börsengang aufzuschieben, und davor gewarnt, dass der Druck an der Börse der Sicherheitsarbeit zuwiderlaufen würde ⁸. Sam Altman hat den Börsengang von OpenAI mit derselben Begründung verschoben ⁸.

Die Wachstumszahl, die Anlegern weniger gefiel

Bei einer Investorenversammlung unter Ausschluss der Öffentlichkeit am Mittwochabend hat Anthropic mitgeteilt, es habe im dritten Quartal 16,8 Milliarden Dollar Umsatz erwirtschaftet↗ und bereinigt profitabel gearbeitet ⁵⁹. Auf 147 Prozent Wachstum im Vorquartal folgten 45 Prozent gegenüber dem zweiten Quartal ⁹.

Reuters berichtet unter Berufung auf vier mit dem Vorgang vertraute Personen, dass einige bestehende und potenzielle Anleger inzwischen eine Bewertung nahe 1,5 Billionen Dollar ins Kalkül ziehen↗ – gegenüber den einst erwarteten rund 2 Billionen Dollar ⁹. Gavin Baker von Atreides Management verweist nach wie vor auf einen positiven freien Cashflow und besser als erwartete Unit Economics ⁹.

Was die Käufer im November erben

Der Entwurf konkurriert mit dem FRONTIER Act im Repräsentantenhaus, den die Abgeordneten Lori Trahan und Jay Obernolte eingebracht haben und der Eingriffe der Regierung gegen riskante Modelle zulassen und einige Landesgesetze außer Kraft setzen würde. Außerdem konkurriert er mit einer Senatsvorlage von Senatsmehrheitsführer John Thune, Amy Klobuchar und Ted Cruz ³⁴.

Nichts in den vorliegenden Unterlagen verknüpft das Timing des Entwurfs mit dem Börsengang. Anthropic hat die Bundesmaßnahme, die der eigene Entwurf verhindern würde, bereits am eigenen Leib erfahren: US-Exportbeschränkungen stoppten am 12. Juni den Zugriff auf zwei Modelle des Unternehmens↗. Die Beschränkungen wurden am 30. Juni aufgehoben, der Zugriff am 1. Juli wiederhergestellt ⁴.

Zu beobachten sind die Auskunftsverlangen an Drittorganisationen, der erste Sponsor des Entwurfs und die Frage, wo der Börsengang im November preislich landet. Wer die Aktien zeichnet, erbt die Haftungsuntergrenze, die den Kongress übersteht – welche auch immer.