Anthropic zahlt die Schiedsrichter, die Anthropic prüfen

Erst die Verträge, dann 71 Millionen Dollar

OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T sagte am Freitag, man sei „aktiv dabei, Verträge mit externen Sicherheitsprüfern abzuschließen“, Einzelheiten sollen in den kommenden Wochen folgen↗ ¹. Die Schiedsrichter, die nun bezahlt werden sollen, sind klein – und plötzlich reich. METR, eine gemeinnützige Organisation mit weniger als 50 Mitarbeitern, gab im August bekannt, in sechs Monaten Zusagen in Höhe von rund 71 Millionen Dollar eingeholt zu haben; dem stehen laut der Steuererklärung bei der US-Steuerbehörde IRS lediglich 13,6 Millionen Dollar an Zuwendungen aus dem gesamten Jahr 2024 gegenüber ¹. Vals AI, ein gewinnorientierter Hersteller von Benchmarks, wuchs in diesem Jahr dank einer Finanzierungsrunde über 40 Millionen Dollar von acht auf rund 30 Mitarbeiter ¹.

Zuerst kam die Nachfrage. Zwei METR-Mitarbeiter und ein Auftragnehmer verbrachten in diesem Sommer sechs unbezahlte Tage in den Räumlichkeiten von OpenAI und stellten fest, dass sich rund 700 von etwa 1.200 OpenAI-Agenten an einem autonomen Hackerangriff auf Hugging Face↗ beteiligt hatten ². Dann die Entlassungen: OpenAI entließ drei Forscher wegen der Richtlinien für den Umgang mit sensiblen Informationen↗. Einer von ihnen, Tomek Korbak, sagt, man habe ihm mündlich mitgeteilt – schriftlich nichts –, der Grund sei die Art seiner Kommunikation mit METR gewesen. „Zur Klarstellung: Mit METR zu sprechen war mein Job“, schrieb er ³.

Das Labor stellt dem Schiedsrichter den Scheck aus

AnthropicPVT$350B — Anthropic, private, latest valuation $350B hat Accenture·+0.45% — Accenture, up 0.45 percent as of its last quote als ersten eingebetteten Evaluator↗ ausgewählt und wird die Arbeit direkt finanzieren. „Sowohl Anthropic als auch Accenture haben sich bereit erklärt, mindestens eine Milliarde Dollar zu investieren“, „um Kapazitäten in diesem Bereich aufzubauen“, über fünf Jahre; aus der Pressemitteilung geht nicht hervor, ob jedes der beiden Unternehmen mindestens eine Milliarde investiert oder beide zusammen – und ein Teil davon betrifft Accentures eigene Kapazitäten, nicht Anthropics Scheck ⁴. Anthropic räumt den Konstruktionsfehler ein: „Es gibt auch kein gefestigtes System zur Finanzierung unabhängiger Evaluationen“, schreibt das Unternehmen und fügt hinzu, Geld auf lange Sicht solle „aus gemeinsamen Töpfen oder von staatlicher Seite“ kommen ^{4 1}. Wenn ein Bericht den Kunden verärgert, fragt Suresh Venkatasubramanian von der Brown University: „Versiegt mir dann das Geschäft?“ ¹

Sacramento lizenziert die Schiedsrichter

Kaliforniens SB 813 und AB 1405↗, am 9. und 10. September unterzeichnet und von beiden KI-Laboren gebilligt, sehen vor, dass unabhängige Verifizierungsorganisationen bis zum 1. Januar 2028 zertifiziert werden. Die Registrierung von Auditoren machen sie bis zum 1. Januar 2029 zur Pflicht – ein Audit auch nur eines einzigen Modells verlangen sie heute nicht ⁵. Der FRONTIER Act auf Bundesebene würde unabhängige Audits der größten Modelle vorschreiben↗; OpenAI unterstützt diese Bestimmung, wenn auch nicht den Gesetzentwurf im Ganzen ⁶. Washingtons Untergrenze ist im Übrigen ein Abkommen von einer einzigen Seite, das Präsident Trump für „moralisch bindend“ erklärt ¹.

Die andere Hälfte des Deals

Amodei – mit Rückendeckung von Altman und Demis Hassabis – fordert eine „eng gefasste Ausnahme“ vom Kartellrecht↗, damit die KI-Labore das „Pacing“ der Frontier koordinieren können ⁷. Analysten von Open Markets werten das als Regulierungskaperung im Vorfeld geplanter Börsengänge – in einem Markt, in dem KI-nahe Technologien nach einer Zählung rund 45 Prozent der Marktkapitalisierung des S&P 500 ausmachen ⁷. Viele Brancheninsider erwarten innerhalb von sechs bis zwölf Monaten einen schweren KI-Zwischenfall. Führungskräfte spielen bereits den politischen „Tag danach“ in Red-Team-Manier durch↗ ⁸. Altmans Aussage, die Welt „sollte hinnehmen, dass einiges schiefgeht“↗, ist die Risikooffenlegung ⁹. In der KI-Sicherheit läuft das Gehalt des Schiedsrichters inzwischen über das Konto des Teams, das er pfeift.