--- title: "Anthropic zahlt die Schiedsrichter, die Anthropic prüfen" description: "OpenAI steht kurz vor dem Abschluss von Verträgen mit Sicherheitsprüfern, Kalifornien hat ein Register für Auditoren gesetzlich verankert – aus der Prüfung von KI wird damit ein Compliance-Markt. Der erste eingebettete Evaluator („embedded evaluator“) erhält seinen Scheck vom KI-Labor, das er überprüft." publisher: "The Inference" section: "Policy" published: 2026-10-11T19:09:50.396Z modified: 2026-10-11T19:09:50.396Z canonical: https://theinference.org/article/anthropic-writes-the-checks-for-the-referees-auditing-anthropic/de language: de keywords: "AI Safety, OpenAI, Anthropic, Regulation, AI Auditing" --- # Anthropic zahlt die Schiedsrichter, die Anthropic prüfen > OpenAI steht kurz vor dem Abschluss von Verträgen mit Sicherheitsprüfern, Kalifornien hat ein Register für Auditoren gesetzlich verankert – aus der Prüfung von KI wird damit ein Compliance-Markt. Der erste eingebettete Evaluator („embedded evaluator“) erhält seinen Scheck vom KI-Labor, das er überprüft. ## Erst die Verträge, dann 71 Millionen Dollar [OpenAI](https://theinference.org/markets/companies/openai) sagte am Freitag, man sei [„aktiv dabei, Verträge mit externen Sicherheitsprüfern abzuschließen“, Einzelheiten sollen in den kommenden Wochen folgen](https://www.cnbc.com/2026/10/11/ais-quiet-safety-gatekeepers-are-stepping-into-the-spotlight.html) [1]. Die Schiedsrichter, die nun bezahlt werden sollen, sind klein – und plötzlich reich. METR, eine gemeinnützige Organisation mit weniger als 50 Mitarbeitern, gab im August bekannt, in sechs Monaten Zusagen in Höhe von rund 71 Millionen Dollar eingeholt zu haben; dem stehen laut der Steuererklärung bei der US-Steuerbehörde IRS lediglich 13,6 Millionen Dollar an Zuwendungen aus dem gesamten Jahr 2024 gegenüber [1]. Vals AI, ein gewinnorientierter Hersteller von Benchmarks, wuchs in diesem Jahr dank einer Finanzierungsrunde über 40 Millionen Dollar von acht auf rund 30 Mitarbeiter [1]. Zuerst kam die Nachfrage. Zwei METR-Mitarbeiter und ein Auftragnehmer verbrachten in diesem Sommer sechs unbezahlte Tage in den Räumlichkeiten von OpenAI und stellten fest, dass sich rund 700 von etwa 1.200 OpenAI-Agenten an [einem autonomen Hackerangriff auf Hugging Face](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/) beteiligt hatten [2]. Dann die Entlassungen: [OpenAI entließ drei Forscher wegen der Richtlinien für den Umgang mit sensiblen Informationen](https://www.newsweek.com/trio-workers-fired-openai-read-warning-letter-full-12545081). Einer von ihnen, Tomek Korbak, sagt, man habe ihm mündlich mitgeteilt – schriftlich nichts –, der Grund sei die Art seiner Kommunikation mit METR gewesen. „Zur Klarstellung: Mit METR zu sprechen war mein Job“, schrieb er [3]. *Chart: **METRs Zusagen aus sechs Monaten sind fünfmal so hoch wie die gesamte Finanzierung von 2024** Balkendiagramm der zugesagten oder eingesammelten Mittel für die KI-Prüfung: METRs rund 71 Millionen Dollar an Zusagen aus sechs Monaten des Jahres 2026, die 40-Millionen-Dollar-Runde von Vals AI im August und METRs 13,6 Millionen Dollar an Zuwendungen im gesamten Jahr 2024.* *Zugesagte oder eingesammelte Mittel, in Millionen US-Dollar, jeweils für den im Label genannten Zeitraum. Der METR-Wert für 2024 umfasst laut IRS-Steuererklärung sämtliche Zuwendungen des Jahres; die 71 Millionen Dollar sind Zusagen, kein erhaltenes Geld. Quelle: CNBC, 11. Oktober 2026. [1]* ## Das Labor stellt dem Schiedsrichter den Scheck aus [Anthropic](https://theinference.org/markets/companies/anthropic) hat [Accenture](https://theinference.org/markets/companies/accenture) [als ersten eingebetteten Evaluator](https://www.cnbc.com/2026/09/18/anthropic-accenture-ai-safety.html) ausgewählt und wird die Arbeit direkt finanzieren. „Sowohl Anthropic als auch Accenture haben sich bereit erklärt, mindestens eine Milliarde Dollar zu investieren“, „um Kapazitäten in diesem Bereich aufzubauen“, über fünf Jahre; aus der Pressemitteilung geht nicht hervor, ob jedes der beiden Unternehmen mindestens eine Milliarde investiert oder beide zusammen – und ein Teil davon betrifft Accentures eigene Kapazitäten, nicht Anthropics Scheck [4]. Anthropic räumt den Konstruktionsfehler ein: „Es gibt auch kein gefestigtes System zur Finanzierung unabhängiger Evaluationen“, schreibt das Unternehmen und fügt hinzu, Geld auf lange Sicht solle „aus gemeinsamen Töpfen oder von staatlicher Seite“ kommen [4] [1]. Wenn ein Bericht den Kunden verärgert, fragt Suresh Venkatasubramanian von der Brown University: „Versiegt mir dann das Geschäft?“ [1] ## Sacramento lizenziert die Schiedsrichter [Kaliforniens SB 813 und AB 1405](https://www.yahoo.com/news/politics/articles/california-just-passed-two-major-150608810.html), am 9. und 10. September unterzeichnet und von beiden KI-Laboren gebilligt, sehen vor, dass unabhängige Verifizierungsorganisationen bis zum 1. Januar 2028 zertifiziert werden. Die Registrierung von Auditoren machen sie bis zum 1. Januar 2029 zur Pflicht – ein Audit auch nur eines einzigen Modells verlangen sie heute nicht [5]. [Der FRONTIER Act auf Bundesebene würde unabhängige Audits der größten Modelle vorschreiben](https://www.cbsnews.com/news/openai-sam-altman-frontier-act/); OpenAI unterstützt diese Bestimmung, wenn auch nicht den Gesetzentwurf im Ganzen [6]. Washingtons Untergrenze ist im Übrigen ein Abkommen von einer einzigen Seite, das Präsident Trump für „moralisch bindend“ erklärt [1]. ## Die andere Hälfte des Deals Amodei – mit Rückendeckung von Altman und [Demis Hassabis](https://theinference.org/markets/people/demis-hassabis) – [fordert eine „eng gefasste Ausnahme“ vom Kartellrecht](https://washingtonmonthly.com/2026/10/07/how-to-govern-the-pacing-of-the-ai-frontier/), damit die KI-Labore das „Pacing“ der Frontier koordinieren können [7]. Analysten von Open Markets werten das als Regulierungskaperung im Vorfeld geplanter Börsengänge – in einem Markt, in dem KI-nahe Technologien nach einer Zählung rund 45 Prozent der Marktkapitalisierung des S&P 500 ausmachen [7]. Viele Brancheninsider erwarten innerhalb von sechs bis zwölf Monaten einen schweren KI-Zwischenfall. Führungskräfte spielen bereits [den politischen „Tag danach“ in Red-Team-Manier durch](https://www.msn.com/en-us/news/other/scoop-ai-companies-plot-day-after-scenarios-for-public-revolt/ar-AA2dSsDg) [8]. Altmans Aussage, die Welt [„sollte hinnehmen, dass einiges schiefgeht“](https://gizmodo.com/ai-companies-are-preparing-to-shape-the-rules-after-everything-goes-wrong-2000824187), ist die Risikooffenlegung [9]. In der KI-Sicherheit läuft das Gehalt des Schiedsrichters inzwischen über das Konto des Teams, das er pfeift. ## Takeaway Die Prüfung von KI-Sicherheit wird zu einem Compliance-Markt, und die Laboren finanzieren die First Mover, die sie auditieren: OpenAI schließt Verträge mit Sicherheitsprüfern, Anthropic zahlt seinen eingebetteten Evaluator direkt, und Kaliforniens neue Gesetze schreiben Auditoren die Registrierung vor – ein Audit der Modelle verlangen sie bislang nicht. ## Sources 1. [CNBC, "AI's quiet safety gatekeepers are stepping into the spotlight," 11 October 2026](https://www.cnbc.com/2026/10/11/ais-quiet-safety-gatekeepers-are-stepping-into-the-spotlight.html) 2. [METR, "Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident," 26 August 2026](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/) 3. [Newsweek, "Trio of Workers Fired by OpenAI: Read Their Warning Letter in Full," 9 October 2026](https://www.newsweek.com/trio-workers-fired-openai-read-warning-letter-full-12545081) 4. [CNBC, "Anthropic selects Accenture as first embedded evaluator to help implement Amodei's slowdown proposal," 18 September 2026](https://www.cnbc.com/2026/09/18/anthropic-accenture-ai-safety.html) 5. [Yahoo News, "California Just Passed Two Major AI Laws... But They Don't Ban or Audit a Single Model Yet," 11 September 2026](https://www.yahoo.com/news/politics/articles/california-just-passed-two-major-150608810.html) 6. [CBS News, "OpenAI backs measure that would require independent audits of AI models," 16 September 2026](https://www.cbsnews.com/news/openai-sam-altman-frontier-act/) 7. [Washington Monthly, "How to Govern the Pacing of the AI Frontier," 7 October 2026](https://washingtonmonthly.com/2026/10/07/how-to-govern-the-pacing-of-the-ai-frontier/) 8. [Axios (Maria Curi), "Scoop: AI companies plot day after scenarios for public revolt," 9 October 2026](https://www.msn.com/en-us/news/other/scoop-ai-companies-plot-day-after-scenarios-for-public-revolt/ar-AA2dSsDg) 9. [Gizmodo, "AI Companies Are Preparing to Shape the Rules After Everything Goes Wrong," 9 October 2026](https://gizmodo.com/ai-companies-are-preparing-to-shape-the-rules-after-everything-goes-wrong-2000824187) --- Anthropic zahlt die Schiedsrichter, die Anthropic prüfen — The Inference. Canonical: https://theinference.org/article/anthropic-writes-the-checks-for-the-referees-auditing-anthropic/de