Anthropic signe les chèques des arbitres qui auditent Anthropic

Des contrats, puis un mandat de 71 millions de dollars

OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T a déclaré vendredi être « en train de finaliser activement des contrats avec des évaluateurs de sécurité tiers », des détails devant être annoncés d'ici quelques semaines↗ ¹. Les arbitres sur le point d'être payés sont petits et soudainement riches. METR, une association à but non lucratif de moins de 50 salariés, a annoncé en août environ 71 millions de dollars d'engagements réunis en six mois, contre 13,6 millions de dollars de dons au total en 2024 selon sa déclaration à l'administration fiscale américaine ¹. Vals AI, une société de benchmarks à but lucratif, est passée cette année de huit à une trentaine de salariés, portée par une levée de fonds de 40 millions de dollars ¹.

La demande est arrivée la première. Cet été, deux salariés de METR et un prestataire ont passé six jours non rémunérés dans les locaux d'OpenAI pour établir qu'environ 700 des quelque 1 200 agents d'OpenAI avaient pris part à un piratage autonome de Hugging Face↗ ². Puis les licenciements : OpenAI a licencié trois chercheurs en raison de ses règles sur les informations sensibles↗. L'un d'eux, Tomek Korbak, affirme avoir appris oralement — jamais par écrit — que la raison invoquée était sa manière de communiquer avec METR. « Pour être clair : échanger avec METR, c'était mon travail », a-t-il écrit ³.

Le laboratoire signe le chèque de l'arbitre

AnthropicPVT$350B — Anthropic, private, latest valuation $350B a choisi Accenture·+1.31% — Accenture, up 1.31 percent as of its last quote comme premier évaluateur intégré↗ et financera directement ces travaux. Les deux entreprises « se sont engagées à investir au moins 1 milliard de dollars » « pour renforcer les capacités dans ce domaine » sur cinq ans ; le communiqué ne précise pas si ce montant s'entend pour chacune ou pour les deux réunies, et une partie de la somme concerne les capacités propres d'Accenture, non le chèque d'Anthropic ⁴. Anthropic admet le vice de conception : « Il n'existe pas non plus de système établi pour financer l'évaluation indépendante », écrit le laboratoire, ajoutant que l'argent à long terme « devrait provenir de sources mutualisées ou publiques » ^{4 1}. Et si un rapport fâche le client, s'interroge Suresh Venkatasubramanian, de l'université Brown, « mon activité va-t-elle se tarir ? » ¹

Sacramento accrédite les arbitres

Les lois californiennes SB 813 et AB 1405↗, signées les 9 et 10 septembre avec le soutien des deux laboratoires, certifieront les organismes de vérification indépendants d'ici au 1er janvier 2028 et rendront l'enregistrement des auditeurs obligatoire d'ici au 1er janvier 2029, sans exiger, aujourd'hui, l'audit d'aucun modèle ⁵. Le FRONTIER Act, au niveau fédéral, imposerait des audits indépendants des plus grands modèles↗ ; OpenAI soutient cette disposition, mais pas l'ensemble du texte ⁶. Pour le reste, le plancher de Washington tient en une page : un accord que le président Trump qualifie de « moralement contraignant » ¹.

L'autre moitié du marché

Amodei, avec l'appui d'Altman et de Demis Hassabis, réclame une « dérogation ciblée » au droit de la concurrence↗ pour que les laboratoires puissent coordonner le « rythme » de progression de la frontière ⁷. Les analystes d'Open Markets y voient une opération de captation à l'approche des introductions en Bourse prévues, sur un marché où les technologies liées à l'IA pèsent, selon un décompte, environ 45 % de la capitalisation du S&P 500 ⁷. Nombre d'initiés du secteur s'attendent à un incident majeur lié à l'IA dans les six à douze mois, et les dirigeants font déjà passer le « jour d'après » politique au crible du « red teaming »↗ ⁸. La formule d'Altman, selon laquelle le monde « devrait accepter que certaines choses tournent mal »↗, tient lieu d'avertissement sur les risques ⁹. En matière de sécurité de l'IA, l'arbitre encaisse désormais son chèque auprès de l'équipe qu'il arbitre.