La sécurité était le seul produit d'Anthropic. Mardi, celui qui la fabriquait a claqué la porte

Jacob Coxon a démissionné d'Anthropic mardi. Ce chercheur était chargé du pré-entraînement, le socle technique des modèles Claude — d'abord chez OpenAI, puis dans ce laboratoire qui se présente comme le bon élève du secteur. Ses deux employeurs, écrit-il aujourd'hui, « foncent vers une superintelligence qui s'auto-améliore et jouent avec nos vies »^1,2.

Ce qu'il a vraiment dit

Dans sa note de départ publiée sur X, il affirme que la peur n'est pas pour la galerie : « Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie. Ce n'est pas un coup marketing »¹. Son arbitrage entre les deux laboratoires est cinglant. OpenAI n'a pas pris la mesure de ce qu'elle construit. Anthropic l'a prise, et construit quand même, partant du principe qu'aucun rival ne sera prudent et qu'elle doit donc gagner.²

Il n'est pas seul

Il n'est pas seul en interne. Son collègue Evan Hubinger a écrit publiquement que le risque lié aux modèles actuels est faible, mais qu'il se cumule avec celui d'une « superintelligence issue de l'auto-amélioration récursive », un processus qui « se produit plus vite que nous le pensions ». Jacob Coxon appelle à des accords de rythme (pacing agreements) entre laboratoires américains ou, à défaut, à une interdiction temporaire des gains de capacités.²

L'argent n'a pas sourcillé

L'argent, lui, n'a pas sourcillé. OpenAI a lancé son nouveau modèle Astra le matin même.⁸ Harvey, la start-up de l'IA juridique, a bouclé le même jour une levée de 550 millions de dollars, à une valorisation de 15,5 milliards de dollars.⁹ Quant à Bill Gurley, dont les propos relayés par Chamath Palihapitiya ont cumulé 301 000 vues, il a conseillé aux prophètes de malheur de l'IA de se calmer et de poursuivre, parce que tout ira merveilleusement bien.^4,5

Pourquoi les conseils d'administration sont concernés

L'avantage commercial d'Anthropic, c'est la confiance — et la confiance se mesure. Claude compte 245 millions d'utilisateurs mensuels, au troisième rang, et en convertit 13 % en abonnements payants, soit le meilleur taux du secteur.^6,7

Une marque de sécurité qui perd ses chercheurs en sécurité garde le slogan et perd la substance.

La course affiche désormais trois tableaux de score : les modèles lancés, le capital levé, les chercheurs qui partent. Surveillez le troisième. C'est lui qui bouge le premier.