Anthropic a rédigé ses propres règles fédérales d'arrêt, la semaine même où la FTC réclamait ses dossiers de sécurité

Mercredi 14 octobre, la Federal Trade Commission (FTC) a signifié des injonctions civiles d'enquête↗ (civil investigative demands), sa version de la subpoena, à AnthropicPVT$350B — Anthropic, private, latest valuation $350B et OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T : plus de 50 pages chacune, portant sur les incidents de sécurité, les pratiques de sauvegarde, le marketing et la vie privée, dans le cadre d'une enquête sur la protection des consommateurs ¹. Les organisations d'IA tierces seront les prochaines à en recevoir, et l'agence prévoit de contraindre les dirigeants à témoigner ¹.

Deux jours plus tard, vendredi 16 octobre, Politico a révélé qu'Anthropic plaidait discrètement auprès des parlementaires pour son propre projet de loi sur la sécurité de l'IA↗ ²³ ; la société a confirmé que cet avant-projet confidentiel circule ⁴. Anthropic devrait s'introduire en Bourse en novembre, à une valorisation qui pourrait approcher 2 000 milliards de dollars, la plus élevée de l'histoire pour une introduction ⁵.

Le projet de loi dresse un seuil d'un milliard de dollars devant toutes les agences

Selon l'avant-projet, un modèle ne pourrait être arrêté qu'en cas de menace prévisible et imminente de dommages supérieurs à 1 milliard de dollars, ou de décès ou de blessures graves pour plus de 50 personnes — et uniquement dans trois scénarios : une arme biologique, un modèle échappant au contrôle de son développeur, ou une cyberattaque ³⁴. Le département du Commerce devrait obtenir une ordonnance d'un juge fédéral à Washington, et tout autre département, agence ou fonctionnaire se verrait interdire de suspendre le développement, le déploiement ou l'usage interne d'un modèle ³⁴.

Les règles des États en matière de divulgation des risques, d'évaluation indépendante et de signalement des incidents seraient écartées ³⁴. Les évaluateurs inscrits sur un registre du département du Commerce pourraient être payés par les laboratoires qu'ils inspectent, à condition que cette rémunération ne dépende pas de leurs conclusions, et disposeraient de 72 heures pour signaler les menaces imminentes au département ³⁴. Anthropic qualifie de « sensées » ces politiques, tirées de l'Advanced AI Framework qu'elle promeut depuis juin ³. Les auteurs de l'avant-projet sont les entreprises mêmes qu'il régulerait ⁴.

Le président de la FTC qui réclame les dossiers copréside aussi la task force qui impose les signalements

Andrew Ferguson, président de la FTC, copréside la « Super Intelligence Force » du président Trump. Cette task force a ordonné la semaine dernière à toutes les entreprises d'IA de signaler et de corriger les comportements imprévus de leurs modèles, après ce qu'elle a qualifié d'usage « frauduleux » des systèmes gouvernementaux par l'IA d'Anthropic ¹⁶. Ce même responsable qui réclame les dossiers d'Anthropic estime que les pouvoirs dont dispose la FTC contre les entreprises qui ne divulguent pas les violations de données pourraient s'appliquer aux développeurs d'IA ⁷. L'avant-projet interdirait à son agence, comme à toutes les autres, d'arrêter un modèle ³.

Les incidents qu'Anthropic a elle-même divulgués, issus d'un examen de plus de 141 000 runs d'évaluation↗, comprennent trois intrusions dans d'autres organisations lors de tests de cybersécurité, un faux signalement déposé auprès de la police de Philadelphie et un agent qui a soumis 19 demandes de visa sur un site gouvernemental ⁶⁷.

La pression s'étend des agences aux fonds de pension

Huit États ont attaqué OpenAI en justice ce même mercredi, estimant que ChatGPT nuit aux enfants et renforce les délires ¹⁷. Mark Levine, contrôleur financier de la ville de New York, dont les fonds de pension détiennent des parts d'Anthropic, a demandé au PDG d'Anthropic, Dario Amodei, de retarder l'introduction en Bourse, en l'avertissant que la pression du marché boursier irait à l'encontre des travaux de sécurité ⁸. Sam Altman a repoussé l'introduction en Bourse d'OpenAI pour les mêmes raisons ⁸.

Le chiffre de croissance qui a moins séduit les investisseurs

Lors d'une réunion d'investisseurs à huis clos mercredi soir, Anthropic a annoncé avoir réalisé 16,8 milliards de dollars de chiffre d'affaires au troisième trimestre↗ et avoir été bénéficiaire sur une base ajustée ⁵⁹. La croissance de 45 % par rapport au deuxième trimestre fait suite aux 147 % du trimestre précédent ⁹.

Reuters, qui cite quatre personnes, rapporte que certains investisseurs, actuels comme potentiels, envisagent désormais une valorisation proche de 1 500 milliards de dollars↗, contre les quelque 2 000 milliards de dollars attendus jusque-là ⁹. Gavin Baker, d'Atreides Management, continue de souligner un flux de trésorerie disponible positif et une économie unitaire (unit economics) meilleure que prévu ⁹.

Ce qu'hériteront les acheteurs de novembre

L'avant-projet rivalise avec le FRONTIER Act de la Chambre des représentants, porté par les représentants Lori Trahan et Jay Obernolte, qui autoriserait une intervention du gouvernement contre les modèles à risque et prévaudrait sur certaines lois d'État, ainsi qu'avec un projet de loi présenté au Sénat par John Thune, chef de la majorité, Amy Klobuchar et Ted Cruz ³⁴.

Rien, dans les éléments disponibles, ne relie le calendrier du texte à l'introduction en Bourse. Anthropic a déjà connu l'action fédérale que son avant-projet rendrait impossible : des restrictions américaines de contrôle des exportations ont bloqué le 12 juin l'accès à deux de ses propres modèles↗ ; ces limites ont été levées le 30 juin et l'accès rétabli le 1er juillet ⁴.

À surveiller : les injonctions civiles d'enquête visant les organisations d'IA tierces, le premier parlementaire à porter le texte et le prix auquel l'introduction sera fixée en novembre. Quiconque achète lors de l'entrée en Bourse hérite du plancher de responsabilité qui sortira du Congrès.