Anthropic firma los cheques de los árbitros que auditan a Anthropic

Primero los contratos; luego, un encargo de 71 millones de dólares

OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T afirmó el viernes que está «cerrando activamente contratos con evaluadores de seguridad externos», con detalles prometidos en unas semanas↗ ¹. Los árbitros a punto de cobrar son pequeños y, de pronto, ricos. METR, una organización sin ánimo de lucro con menos de 50 empleados, anunció en agosto unos 71 millones de dólares en compromisos de financiación captados en seis meses, frente a los 13,6 millones de dólares de contribuciones totales de 2024 que figuran en su declaración ante el IRS ¹. Vals AI, una empresa con ánimo de lucro dedicada a los benchmarks, ha pasado este año de ocho a unos 30 empleados tras una ronda de 40 millones de dólares ¹.

Primero llegó la demanda. Este verano, dos empleados de METR y un contratista pasaron seis días sin cobrar en las instalaciones de OpenAI para establecer que unos 700 de los cerca de 1.200 agentes de OpenAI participaron en un hackeo autónomo a Hugging Face↗ ². Después llegaron los despidos: OpenAI despidió a tres investigadores por sus políticas sobre información sensible↗, y uno de ellos, Tomek Korbak, asegura que le comunicaron de palabra —nada por escrito— que el motivo era su forma de comunicarse con METR. «Que quede claro: hablar con METR era mi trabajo», escribió ³.

El laboratorio firma el cheque del árbitro

AnthropicPVT$350B — Anthropic, private, latest valuation $350B ha elegido a Accenture·+0.45% — Accenture, up 0.45 percent as of its last quote como su primer evaluador integrado↗ y financiará el trabajo directamente. «Anthropic y Accenture se han comprometido a invertir al menos 1.000 millones de dólares» en «crear capacidad en este ámbito» a lo largo de cinco años; el comunicado no aclara si esa cifra es individual o conjunta, y una parte de ese dinero responde a la capacidad propia de Accenture, no al cheque de Anthropic ⁴. Anthropic reconoce el defecto de diseño: «tampoco existe un sistema consolidado para financiar la evaluación independiente», escribió, y añadió que el dinero a largo plazo «debería proceder de fondos comunes o gubernamentales» ^{4 1}. Si un informe enfada al cliente —se pregunta Suresh Venkatasubramanian, de la Universidad Brown—, «¿se me va a secar el negocio?» ¹

Sacramento habilita a los árbitros

Las leyes SB 813 y AB 1405 de California↗, firmadas el 9 y el 10 de septiembre con el respaldo de ambos laboratorios, certificarán a las organizaciones de verificación independientes antes del 1 de enero de 2028 y harán obligatorio el registro de los auditores antes del 1 de enero de 2029, aunque hoy no exigen la auditoría de ningún modelo ⁵. A escala federal, la FRONTIER Act obligaría a someter los modelos más grandes a auditorías independientes↗; OpenAI respalda esa disposición, aunque no el proyecto de ley completo ⁶. Por lo demás, el suelo de Washington se reduce a un acuerdo de una sola página que el presidente Trump califica de «moralmente vinculante» ¹

La otra mitad del trato

Amodei, con el respaldo de Altman y Demis Hassabis, quiere una «exención limitada» de la ley antimonopolio↗ para que los laboratorios puedan coordinar el «ritmo» de la frontera ⁷. Los analistas de Open Markets lo interpretan como una captura del regulador antes de las OPV previstas, en un mercado donde la tecnología ligada a la IA pesa, según un cálculo, en torno al 45 % de la capitalización del S&P 500 ⁷. Muchos expertos del sector anticipan un incidente grave de IA en un plazo de seis a doce meses, y los ejecutivos ya practican ejercicios de «red teaming» sobre el «día después» político↗ ⁸. La frase de Altman de que el mundo «debería aceptar que ocurran cosas malas»↗ es la nota de factores de riesgo ⁹. En la seguridad de la IA, el sueldo del árbitro ya lo abona el equipo al que pita.