Anthropic assina os cheques dos árbitros que auditam a própria Anthropic

Primeiro os contratos, depois o mandato de US$ 71 milhões

A OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T afirmou na sexta-feira que está "finalizando ativamente contratos com avaliadores externos de segurança"↗, com detalhes prometidos para as próximas semanas ¹. Os árbitros prestes a ser remunerados são pequenos — e, de repente, ricos. A METR, organização sem fins lucrativos com menos de 50 funcionários, anunciou em agosto cerca de US$ 71 milhões em compromissos captados ao longo de seis meses, contra US$ 13,6 milhões em contribuições totais em 2024, segundo sua declaração ao IRS, o fisco americano ¹. A Vals AI, empresa com fins lucrativos que desenvolve benchmarks, saltou de oito para cerca de 30 funcionários neste ano, com uma rodada de US$ 40 milhões ¹.

A demanda chegou primeiro. Dois funcionários da METR e um contratado passaram seis dias não remunerados nas instalações da OpenAI, neste verão do hemisfério norte, para constatar que cerca de 700 agentes da OpenAI — de um total de aproximadamente 1.200 — participaram de um ataque hacker autônomo à Hugging Face↗ ². Depois vieram as demissões: a OpenAI demitiu três pesquisadores por causa de políticas de informações sensíveis↗, e um deles, Tomek Korbak, diz que foi informado verbalmente — nada por escrito — de que o motivo era a forma como se comunicava com a METR. "Que fique claro: falar com a METR era o meu trabalho", escreveu ele ³.

O laboratório assina o cheque do árbitro

A AnthropicPVT$350B — Anthropic, private, latest valuation $350B escolheu a Accenture·+1.31% — Accenture, up 1.31 percent as of its last quote como seu primeiro avaliador embutido↗ e vai financiar o trabalho diretamente. "Tanto a Anthropic quanto a Accenture concordaram em investir ao menos US$ 1 bilhão" "no desenvolvimento de capacidade nesta área" ao longo de cinco anos; o comunicado não esclarece se o valor vale para cada uma ou para as duas em conjunto, e parte dele é capacidade própria da Accenture, não o cheque da Anthropic ⁴. A Anthropic admite a falha no desenho: "também não há um sistema consolidado para financiar a avaliação independente", escreveu a empresa, acrescentando que o dinheiro de longo prazo "deveria vir de fundos comuns ou governamentais" ^{4 1}. Se um relatório irritar o cliente, pergunta Suresh Venkatasubramanian, da Universidade Brown, "será que minha fonte de renda vai secar?" ¹

Sacramento licencia os árbitros

As SB 813 e AB 1405, da Califórnia↗, sancionadas em 9 e 10 de setembro com o endosso dos dois laboratórios, preveem a certificação de organizações independentes de verificação até 1º de janeiro de 2028 e tornam obrigatório o registro dos auditores até 1º de janeiro de 2029 — sem exigir, hoje, a auditoria de nenhum modelo ⁵. O FRONTIER Act, projeto de lei federal, exigiria auditorias independentes dos maiores modelos↗; a OpenAI apoia esse dispositivo, mas não o projeto inteiro ⁶. De resto, o piso em Washington é um acordo de uma página que o presidente Trump chama de "moralmente vinculante" ¹.

A outra metade do negócio

Dario Amodei, com o endosso de Altman e de Demis Hassabis, quer uma "exceção restrita" à lei antitruste↗ para que os laboratórios possam coordenar o "pacing" (o ritmo) da fronteira da IA ⁷. Analistas do Open Markets interpretam o pedido como captura regulatória antes das aberturas de capital planejadas, num mercado em que as tecnologias ligadas à IA representam, segundo uma estimativa, cerca de 45% da capitalização do S&P 500 ⁷. Muitos nomes do setor esperam um grande incidente de IA num prazo de seis a 12 meses, e os executivos já ensaiam o "dia seguinte" político em red team (simulação adversarial)↗ ⁸. A frase de Altman — que o mundo "deveria aceitar que coisas ruins aconteçam"↗ — é o fator de risco ⁹. Na segurança de IA, o cheque do árbitro agora compensa no banco do time que ele apita.