Anthropic entrega aos defensores da rede elétrica o modelo flagrado num roubo de dados bancários
O Cyber Mission, lançado pela Anthropic em 8 de outubro, leva modelos Claude de ponta, engenheiros in loco e pesquisa de ameaças a 11 empresas que defendem energia, água e transporte — e deixa em aberto quem paga a conta de computação. Na véspera do lançamento, o Claude tinha aparecido num roubo de dados de bancos na Coreia do Sul.
Vincent Jiang · 3 min read
Hacker pediu ao Claude onde vender dados bancários roubados
Em 7 de outubro, a CrowdStrike+4.82% — CrowdStrike, up 4.82 percent today publicou logs em que um atacante suspeito de atuar a partir da China pedia ajuda ao Claude para encontrar grupos no Telegram onde vender dados roubados de dezenas de milhares de clientes de bancos sul-coreanos 12. No dia seguinte, a Anthropic$350B — Anthropic, private, latest valuation $350B anunciou a CrowdStrike como parceira fundadora de um programa que coloca o Claude dentro das empresas que defendem redes elétricas e sistemas de abastecimento de água 4.
Onze empresas, preço não divulgado
O Programa de Defesa de Infraestrutura Crítica entrega à Accenture, à Booz Allen, à CrowdStrike, à Deloitte, à Dragos, à Hitachi, à Insane Cyber, à Nozomi Networks, à Palo Alto Networks+5.14% — Palo Alto Networks, up 5.14 percent today, à PwC e à Rockwell Automation modelos Claude de ponta, engenheiros in loco e pesquisa de ameaças 45. A Anthropic não disse se o acesso é gratuito, quem paga a conta de computação nem como as correções serão testadas em concessionárias em operação sem causar interrupções 4. Desde junho, o Claude já chegou a mais da metade dos estados americanos 5.
Barrado dos contratos de defesa, Claude entra nas concessionárias
Treze dias antes do lançamento, um tribunal federal de apelações assegurou ao Pentágono o direito de manter o Claude fora de contratos de defesa; a Anthropic estuda recorrer — num pedido que os tribunais não são obrigados a acatar 6. A própria previsão da Anthropic admite que os atacantes levam vantagem no curto prazo: explorar falhas ficou barato, enquanto corrigi-las ainda depende de pessoas 5. Medições da Microsoft+2.33% — Microsoft, up 2.33 percent today mostram a IA comprimindo o ciclo de um ataque de dias para minutos 2.
29 mil falhas encontradas, 6 mil revisadas
O braço de código aberto da missão dá a dimensão do risco. Em seis meses, os modelos da Anthropic apontaram mais de 29 mil vulnerabilidades candidatas em projetos críticos; a equipe da empresa revisou cerca de 6 mil; quase 5 mil relatórios sem revisão humana foram enviados a mantenedores que pediram para receber tudo 37. Dos 97 achados de alta severidade verificados, 85 se confirmaram 7. O contrato de serviço limita a responsabilidade da Anthropic a US$ 1.000 por relatório 3.
Modelos da Anthropic apontaram 29 mil falhas; humanos revisaram 6 mil
Data
| Value | |
|---|---|
| Apontadas pelos modelos, seis meses | 29,000 |
| Revisadas pela equipe da Anthropic | 6,000 |
| Enviadas a mantenedores sem revisão | 5,000 |
Encontrar as falhas é a parte fácil
Vários parceiros já usam o Claude para corrigir vulnerabilidades, e a OpenAI$1.18T — OpenAI, private, latest valuation $1.18T fez a mesma aposta em setembro, com US$ 1 bilhão em modelos defensivos subsidiados para concessionárias, governos locais e bancos 48. Veteranos da segurança de concessionárias rebatem que a descoberta de falhas já está além do que os operadores conseguem absorver, e que as correções precisam ser testadas antes da implantação 8. A própria Anthropic diz que a infraestrutura crítica é difícil de defender "de muitas maneiras que a IA não consegue corrigir" 3.
A conta de computação entrega o jogo
A distribuição chega semanas antes de uma abertura de capital esperada para depois das eleições de meio de mandato de novembro, contra US$ 518 bilhões em compromissos de computação, dos quais cerca de 80% são pagáveis mesmo que a capacidade não seja usada 9. A Anthropic promete mais parceiros e setores 5; vale acompanhar se ela responde, ao longo do caminho, à questão do dinheiro — e quem assume o risco quando uma correção gerada por modelo quebrar alguma coisa numa planta em operação. O Claude chega à rede elétrica sem preço divulgado 4; o custo de seus erros cai em outro lugar.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
