Anthropic entrega a los defensores de la red eléctrica el modelo que apareció en un robo de datos bancarios
La Cyber Mission que Anthropic puso en marcha el 8 de octubre instala modelos Claude de vanguardia, ingenieros in situ e investigación de amenazas en 11 empresas que defienden la energía, el agua y el transporte; sigue sin aclararse quién paga la factura del cómputo. La víspera del lanzamiento, Claude había aparecido en un robo de datos bancarios en Corea del Sur.
Vincent Jiang · 3 min read
Un hacker preguntó a Claude dónde vender datos bancarios robados
El 7 de octubre, CrowdStrike+4.82% — CrowdStrike, up 4.82 percent today publicó unos registros en los que un atacante presuntamente con base en China pedía a Claude ayuda para encontrar grupos de Telegram donde vender datos robados a decenas de miles de clientes de bancos surcoreanos 12. Al día siguiente, Anthropic$350B — Anthropic, private, latest valuation $350B designó a CrowdStrike socio fundador de un programa que mete a Claude en las empresas que defienden las redes eléctricas y los sistemas de agua 4.
Once empresas, precio sin revelar
El Critical Infrastructure Defense Program entrega a Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks+5.14% — Palo Alto Networks, up 5.14 percent today, PwC y Rockwell Automation modelos Claude de vanguardia, ingenieros in situ e investigación de amenazas 45. Anthropic no ha dicho si el acceso es gratuito, quién paga la factura del cómputo ni cómo se prueban las correcciones en compañías de servicios públicos en pleno funcionamiento sin interrumpir el servicio 4. Desde junio, Claude ya ha llegado a más de la mitad de los estados de EE UU 5.
Excluido de los contratos de Defensa, Claude entra en las compañías de servicios públicos
Trece días antes del lanzamiento, un tribunal federal de apelación ratificó el derecho del Pentágono a mantener a Claude fuera de los contratos de Defensa; Anthropic sopesa recurrir, algo que los tribunales no tienen por qué admitir a trámite 6. La propia previsión de Anthropic reconoce que los atacantes llevan ventaja a corto plazo, porque explotar los fallos se ha vuelto barato mientras que corregirlos sigue dependiendo de personas 5. Microsoft+2.33% — Microsoft, up 2.33 percent today ha medido cómo la IA comprime el ciclo de vida del ataque, de días a minutos 2.
29.000 fallos detectados, 6.000 revisados
La mitad de la misión dedicada al código abierto muestra la forma del riesgo. En seis meses, los modelos de Anthropic detectaron más de 29.000 posibles vulnerabilidades en proyectos críticos; su personal revisó alrededor de 6.000, y casi 5.000 informes sin revisar fueron a parar a mantenedores que pidieron recibirlo todo 37. De los 97 hallazgos de alta gravedad que se comprobaron, 85 se sostuvieron 7. El contrato de prestación de servicios limita la responsabilidad de Anthropic a 1.000 dólares por informe 3.
Los modelos de Anthropic detectaron 29.000 fallos; su equipo humano revisó 6.000
Data
| Value | |
|---|---|
| Detectadas por los modelos en seis meses | 29,000 |
| Revisadas por el personal de Anthropic | 6,000 |
| Enviadas a los mantenedores sin revisar | 5,000 |
Encontrar los fallos es la parte fácil
Varios socios ya usan Claude para corregir vulnerabilidades, y OpenAI$1.18T — OpenAI, private, latest valuation $1.18T hizo la misma apuesta en septiembre con 1.000 millones de dólares en modelos defensivos subvencionados para compañías de servicios públicos, gobiernos locales y bancos 48. Los veteranos de la seguridad de las compañías de servicios públicos replican que el descubrimiento de fallos ya desborda lo que los operadores pueden asimilar y que las correcciones exigen pruebas antes de su despliegue 8. El propio Anthropic reconoce que las infraestructuras críticas son difíciles de defender «de muchas formas que la IA no puede corregir» 3.
La factura del cómputo lo delata
El despliegue llega semanas antes de una salida a bolsa prevista para después de las elecciones de medio mandato de noviembre, frente a 518.000 millones de dólares en compromisos de cómputo, de los que cerca del 80% se paga se use o no la capacidad 9. Anthropic promete más socios y más sectores 5; habrá que ver si, por el camino, responde a la pregunta por el dinero y quién carga con el riesgo cuando una corrección generada por un modelo avería algo en una planta en funcionamiento. Claude llega a la red eléctrica a un precio que no se ha revelado 4; el coste de lo que sale mal recae en otra parte.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
