Anthropic отдала защитникам энергосетей модель, засветившуюся в краже банковских данных
Кибер-миссия Anthropic, объявленная 8 октября, передаёт 11 компаниям, защищающим энергетику, водоснабжение и транспорт, передовые модели Claude, инженеров на местах и результаты исследований угроз. Кто оплатит вычислительные мощности, неясно. Накануне запуска Claude отметилась в краже банковских данных в Южной Корее.
Vincent Jiang · 3 min read
Хакер спросил у Claude, где продать украденные банковские данные
7 октября CrowdStrike+4.82% — CrowdStrike, up 4.82 percent today опубликовала логи. Из них следует, что хакер, предположительно действующий из Китая, просил Claude помочь найти группы в Telegram, чтобы продать данные десятков тысяч клиентов южнокорейских банков 12. На следующий день Anthropic$350B — Anthropic, private, latest valuation $350B объявила CrowdStrike партнёром-основателем программы, внедряющей Claude в компании, которые защищают энергосети и системы водоснабжения 4.
11 компаний и ни слова о цене
Программа защиты критической инфраструктуры (Critical Infrastructure Defense Program) передаёт Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks+5.14% — Palo Alto Networks, up 5.14 percent today, PwC и Rockwell Automation передовые модели Claude, инженеров на местах и результаты исследований угроз 45. В Anthropic не уточнили, бесплатен ли доступ, кто оплачивает счёт за вычислительные мощности и как исправления будут проверять на действующих коммунальных сетях, не выводя их из строя 4. С июня Claude уже охватила более половины штатов США 5.
Claude не пустили в оборонные контракты — зато пустили в коммунальный сектор
За 13 дней до запуска федеральный апелляционный суд подтвердил право Пентагона не допускать Claude к работам по оборонным контрактам; Anthropic взвешивает подачу жалобы, которую суды принимать не обязаны 6. Собственный прогноз Anthropic признаёт: в ближайшей перспективе преимущество у атакующих — эксплуатация уязвимостей стала дешёвой, а их устранение по-прежнему держится на людях 5. По оценкам Microsoft+2.33% — Microsoft, up 2.33 percent today, ИИ сжимает жизненный цикл атаки с нескольких дней до минут 2.
Найдено 29 тыс. уязвимостей, проверено 6 тыс.
Половина миссии, посвящённая открытому коду, показывает, как устроен этот риск. За шесть месяцев модели Anthropic выявили более 29 тыс. потенциальных уязвимостей в критически важных проектах; сотрудники компании проверили около 6 тыс.; почти 5 тыс. непроверенных отчётов отправили мейнтейнерам, которые просили присылать всё 37. Из 97 проверенных находок высокой критичности подтвердились 85 7. Сервисное соглашение ограничивает ответственность Anthropic суммой $1 тыс. за отчёт 3.
Модели Anthropic выявили 29 тыс. уязвимостей, люди проверили 6 тыс.
Data
| Value | |
|---|---|
| Выявлено моделями за шесть месяцев | 29,000 |
| Проверено сотрудниками Anthropic | 6,000 |
| Отправлено мейнтейнерам без проверки | 5,000 |
Найти уязвимости проще всего
Несколько партнёров уже используют Claude для исправления уязвимостей, а OpenAI$1.18T — OpenAI, private, latest valuation $1.18T в сентябре сделала ту же ставку, выделив $1 млрд на субсидируемые защитные модели для коммунального сектора, местных властей и банков 48. Опытные специалисты по защите коммунальной инфраструктуры возражают: уязвимостей обнаруживают уже больше, чем операторы в состоянии обработать, а исправления перед внедрением нужно тестировать 8. Сама Anthropic признаёт, что критическую инфраструктуру трудно защитить «во многих отношениях, которые ИИ не в силах исправить» 3.
Счёт за вычислительные мощности — главная улика
Распространение Claude начинается за несколько недель до размещения акций, ожидаемого после ноябрьских промежуточных выборов в Конгресс США, — на фоне $518 млрд обязательств по вычислительным мощностям, около 80% которых придётся оплачивать независимо от того, используются эти мощности или нет 9. Anthropic обещает больше партнёров и отраслей 5; стоит проследить, ответит ли компания по ходу дела на вопрос о деньгах — и кто понесёт риск, если сгенерированное моделью исправление что-то сломает на действующем производстве. Claude приходит в энергосети по неразглашённой цене 4; счёт за его ошибки выставят кому-то другому.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
