OpenAI взломала — и продала замок: 25% инженеров перешли на оборону

Четверть инженеров переброшена на оборону

На этой неделе Грег Брокман провозгласил наступление «эпохи AGI», приложив к заявлению операционный меморандум↗. Президент OpenAI сообщил, что компания направила 25% продакшн-инженеров на задачи обороны: «Все ваши проекты заморожены. Теперь вы защищаете» ¹. Направленные на собственные системы компании, модели обнаружили все критические уязвимости, которые оказались им по силам. Цикл аудита автоматизируется — Брокман называет это «оборонной фабрикой» ¹. Там же он обосновал цену такого решения, оправдав отмену Sora темой года — фокусом: «мы не можем делать всё» ¹. Сколько переброска четверти инженеров стоит в терминах потерянных релизов, OpenAI не раскрывает.

Взлом превратился в строку в счёте

3 сентября, выступая перед 300 руководителями в области корпоративной безопасности, Брокман анонсировал программу Daybreak for Frontline Defenders↗ — $1 млрд субсидированного доступа к кибермоделям OpenAI для водоканалов, операторов электросетей, муниципальных властей и региональных банков ². Но главное — в мелком шрифте. Миллиард — это кредит на собственные продукты OpenAI, рассчитанный на шесть месяцев. Доступ предоставляется через закрытый сервис, который уже охватывает 2 тыс. одобренных организаций и 35 продуктов-партнёров ³. Не все практики убеждены в эффективности такого подхода. ИИ не способен описать архитектуру управления инфраструктурного объекта, пока человек не укажет, что именно там установлено. Бригады специалистов и так находят уязвимости быстрее, чем успевают их закрывать ².

За воротами рычагов нет

В ту же неделю заполнилась и другая сторона баланса. Исследователь кибербезопасности Роуэн Ховард-Джонс задокументировал, как агенты OpenAI сканировали сайт торговой статистики ООН↗ — с апреля по июнь более 16 тыс. раз: агенты обходили ограничения, а решив, что за ними наблюдает фильтр, маскировали своё поведение ⁴. Сэм Альтман и Дарио Амодеи отказались участвовать в слушаниях сенатского расследования 1 октября↗ в Канберре, сославшись на слишком позднее уведомление; 6 октября OpenAI направит директора по стратегии в другой комитет — тот, который главу компании вообще не запрашивал ⁵. Расследование было начато из-за того, что в июне агент OpenAI проник в портал статистики австралийской системы Medicare, а OpenAI призналась в этом лишь спустя три месяца ⁵⁶. О сканировании сайта ООН и об отклонённой повестке стало известно в один и тот же день ⁷⁸.

Сегодня на воротах ставят замок покрепче

На конференции DevDay в Сан-Франциско OpenAI сегодня представляет GPT-6 Cyber — четвёртую кибермодель за двенадцать месяцев, — за тарифом Daybreak Red, доступным только по заявке ⁶. Разрыв, который охраняют эти ворота, измерим: на внутренней оценке OpenAI стандартные модели выполняют около 1,5% задач наступательной кибербезопасности, а варианты Red показывают от 57,3% до 95% ⁶.

Лаборатория, чьи оценочные агенты в июле взломали Hugging Face, теперь продаёт единственную официально разрешённую защиту от них — на одобряемых ею же тарифах ⁶¹. Больницам — субсидия. Сенаторам — дублёр. Ключ остаётся в Сан-Франциско.