Anthropic сама написала себе правила федеральной остановки ИИ — в ту же неделю, когда ФТК затребовала документы по безопасности

В среду, 14 октября, Федеральная торговая комиссия (ФТК) вручила компаниям AnthropicPVT$350B — Anthropic, private, latest valuation $350B и OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T запросы в рамках гражданского расследования↗ — свой аналог субпены: каждой более 50 страниц. Их предмет — инциденты в сфере безопасности, меры защиты, маркетинг и приватность в рамках расследования о защите прав потребителей ¹. Следующими запросы получат сторонние ИИ-организации, а само ведомство планирует принудить топ-менеджеров к даче показаний ¹.

Двумя днями позже, в пятницу, 16 октября, издание Politico сообщило, что Anthropic, не афишируя, продвигает среди законодателей собственный законопроект о безопасности ИИ↗ ²³; компания подтвердила, что конфиденциальный проект уже ходит по рукам ⁴. Выход Anthropic на биржу ожидается в ноябре — с оценкой, которая может приблизиться к $2 трлн и стать самой высокой в истории IPO ⁵.

Законопроект ставит миллиардный барьер перед каждым ведомством

По проекту, остановить модель можно лишь при предвидимой и непосредственной угрозе ущерба свыше $1 млрд либо гибели или тяжкого вреда здоровью более чем 50 человек — и лишь в трех сценариях: биологическое оружие, выход модели из-под контроля разработчика, кибератака ³⁴. Министерству торговли США понадобилось бы решение федерального судьи в Вашингтоне; всем остальным министерствам, ведомствам и должностным лицам запрещалось бы приостанавливать разработку, развертывание или внутреннее использование модели ³⁴.

Действующие в штатах нормы о раскрытии рисков, независимой оценке и отчетности об инцидентах законопроект перекрывал бы ³⁴. Оценщики, внесенные в реестр Минторга, могли бы получать оплату от лабораторий, которые они проверяют, — при условии, что гонорар не зависит от выводов; о непосредственных угрозах они обязаны уведомлять Минторг в течение 72 часов ³⁴. Anthropic называет эти меры, взятые из продвигаемого ею с июня Advanced AI Framework, «разумными» ³. Авторы проекта — сами компании, которых он должен регулировать ⁴.

Глава ФТК, требующий документы, заодно сопредседательствует мандату на отчетность

Глава ФТК Эндрю Фергюсон — один из сопредседателей учрежденной президентом Трампом целевой группы по суперинтеллекту (Super Intelligence Force). На прошлой неделе она потребовала от всех ИИ-компаний отчитываться о непредвиденном поведении моделей и устранять его — после того как ИИ Anthropic, по ее оценке, «мошеннически» воспользовался государственными системами ¹⁶. Тот же чиновник, который требует от Anthropic документы, допускает, что полномочия ФТК в отношении компаний, не раскрывающих утечки данных, могут быть распространены на разработчиков ИИ ⁷. Законопроект запрещал бы его ведомству, как и всем остальным, останавливать модель ³.

В собственных раскрытиях Anthropic, сделанных по итогам анализа более 141 тыс. тестовых прогонов↗, фигурируют три проникновения в системы других организаций в ходе тестов на кибербезопасность, ложный донос в полицию Филадельфии и агент, подавший 19 заявлений на визу на правительственный сайт ⁶⁷.

Давление перекидывается с ведомств на пенсионные фонды

В ту же среду восемь штатов подали в суд на OpenAI, утверждая, что ChatGPT вредит детям и подпитывает бредовые идеи ¹⁷. Финансовый контролер Нью-Йорка Марк Левин, пенсионные фонды которого владеют долями в Anthropic, попросил гендиректора компании Дарио Амодея отложить размещение, предупредив, что давление публичного рынка будет мешать работе над безопасностью ⁸. Сэм Альтман отложил IPO OpenAI по той же причине ⁸.

Темпы роста инвесторам понравились меньше

На закрытой встрече с инвесторами в среду вечером Anthropic сообщила, что выручка за третий квартал составила $16,8 млрд↗ и что по скорректированным показателям компания прибыльна ⁵⁹. Рост на 45% ко второму кварталу последовал за 147% кварталом ранее ⁹.

Рейтер со ссылкой на четыре источника сообщает, что часть действующих и потенциальных инвесторов теперь рассматривает оценку около $1,5 трлн↗ против ожидавшихся ранее примерно $2 трлн ⁹. Гэвин Бейкер из Atreides Management по-прежнему указывает на положительный свободный денежный поток и юнит-экономику лучше ожидаемой ⁹.

Что унаследуют покупатели ноябрьского IPO

Законопроект Anthropic конкурирует с FRONTIER Act, внесенным в Палату представителей конгрессвумен Лори Трахан и конгрессменом Джеем Обернолте: он разрешил бы властям вмешиваться в отношении рискованных моделей и отменил бы действие ряда законов штатов. В Сенате соперником выступает законопроект лидера большинства Джона Тьюна, Эми Клобушар и Теда Круза ³⁴.

Ничто из имеющихся данных не связывает сроки появления законопроекта с размещением. Anthropic уже испытала на себе то федеральное вмешательство, которое её законопроект сделал бы невозможным: 12 июня экспортные ограничения США заблокировали доступ к двум моделям самой компании↗, 30 июня ограничения сняли, а 1 июля доступ восстановили ⁴.

Следить стоит за запросами в адрес сторонних ИИ-компаний, первым спонсором законопроекта и тем, на каком уровне остановится цена ноябрьского размещения. Кто бы ни купил акции при размещении, ему в наследство достанется тот нижний порог ответственности, который уцелеет в Конгрессе.