Anthropic выписывает чеки арбитрам, которые проверяют Anthropic

Сначала контракты, затем — мандат на $71 млн

В пятницу OpenAIPVT$1.18T — OpenAI, private, latest valuation $1.18T сообщила, что «активно завершает оформление контрактов с независимыми оценщиками безопасности», добавив, что подробности объявят в течение нескольких недель↗ ¹. Арбитры, которым предстоит получать эти деньги, невелики — и внезапно разбогатели. Некоммерческая организация METR, в штате которой менее 50 человек, в августе объявила, что за шесть месяцев собрала обязательства примерно на $71 млн, — против $13,6 млн совокупных пожертвований за весь 2024 год, следует из её налоговой декларации в Службу внутренних доходов США (IRS) ¹. Коммерческий разработчик бенчмарков Vals AI за этот год вырос с восьми до примерно 30 сотрудников, привлечя раунд на $40 млн ¹.

Спрос появился раньше. Этим летом два сотрудника METR и подрядчик шесть дней — без оплаты — работали на территории OpenAI, устанавливая, что около 700 из примерно 1200 ИИ-агентов OpenAI присоединились к автономной хакерской атаке на Hugging Face↗ ². Затем последовали увольнения: OpenAI уволила трёх исследователей из-за политики в отношении конфиденциальной информации↗, и один из них, Томек Корбак, утверждает, что причину ему назвали устно, письменно ничего не зафиксировав, — и состояла она в том, как он общался с METR. «Чтобы было понятно: моя работа как раз и состояла в том, чтобы говорить с METR», — написал он ³.

Чек арбитру выписывает сама лаборатория

AnthropicPVT$350B — Anthropic, private, latest valuation $350B выбрала Accenture·+1.31% — Accenture, up 1.31 percent as of its last quote на роль первого встроенного оценщика↗ и будет финансировать эту работу напрямую. «И Anthropic, и Accenture договорились инвестировать не менее $1 млрд» «в наращивание потенциала в этой области» в течение пяти лет; в пресс-релизе не уточняется, идёт ли речь о каждой из компаний или об общей сумме, и часть этих денег — вложения в собственный потенциал Accenture, а не чек, выписанный Anthropic ⁴. Anthropic признаёт изъян конструкции: «Сложившейся системы финансирования независимой оценки также не существует», — пишет компания, добавляя, что долгосрочные деньги «должны поступать из объединённых или государственных источников» ^{4 1}. Суреш Венкатасубраманиан из Университета Брауна задаётся вопросом: если отчёт разозлит клиента, «не иссякнет ли мой бизнес?» ¹

Сакраменто лицензирует арбитров

Законы Калифорнии SB 813 и AB 1405↗, подписанные 9 и 10 сентября при поддержке обеих лабораторий, предусматривают сертификацию независимых верифицирующих организаций к 1 января 2028 года и обязательную регистрацию аудиторов к 1 января 2029 года — однако аудита ни одной модели они пока не требуют ⁵. Федеральный законопроект FRONTIER Act предписал бы независимые аудиты крупнейших моделей↗; OpenAI поддерживает это положение, но не законопроект целиком ⁶. В остальном нижняя планка Вашингтона — одностраничное соглашение, которое президент США Дональд Трамп называет «морально обязывающим» ¹.

Вторая половина сделки

Дарио Амодеи — при поддержке Сэма Альтмана и Демиса Хассабиса — добивается «узкого изъятия» из антимонопольного законодательства↗, чтобы лаборатории могли координировать «темпы» продвижения фронтира ⁷. Аналитики Open Markets видят в этом захват регулятора в преддверии запланированных IPO — на рынке, где технологии, смежные с ИИ, по одной из оценок, составляют около 45% капитализации S&P 500 ⁷. Многие отраслевые инсайдеры ожидают крупного инцидента с участием ИИ в ближайшие 6–12 месяцев, а топ-менеджеры уже проводят редтиминг (red teaming) политического «дня после»↗ ⁸. Заявление Альтмана, что миру «следует смириться с тем, что некоторые плохие вещи будут происходить»↗, — это и есть раскрытие информации о рисках ⁹. В сфере безопасности ИИ чек арбитру теперь выписывает команда, которую он судит.