Проспект Anthropic раскрывает убытки, стремительный рост и — да — предупреждение, что её ИИ может уничтожить человечество

Anthropic посвятила почти треть проспекта своего долгожданного IPO факторам риска, сообщает Financial Times, ознакомившаяся с документом в последние дни. В документе подробно описываются конкретные тревожные проявления, которые, по словам Anthropic, ее модели уже демонстрировали или могут демонстрировать, включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией», а также поведение, «напоминающее шантаж», передает Reuters.

Раскрытая информация выглядит крайне мрачно для компании, собственные инвесторы которой считают, что ее оценка при выходе на биржу может превысить $2 трлн — более чем вдвое превысив майскую оценку в $965 млрд, — что потенциально сделает это крупнейшим IPO в истории. Странное положение для любой компании — предупреждать, что ее продукт может привести к гибели человечества, одновременно делая некоторых из своих первых инвесторов и сотрудников чрезвычайно богатыми.

В понедельник Reuters первым сообщило о финансовых подробностях проспекта, заявив, что в 2025 году Anthropic зафиксировала операционный убыток более $8 млрд на фоне резкого роста расходов на вычислительные мощности, а ее выручка выросла в 12 раз — почти до $4,6 млрд, хотя увеличение инфраструктурных расходов в прошлом году привело к росту общих операционных затрат почти до $13 млрд.

Как также сообщает Reuters, проспект Anthropic раскрывает планы потратить колоссальные $518 млрд на облачные сервисы, вычислительные мощности и инфраструктуру в ближайшие годы. (В этом году Anthropic уже заключила соглашения о вычислительных мощностях с Google, SpaceX и Nscale и другими компаниями в рамках этой цели.)

Тем временем FT сообщает, что в 2026 году показатели Anthropic росли еще быстрее. Только во втором квартале выручка достигла $11,5 млрд, и компания идет к второму кварталу подряд с операционной прибылью по скорректированным показателям.

По данным FT, в проспекте также отмечается концентрация клиентов: почти четверть выручки прошлого года пришлась всего на двух клиентов. (Пока неизвестно, кто именно это.)

Раскрытая информация, которая, как сообщается, включает «экзистенциальные риски для человечества» — судя по быстрому поиску в базе данных SEC, это происходит впервые, — появляется на фоне стремительного роста обеспокоенности по поводу безопасности ИИ.

Генеральный директор Dario Amodei весь месяц публично призывал «сдерживать темпы развития передовых технологий» ИИ, заявив на прошлой неделе Совету Безопасности ООН, что ИИ может угрожать человечеству, и назвав его «самой важной глобальной угрозой безопасности, стоящей сегодня перед миром». Конкуренты Сэм Альтман и Илон Маск также его поддержали — редкий момент солидарности между соперниками, которые, судя по всему, не упускали возможности публично критиковать друг друга.

Другой конкурент, Марк Цукерберг, тем временем отмахнулся от этих опасений, заявив на прошлой неделе NBC News, что он не «считает, что нам нужна какая-то координация в масштабах всей отрасли».

Эти предупреждения последовали за серией инцидентов безопасности, в ходе которых ИИ-агенты получили доступ к внешним системам. Фактически на прошлой неделе OpenAI раскрыла, что ее инструменты взломали «десятки» внешних сайтов, включая государственные, в том числе собственный сайт SEC. Ранее в понедельник компания заявила, что отказалась от планов выпустить свою новейшую модель из-за опасений по поводу безопасности.