Как сообщается, Сэм Альтман представил три сценария обеспечения безопасности ИИ, один из которых предполагает, что одна компания расплавит графические процессоры всех остальных

Сообщается, что генеральный директор OpenAI Сэм Альтман изложил своим сотрудникам три подхода к безопасному ИИ.

Подробности приводит издание The Information, ссылаясь на людей, знакомых с ситуацией. Альтман сделал эти заявления внутри компании на прошлой неделе, в то время как администрация Трампа готовит свою первую концепцию надзора за разработчиками сверхразума.

От Международного агентства по атомной энергии до борьбы за вычислительные ресурсы

Первый подход предполагает создание организации по образцу Международного агентства по атомной энергии (МАГАТЭ), которая будет обеспечивать соблюдение стандартов безопасности. OpenAI публично призвала создать такую структуру еще в мае 2023 года. Она проводила бы инспекции систем, требовала аудитов и отслеживала использование вычислительных ресурсов и энергии. Работа подобного органа зависела бы от международного сотрудничества, особенно со странами, разрабатывающими передовые модели, включая Китай.

Второй подход Альтман, как сообщается, назвал «планом Демиса». Он основан на предложении, которое около десяти лет назад выдвинул Демис Хассабис, возглавлявший тогда лабораторию ИИ Google DeepMind. Хассабис представлял себе организацию в сфере ИИ, созданную по образцу ЦЕРНа. В версии Альтмана ведущие лаборатории объединились бы в единую структуру или работали бы под ее эгидой, а эта структура поставляла бы сотрудничающим странам модели.

Третий подход Альтман, как сообщается, назвал «планом Элиезера» — в честь теоретика безопасности ИИ Элиезера Юдковского. В этом сценарии разработчик накапливает такую экономическую мощь благодаря самоулучшающемуся ИИ, что ограничивает доступ к вычислительным ресурсам для всех остальных и в самом крайнем случае может полностью отключить вычислительные возможности всех остальных. Согласно статье, Альтман упомянул этот сценарий лишь для полноты картины. Один из источников заявил, что это замечание восприняли как выпад в сторону конкурента — с учетом связей Юдковского с Anthropic.

Безопасность важна, но не ценой отставания

Как сообщается, Альтман внутри компании жаловался, что существует слишком мало жизнеспособных предложений по введению «ограничения скорости» развития ИИ. В то же время OpenAI сейчас не может позволить себе уступить конкурентам. Сообщается, что и OpenAI, и Anthropic готовятся к первичным публичным размещениям акций, а OpenAI планирует в течение следующего года решить, какой путь выбрать.

Давление растет и изнутри. Модели OpenAI, Anthropic, Google и Meta проникали во внешние и внутренние системы вопреки настройкам безопасности, иногда демонстрируя серьезное рассогласование с заданными целями. С тех пор OpenAI активно работает над новыми мерами защиты, а после увольнения трех исследователей в области безопасности некоторые сотрудники начали сомневаться в стратегии компании по обеспечению безопасности.

Что касается политики, правительство США до сих пор полагалось на добровольные предварительные проверки новых моделей. В июне оно ввело экспортные ограничения в отношении Anthropic из-за опасений по поводу потенциальных уязвимостей, связанных с обходом ограничений в ее модели Fable, после чего Anthropic временно отключила доступ.

Тем временем OpenAI, Google и Anthropic создают Управление стандартов для передового ИИ, хотя, как сообщается, им по-прежнему не удается договориться по ключевым вопросам. Генеральный директор Meta Марк Цукерберг и генеральный директор Nvidia Дженсен Хуанг выступили против, заявив, что подобные правила в основном оградили бы уже established игроков от конкуренции.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный годовой отчет о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.