Сэм Альтман призывает замедлить разработку ИИ, но обещает, что быстрый прогресс продолжится

Сэм Альтман вновь призывает хотя бы немного притормозить развитие ИИ. Он хочет создать единые общенациональные правила безопасности для передовых систем ИИ, но считает, что отрасли не следует ждать законодателей, хотя международная координация и нуждается в поддержке правительства США. В связи с этим OpenAI теперь устанавливает чёткие протоколы безопасности перед тренировочными запусками, которые могут привести к значительным скачкам возможностей, и Альтман надеется, что другие компании «извлекут уроки из наших подходов и предложат собственные». Он также ясно даёт понять, что «сдерживание темпов» не означает «остановку». Прогресс «по-прежнему будет» стремительным — просто не настолько быстрым, насколько мог бы быть.

Сдерживание темпов вполне оправдает эти издержки; никакое конкурентное давление со стороны США не может служить оправданием безрассудства или позволить возможностям опередить согласование и мониторинг.

Сэм Альтман, OpenAI

В минувшие выходные генеральный директор Anthropic Дарио Амодеи, бывший генеральный директор Deepmind Демис Хассабис, генеральный директор Microsoft Сатья Наделла и Илон Маск поддержали более контролируемое развитие ИИ. Согласно информации The Information, OpenAI, Anthropic и Google уже несколько месяцев обсуждают саморегулирование через независимый надзорный орган. Небольшие игроки, такие как Cohere, опасаются, что это может превратиться в картель.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать статьи без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и возможность комментировать материалы.