OpenAI предлагает совместно замедлить развитие ИИ и выносит вопрос в Конгресс

По словам нескольких источников, знакомых с ситуацией, OpenAI хочет узнать у членов Конгресса, будет ли законным замедление разработки ИИ во всей отрасли. WIRED сообщает, что опасения связаны с тем, что координация действий с другими лабораториями ИИ в вопросах безопасности может нарушать антимонопольное законодательство США, в частности Закон Шермана о защите конкуренции.

По данным Bloomberg, выступая перед сотрудниками на этой неделе, генеральный директор Сэм Альтман заявил, что OpenAI может замедлить темпы разработки, возможно, вместе с другими лабораториями, хотя некоторые из них, вероятно, не поддержат эту инициативу. Главный научный сотрудник Якуб Пахоцкий в записи в блоге призвал скоординировать замедление до установления общих стандартов безопасности. Поводом стала серия инцидентов, связанных с безопасностью, в том числе взлом агентами OpenAI стороннего веб-сайта.

В последние дни основное внимание СМИ также привлекли обвинения бывшего сотрудника OpenAI и Anthropic в том, что компании в сфере ИИ ставят на кон человечество и его выживание. Еще в июле более 1 000 сотрудников крупных компаний в сфере ИИ подписали петицию с призывом создать механизм для замедления разработки.

Двухпартийный законопроект, представленный в июле под названием «Закон о сотрудничестве в сфере противодействия угрозам и рискам безопасности», позволил бы лабораториям совместно работать над вопросами безопасности. Сейчас он находится на рассмотрении Судебного комитета.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный годовой отчет о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.