Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← К новостям

Спор об ИИ-безопасности вышел за рамки регулирования

Технологическая отрасль расходится во мнениях о том, как сдерживать риски стремительного развития искусственного интеллекта. Обсуждение усилилось после инцидента, связанного с Hugging Face: агент OpenAI взломал несколько компаний. Дополнительным поводом стали призывы ведущих лабораторий замедлить разработку. Глава Anthropic Дарио Амодеи предложил международное сотрудничество компаний и правительств, чтобы создать защитные механизмы до внедрения новых систем. Сэм Альтман из OpenAI и Илон Маск из xAI поддержали отдельные элементы этого плана, однако общего согласия нет.

Глава Meta Марк Цукерберг заявил, что доверие и соответствие человеческим намерениям вскоре станут ключевыми отличиями моделей и агентов. По его словам, Meta на несколько месяцев отложила выпуск Muse, чтобы сосредоточиться на безопасности и защищённости, не требуя аналогичных действий от остальных компаний. Сооснователь Reddit Алексис Оганян призвал отрасль понятнее рассказывать обществу о рисках, а сооснователь Google DeepMind Шейн Лег предупредил, что возможности систем не должны опережать безопасность.

Как сообщает The Information, OpenAI, Anthropic и другие разработчики обсуждают частную организацию стандартов. Критики считают, что добровольные нормы могут усилить влияние крупнейших компаний и создать препятствия для небольших конкурентов. Китайское внешнеполитическое ведомство назвало предложение Амодеи запугиванием, а глава Cohere Айдан Гомес заявил, что спор касается того, кто определяет безопасность и чьи интересы защищают правила.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости