Лидеры ИИ хотят притормозить после лет безудержной гонки
На протяжении нескольких лет ведущие лаборатории, занимающиеся передовым ИИ, все действовали так, будто участвуют в жесткой гонке, где победитель получает все, стремясь получить контроль над машинным сверхинтеллектом, способным изменить мир (или, по крайней мере, над искусственным общим интеллектом, способным изменить рынок) на финише. В эти выходные вся отрасль в целом начала стремительно отходить от такой позиции, призывая координировать усилия по замедлению разработки передового ИИ, который, по их словам, вскоре может оказаться слишком опасным и непредсказуемым, чтобы его можно было контролировать.
Дарио Амодеи из Anthropic оказался в авангарде этой перемены в риторике, заявив в эссе объемом почти 4000 слов, опубликованном в эти выходные, что «мы должны замедлить темпы, с которыми совершенствуются возможности моделей ИИ», чтобы избежать «гонки ко дну, подстегиваемой коммерческими стимулами, [которая] может усугубить [катастрофические] риски».
В течение нескольких часов другие лидеры ИИ-отрасли подхватили тот же призыв. Соучредитель и генеральный директор OpenAI Сэм Альтман опубликовал в соцсетях сообщение о своем согласии и сказал, что в OpenAI также обсуждались аналогичные вопросы о темпах разработки. Главный научный сотрудник Alphabet, а также соучредитель и председатель Google DeepMind Демис Хассабис заявил, что эссе Амодеи «указывает на правильный путь вперед», и вновь призвал создать общеотраслевой орган по разработке стандартов. Генеральный директор Microsoft Сатья Наделла написал, что компания «приветствует исследования, сосредоточенность и обдуманный темп, необходимые для того, чтобы согласование стало правильной целью проектирования», накануне публикации объемного свода правил «гуманистического ИИ» для своих моделей.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.