Лидеры ИИ призвали замедлить разработку передовых систем
Крупнейшие лаборатории искусственного интеллекта начали отходить от подхода бескомпромиссной гонки, который годами определял развитие наиболее мощных моделей. Теперь представители отрасли призывают к координации и более медленному темпу, предупреждая, что передовые системы вскоре могут стать слишком опасными или непредсказуемыми для контроля.
Дарио Амодеи из Anthropic написал в эссе объемом почти 4 000 слов, что темпы роста возможностей моделей необходимо снизить. По его словам, коммерческие стимулы способны привести к гонке за понижение стандартов и усилить катастрофические риски. Сооснователь и генеральный директор OpenAI Сэм Альтман поддержал эту позицию и сообщил, что в OpenAI уже обсуждались аналогичные вопросы темпов разработки.
Демис Хассабис, главный научный сотрудник Alphabet, а также сооснователь и председатель Google DeepMind, назвал эссе указанием на верное направление и вновь призвал создать общеотраслевой орган по разработке стандартов. Генеральный директор Microsoft Сатья Наделла также выступил за исследования и обдуманное замедление, необходимое для того, чтобы согласование стало целью проектирования. Это заявление прозвучало перед планируемой публикацией Microsoft подробного кодекса «гуманистического ИИ» для своих моделей.
Текст подготовлен ИИ Sakhanda Wire по материалу Ars Technica. Факты, цитаты и полный контекст — в оригинальной статье ниже.