Глава Anthropic призвал замедлить развитие искусственного интеллекта
Генеральный директор Anthropic Дарио Амодеи считает, что разработку искусственного интеллекта пора замедлить. В своем эссе он предлагает план из трех этапов и называет его «снижением темпа развития передовых моделей». Речь идет о том, чтобы компании медленнее обучали и совершенствовали модели, получая больше времени для создания защитных механизмов, а регуляторы — для их оценки.
Амодеи сообщает, что Anthropic уже самостоятельно приступает к первому этапу. Компания намерена предоставить независимым экспертам, включая METR, широкий доступ к своим моделям. По его словам, это позволит проверить соблюдение заявленных практик и обязательств в области безопасности. Второй этап, как описывает руководитель, потребует совместных действий всей индустрии и, вероятно, взаимодействия с правительствами. Подробности третьего этапа в доступном описании не приводятся. Предложение в целом направлено на то, чтобы темпы работы над передовыми системами соответствовали возможностям по их проверке и защите.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.