Глава Anthropic предложил три способа замедлить развитие ИИ
Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта. По его словам, на более осторожный подход повлияли взлом OpenAI-HuggingFace и резко ускорившееся в последние месяцы развитие ИИ, включая растущую способность систем создавать следующее поколение технологий. Амодеи считает, что прогресс всё равно будет быстрым, но выигранное время следует направить на повышение безопасности.
Первое предложение — разместить внутри ИИ-компаний независимых оценщиков из организаций вроде METR. Они должны получить доступ, в целом сопоставимый с доступом внутренних команд оценки рисков, проверять выполнение обязательств по безопасности и темпам разработки, а также следить за сообщением об инцидентах. Anthropic заявила, что в одностороннем порядке берет на себя такое обязательство и призывает правительства потребовать того же от других разработчиков передовых моделей.
Амодеи также предложил ведущим компаниям демократических стран согласовать общие стандарты безопасности и ограничения на неконтролируемое ускорение прогресса. По его мнению, правительство США могло бы посредничать в таких обсуждениях и предоставить узкое антитрестовское исключение. Ограничения на продажу мощных чипов и оборудования китайским компаниям, а также борьба с дистилляцией моделей, по его оценке, способны заметно увеличить отрыв США от Китая за 3–5 лет. Третья мера — глобальная координация, включая ограниченное сотрудничество с Китаем для запрета явно опасных применений, например производства биологического оружия с помощью ИИ. Критики усомнились в апокалиптических предупреждениях и в том, не принесут ли предложения пользу прежде всего крупнейшим компаниям. Амодеи ответил, что ИИ может существенно повысить качество жизни при ответственном развитии.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.