Sakhanda Wire
NVDA $152.56 -2.29% MSFT $505.79 -2.36% GOOGL $279.70 -1.42% META $618.14 -1.32% AMZN $256.03 -0.67%
← К новостям

Глава Anthropic предложил три способа замедлить развитие ИИ

Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта. По его словам, на более осторожный подход повлияли взлом OpenAI-HuggingFace и резко ускорившееся в последние месяцы развитие ИИ, включая растущую способность систем создавать следующее поколение технологий. Амодеи считает, что прогресс всё равно будет быстрым, но выигранное время следует направить на повышение безопасности.

Первое предложение — разместить внутри ИИ-компаний независимых оценщиков из организаций вроде METR. Они должны получить доступ, в целом сопоставимый с доступом внутренних команд оценки рисков, проверять выполнение обязательств по безопасности и темпам разработки, а также следить за сообщением об инцидентах. Anthropic заявила, что в одностороннем порядке берет на себя такое обязательство и призывает правительства потребовать того же от других разработчиков передовых моделей.

Амодеи также предложил ведущим компаниям демократических стран согласовать общие стандарты безопасности и ограничения на неконтролируемое ускорение прогресса. По его мнению, правительство США могло бы посредничать в таких обсуждениях и предоставить узкое антитрестовское исключение. Ограничения на продажу мощных чипов и оборудования китайским компаниям, а также борьба с дистилляцией моделей, по его оценке, способны заметно увеличить отрыв США от Китая за 3–5 лет. Третья мера — глобальная координация, включая ограниченное сотрудничество с Китаем для запрета явно опасных применений, например производства биологического оружия с помощью ИИ. Критики усомнились в апокалиптических предупреждениях и в том, не принесут ли предложения пользу прежде всего крупнейшим компаниям. Амодеи ответил, что ИИ может существенно повысить качество жизни при ответственном развитии.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости