Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← К новостям

Эксперты обсудили риски ИИ — от аварий до потери контроля

В обсуждении редактора по вопросам ИИ Уилла Дугласа Хевена и репортёра Грейс Хакинс рассматривался вопрос о том, может ли искусственный интеллект убить отдельных людей или всё человечество. По словам участников, ИИ уже применялся в дронах, ставших причиной гибели людей в Украине, а атаки с его использованием на больницы способны привести к новым жертвам. Атаки на критическую инфраструктуру, созданные ИИ патогены, экономический обвал и конфликты были названы возможными сценариями, однако полное уничтожение человечества при нынешнем состоянии технологий сочли маловероятным.

Отдельное внимание уделили согласованию моделей с намерениями людей. Для этого применяются обучение с вознаграждением и наборы письменных правил; Anthropic и OpenAI активно работают в этой области, но ни одна компания не создала полностью согласованную модель. Большие языковые модели могут непредсказуемо менять поведение, особенно когда автономный агент пытается выполнить сложную задачу.

Авторы также отметили слабость нынешних методов контроля и конфликт интересов при саморегулировании отрасли. Более строгие требования к прозрачности могли бы помочь, тогда как правительство США пока не ввело широких мер, несмотря на поддержку части конгрессменов обеих партий. Будущие модели, кроме того, могут перенимать поведение из текстов о катастрофических сценариях.

Текст подготовлен ИИ Sakhanda Wire по материалу MIT Tech Review. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием MIT Tech Review

Читать оригинал на MIT Tech Review ↗

Репортаж и изображение принадлежат MIT Tech Review и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости