VisionQuest — вот что происходит, когда ИИ действительно выходит из-под контроля

Эти инциденты и предупреждения исследователей ИИ о том, что эта технология может «уничтожить всех людей» к концу десятилетия, в последнее время сделали дискурс вокруг ИИ явно сосредоточенным на катастрофах. В сообществе специалистов по безопасности ИИ существует немало обеспокоенности необходимостью более строгого контроля над развитием этой технологии, а ряд компаний призвал всю отрасль замедлить темпы разработки. Хотя мы уже увидели, как эти инструменты действительно могут привести к разрушительным последствиям в реальном мире, большая часть недавних новостей об ИИ отдавала катастрофизмом, от которого компании получают выгоду, поскольку он заставляет их продукты казаться мощными. Похоже, похожая мотивация побуждает такие компании в сфере ИИ, как Anthropic, призывать людей-пользователей помнить о «благополучии моделей». Нам говорят, что генеративный ИИ одновременно представляет собой пугающую угрозу и своего рода сущность, заслуживающую уважения, поскольку, возможно, обладает сознанием, а тем временем люди, создающие эти инструменты, становятся одними из самых богатых и влиятельных людей на планете.