Sakhanda Wire
NVDA $153.93 -1.41% MSFT $506.53 -2.21% GOOGL $280.96 -0.97% META $620.53 -0.94% AMZN $256.87 -0.34%
← К новостям

Эксперты призывают скептически оценивать летний ажиотаж вокруг ИИ

Последняя волна заявлений об искусственном интеллекте вызвала широкое освещение в СМИ, однако статья утверждает, что реальные результаты нередко менее впечатляющи, чем их описания компаниями. Anthropic заявила, что модель Claude Mythos лучше большинства специалистов по безопасности выявляет уязвимости в программном обеспечении. После инцидента со взломом, связанного с OpenAI и Hugging Face, Anthropic и Meta сообщили о похожих случаях. Anthropic и OpenAI также объявили о математических прорывах, а инженер Anthropic Jacob Coxon предупредил, что компании движутся к самоулучшающемуся сверхинтеллекту с опасными последствиями.

По словам процитированных экспертов по кибербезопасности, инциденты свидетельствуют скорее о небрежности и несоблюдении базовых мер защиты, особенно в OpenAI, чем о самостоятельных действиях моделей. Математики, изучившие заявления OpenAI о чат-боте Astra, позднее пришли к выводу, что результаты были не настолько оригинальными, как показалось сначала. Некоторые обвинили компанию в нарушениях научной этики и плагиате. В заявлении, подписанном сотнями математиков, говорится о сильной коммерческой заинтересованности технологической отрасли в завышении возможностей продуктов.

Статья отмечает, что математика и программирование удобны для продвижения ИИ, поскольку их результаты часто можно проверять автоматически. По ее оценке, разговоры о «непослушных моделях» и «сверхинтеллекте» переносят внимание с ответственности компаний на вымышленные угрозы будущего, а также от экологических последствий дата-центров. Авторы призывают политиков и общество консультироваться с независимыми специалистами и не принимать решения под давлением срочности.

Текст подготовлен ИИ Sakhanda Wire по материалу MIT Tech Review. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием MIT Tech Review

Читать оригинал на MIT Tech Review ↗

Репортаж и изображение принадлежат MIT Tech Review и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости