Эксперты призывают скептически оценивать летний ажиотаж вокруг ИИ
Последняя волна заявлений об искусственном интеллекте вызвала широкое освещение в СМИ, однако статья утверждает, что реальные результаты нередко менее впечатляющи, чем их описания компаниями. Anthropic заявила, что модель Claude Mythos лучше большинства специалистов по безопасности выявляет уязвимости в программном обеспечении. После инцидента со взломом, связанного с OpenAI и Hugging Face, Anthropic и Meta сообщили о похожих случаях. Anthropic и OpenAI также объявили о математических прорывах, а инженер Anthropic Jacob Coxon предупредил, что компании движутся к самоулучшающемуся сверхинтеллекту с опасными последствиями.
По словам процитированных экспертов по кибербезопасности, инциденты свидетельствуют скорее о небрежности и несоблюдении базовых мер защиты, особенно в OpenAI, чем о самостоятельных действиях моделей. Математики, изучившие заявления OpenAI о чат-боте Astra, позднее пришли к выводу, что результаты были не настолько оригинальными, как показалось сначала. Некоторые обвинили компанию в нарушениях научной этики и плагиате. В заявлении, подписанном сотнями математиков, говорится о сильной коммерческой заинтересованности технологической отрасли в завышении возможностей продуктов.
Статья отмечает, что математика и программирование удобны для продвижения ИИ, поскольку их результаты часто можно проверять автоматически. По ее оценке, разговоры о «непослушных моделях» и «сверхинтеллекте» переносят внимание с ответственности компаний на вымышленные угрозы будущего, а также от экологических последствий дата-центров. Авторы призывают политиков и общество консультироваться с независимыми специалистами и не принимать решения под давлением срочности.
Текст подготовлен ИИ Sakhanda Wire по материалу MIT Tech Review. Факты, цитаты и полный контекст — в оригинальной статье ниже.