Експерти закликають скептично ставитися до літнього ажіотажу навколо ШІ
Нова хвиля заяв про штучний інтелект спричинила широке висвітлення в медіа, однак стаття стверджує, що фактичні результати часто менш вражають, ніж їхні презентації компаніями. Anthropic заявила, що модель Claude Mythos краще за більшість фахівців із безпеки знаходить уразливості програмного забезпечення. Після інциденту зі зламом, пов’язаного з OpenAI та Hugging Face, Anthropic і Meta повідомили про подібні випадки. Anthropic і OpenAI також оголосили про математичні прориви, а інженер Anthropic Jacob Coxon попередив, що компанії рухаються до самовдосконалюваного надінтелекту з небезпечними наслідками.
За словами наведених у статті експертів із кібербезпеки, ці інциденти свідчать радше про недбалість і недотримання базових практик захисту, особливо в OpenAI, ніж про самостійні дії моделей. Математики, які перевірили заяви OpenAI про чат-бот Astra, згодом вирішили, що результати були не такими новаторськими, як здавалося спочатку. Деякі з них звинуватили компанію в наукових порушеннях і плагіаті. У заяві, підписаній сотнями математиків, йдеться про сильний комерційний стимул індустрії перебільшувати можливості продуктів.
Стаття зазначає, що математика й програмування зручні для просування ШІ, оскільки їхні результати часто можна автоматично перевіряти. На думку авторів, терміни на кшталт «некеровані моделі» та «надінтелект» відволікають від відповідальності компаній і наслідків роботи дата-центрів. Вони закликають політиків та громадськість спиратися на незалежну експертизу й не ухвалювати рішення під тиском поспіху.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MIT Tech Review. Факти, цитати та повний контекст — в оригінальній статті нижче.