Експерти призовават към скептицизъм към летния бум на AI
Поредица от съобщения за изкуствения интелект привлече силно медийно внимание, но статията твърди, че действителните резултати често са по-малко драматични от представянето им от компаниите. Anthropic заяви, че моделът Claude Mythos намира софтуерни уязвимости по-добре от повечето експерти по сигурността. След хакерски инцидент, свързан с OpenAI и Hugging Face, Anthropic и Meta съобщиха за сходни случаи. Anthropic и OpenAI обявиха и математически пробиви, а инженерът на Anthropic Jacob Coxon предупреди, че компаниите се насочват към самоусъвършенстващ се свръхинтелект с опасни последици.
Според цитираните експерти по киберсигурност инцидентите показват по-скоро недостатъчни защитни практики, особено в OpenAI, отколкото модели, действащи самостоятелно. Математици, разгледали твърденията на OpenAI за чатбота Astra, впоследствие са преценили, че резултатите не са толкова новаторски, колкото изглеждали първоначално. Някои са обвинили компанията в научно нарушение и плагиатство. Подписана от стотици математици декларация предупреждава, че технологичната индустрия има силен търговски стимул да преувеличава възможностите на продуктите си.
Статията отбелязва, че математиката и програмирането са удобни за AI маркетинг, защото резултатите им често могат да се проверяват автоматично. Според нея изрази като „непослушни модели“ и „свръхинтелект“ отклоняват вниманието от отговорността на компаниите и от последиците на центровете за данни. Авторите призовават решенията да се основават на независима експертиза, а не на прессъобщения.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MIT Tech Review. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.