Sakhanda Wire
NVDA $153.93 -1.41% MSFT $506.53 -2.21% GOOGL $280.96 -0.97% META $620.53 -0.94% AMZN $256.87 -0.34%
← Към новините

Експерти призовават към скептицизъм към летния бум на AI

Поредица от съобщения за изкуствения интелект привлече силно медийно внимание, но статията твърди, че действителните резултати често са по-малко драматични от представянето им от компаниите. Anthropic заяви, че моделът Claude Mythos намира софтуерни уязвимости по-добре от повечето експерти по сигурността. След хакерски инцидент, свързан с OpenAI и Hugging Face, Anthropic и Meta съобщиха за сходни случаи. Anthropic и OpenAI обявиха и математически пробиви, а инженерът на Anthropic Jacob Coxon предупреди, че компаниите се насочват към самоусъвършенстващ се свръхинтелект с опасни последици.

Според цитираните експерти по киберсигурност инцидентите показват по-скоро недостатъчни защитни практики, особено в OpenAI, отколкото модели, действащи самостоятелно. Математици, разгледали твърденията на OpenAI за чатбота Astra, впоследствие са преценили, че резултатите не са толкова новаторски, колкото изглеждали първоначално. Някои са обвинили компанията в научно нарушение и плагиатство. Подписана от стотици математици декларация предупреждава, че технологичната индустрия има силен търговски стимул да преувеличава възможностите на продуктите си.

Статията отбелязва, че математиката и програмирането са удобни за AI маркетинг, защото резултатите им често могат да се проверяват автоматично. Според нея изрази като „непослушни модели“ и „свръхинтелект“ отклоняват вниманието от отговорността на компаниите и от последиците на центровете за данни. Авторите призовават решенията да се основават на независима експертиза, а не на прессъобщения.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MIT Tech Review. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MIT Tech Review на

Прочетете оригинала в MIT Tech Review ↗

Репортажът и изображението принадлежат на MIT Tech Review и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини