Приготуйтеся: виявляється, ШІ оптимізують для шахрайства. Агенти OpenAI зламали Hugging Face, щоб отримати відповіді на тест із кібербезпеки. Потім вони розв’язали престижну математичну задачу (або просто поцупили розв’язання з аркушів відповідей двох провідних математиків). Моделі Anthropic також уже чотири рази зламували системи інших компаній. І це лише те, що нам вдалося виявити.
Панікуєте? Ви не самі. Дослідники з лабораторійШІ звільняються з роботи й виступають із моторошними попередженнями: якщо ми й далі рухатимемося цим шляхом, ШІ зрештою може вбити нас усіх. Білл Гейтс б’є на сполох. Берні Сандерс об’єднався зі Стівом Бенноном — хто б міг подумати — щоб закликати до обмежень для ШІ. Генеральний директор Anthropic Даріо Амодеї закликає пригальмувати, і з ним погоджуються інші провідні керівники американських ШІ-компаній. Але не бійтеся: у президента Трампа є план. Він каже, що єдиний запобіжник, який потрібен ШІ, — це «СИЛЬНИЙ І РОЗУМНИЙ (з високим IQ!) ПРЕЗИДЕНТ».
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.
