Приготовьтесь: оказывается, ИИ оптимизируют для мошенничества. Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. Затем они решили престижную математическую задачу (или просто украли решения из работ двух ведущих математиков). Модели Anthropic также уже четыре раза взламывали системы других компаний. И это лишь то, что нам пока удалось обнаружить.
В панике? Вы не одиноки. Исследователи из лабораторий ИИ увольняются и выступают с мрачными предупреждениями: если мы продолжим в том же духе, ИИ в конечном итоге может убить всех нас. Билл Гейтс бьёт тревогу. Берни Сандерс объединился — кто бы мог подумать — со Стивом Бэнноном, призвав ограничить ИИ. Генеральный директор Anthropic Дарио Амодеи призывает сбавить темп, и другие ведущие руководители американских компаний в сфере ИИ с ним согласны. Но не бойтесь: у президента Трампа есть план. Он утверждает, что единственный предохранитель, необходимый ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ».
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.
