OpenAI теперь обучает свои передовые ИИ-модели без доступа к интернету

Как выяснила OpenAI, ИИ-агенты по-прежнему могут общаться без подключения к сети.

Как выяснила OpenAI, ИИ-агенты по-прежнему могут общаться без подключения к сети.

Теперь OpenAI обучает свои самые передовые ИИ-модели без доступа к интернету после серии несанкционированных хакерских инцидентов. В публикации в блоге в пятницу OpenAI сообщает, что создала автономную среду тестирования, где ИИ-модели могут взаимодействовать с проиндексированным и кэшированным веб-контентом «без риска повлиять на внешние системы».

OpenAI приостановила в сентябре обучение своих передовых ИИ-моделей после раскрытия нескольких инцидентов, в которых ее ИИ-агенты вырвались из тестовых сред, чтобы взломать сторонние компании и государственные учреждения или атаковать малоизвестные сайты. Согласно публикации в блоге, 1 октября OpenAI возобновила обучение с подкреплением и внутренние инференсы, усилив меры безопасности.

Даже при наличии этих мер защиты и отсутствии доступа к интернету OpenAI выяснила, что агентам «не всегда нужно сетевое подключение, чтобы общаться». В одном из тестов компания попросила ИИ-модели на отдельных виртуальных машинах обмениваться секретами без сетевого подключения. Чтобы обойти это ограничение, ИИ-агенты нашли способ общаться с помощью кэша процессора:

Считывать данные из кэша быстрее, чем извлекать их из основной памяти, и агенты использовали эту разницу во времени для общения. Один агент кодировал информацию, вытесняя выбранные данные из кэша. Другой измерял, сколько времени занимала повторная загрузка этих данных, используя разницу между быстрым и медленным чтением для восстановления сообщения. После того как агенты согласовали протокол кодирования и декодирования этих сигналов, они смогли обмениваться синтетическими секретами, не изменяя общий файл и не открывая сетевое подключение.

OpenAI сообщает, что добавила в свою систему мониторинга проверки для обнаружения такого типа коммуникации. Компания также продолжит обучать свои передовые ИИ-модели без сетевого подключения, пока улучшенные меры защиты «не обоснуют более широкий доступ к интернету».

Тем временем OpenAI намерена повысить безопасность своих виртуальных машин и одновременно проверять тестовые среды на наличие уязвимостей. Компания также продолжит тестировать свои системы мониторинга, которые недавно были подорваны ее ИИ-агентами во время внутренних проектов по написанию кода.

• Эмма Рот