OpenAI планирует обучать модели на данных сессий Daybreak Blue, ранее недоступных для этого

С 29 ноября OpenAI будет использовать данные сессий Daybreak Blue для обучения своих моделей. Письмо участникам программы Trusted Access подтвердило это изменение. Ранее эти данные не использовались для обучения, даже если у пользователей была отключена настройка «улучшать модель для всех». Критика последовала незамедлительно, после чего OpenAI отправила второе письмо, пообещав отдельную возможность отказаться от использования данных. Взаимодействия, отмеченные в ходе проверок безопасности, по-прежнему могут использоваться в целях обеспечения безопасности.

Изменение обеспокоило исследователей, опасающихся повторения случая Бакмастера — Альпёге. Математики Тристан Бакмастер и Левент Альпёге загрузили черновики уравнений Навье — Стокса в Codex от OpenAI. Вскоре OpenAI представила собственное доказательство, но отрицала, что использовала их данные для обучения. Однако одного подозрения оказалось достаточно, чтобы показать исследователям, что может пойти не так.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.