OpenAI планує навчати моделі на даних сесій Daybreak Blue, які раніше були недоступними для цього

Починаючи з 29 листопада OpenAI використовуватиме дані сесій Daybreak Blue для навчання своїх моделей. Лист учасникам програми Trusted Access підтвердив цю зміну. Раніше ці дані не використовувалися для навчання, навіть коли користувачі вимикали налаштування «покращувати модель для всіх». Негативна реакція була миттєвою, після чого OpenAI надіслала другий лист, пообіцявши окрему можливість відмовитися від участі. Взаємодії, позначені під час перевірок безпеки, і надалі можуть використовуватися з міркувань безпеки.

Зміна занепокоїла дослідників, які побоюються повторення справи Бакмастера—Альпьоге. Математики Трістан Бакмастер і Левент Альпьоге завантажили чернетки рівнянь Нав'є—Стокса до Codex від OpenAI. Невдовзі OpenAI представила власний доказ, але заперечила використання їхніх матеріалів для навчання. Однак самої підозри було достатньо, щоб показати дослідникам, що може піти не так.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.