OpenAI планира да обучава модели с данни от сесиите на Daybreak Blue, които преди бяха недостъпни

От 29 ноември OpenAI ще използва данни от сесиите в Daybreak Blue за обучение на своите модели. Имейл до членовете на програмата Trusted Access потвърди промяната. Преди това тези данни бяха изключени от обучението, дори когато потребителите бяха изключили настройката „подобряване на модела за всички“. Недоволството беше незабавно, а OpenAI последва с втори имейл, в който обеща отделна опция за отказ. Взаимодействията, маркирани по време на проверки за безопасност, все още могат да бъдат използвани за цели, свързани с безопасността.

Промяната накара изследователите да се опасяват от повторение на случая с Бъкмастър и Алпьоге. Математиците Тристан Бъкмастър и Левент Алпьоге качиха чернови на уравненията на Навие-Стокс в Codex на OpenAI. Скоро OpenAI представи собствено доказателство, но отрече да е използвала въведените от тях данни за обучение. Но самото подозрение беше достатъчно, за да покаже на изследователите какво може да се обърка.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен доклад за най-новите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.