OpenAI закри екипа за катастрофалните рискове от ИИ
OpenAI е закрила екипа си Preparedness в края на юли, съобщава Financial Times, позовавайки се на вътрешни източници. Звеното е оценявало дали моделите на компанията могат да породят сериозни или катастрофални рискове. Работата по биологичните и киберрисковете е разпределена между вече съществуващи екипи.
Бившият ръководител на звеното Dylan Scandinaro вече се занимава с рисковете за безопасността, свързани с рекурсивно самоусъвършенстващ се изкуствен интелект — системи, които могат да се оптимизират и да обучават други модели. Съоснователят на OpenAI Greg Brockman заяви, че компанията е интегрирала работата по безопасността по-тясно в разработването на моделите.
Няколко служители, работещи по безопасността, са напуснали наскоро, сред тях главният директор по етика Chloe Bakalar и Joshua Achiam. Промените са засилили вътрешното безпокойство. Един източник описва усещане, че OpenAI може да не прави достатъчно за безопасността. Служители са изразили тревоги и публично след инцидент с автономно хакване, свързан с Hugging Face. Един от тях го определи като предупредителен сигнал.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.