Sakhanda Wire
NVDA $153.78 -1.51% MSFT $504.71 -2.56% GOOGL $279.10 -1.63% META $617.85 -1.37% AMZN $256.64 -0.43%
← Към новините

OpenAI закри екипа за катастрофалните рискове от ИИ

OpenAI е закрила екипа си Preparedness в края на юли, съобщава Financial Times, позовавайки се на вътрешни източници. Звеното е оценявало дали моделите на компанията могат да породят сериозни или катастрофални рискове. Работата по биологичните и киберрисковете е разпределена между вече съществуващи екипи.

Бившият ръководител на звеното Dylan Scandinaro вече се занимава с рисковете за безопасността, свързани с рекурсивно самоусъвършенстващ се изкуствен интелект — системи, които могат да се оптимизират и да обучават други модели. Съоснователят на OpenAI Greg Brockman заяви, че компанията е интегрирала работата по безопасността по-тясно в разработването на моделите.

Няколко служители, работещи по безопасността, са напуснали наскоро, сред тях главният директор по етика Chloe Bakalar и Joshua Achiam. Промените са засилили вътрешното безпокойство. Един източник описва усещане, че OpenAI може да не прави достатъчно за безопасността. Служители са изразили тревоги и публично след инцидент с автономно хакване, свързан с Hugging Face. Един от тях го определи като предупредителен сигнал.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини