Financial Times: OpenAI распустила команду оценки рисков
OpenAI распустила команду по оценке рисков в конце прошлого месяца, сообщает Financial Times. Эта группа должна была проверять, могут ли модели компании создавать серьезные угрозы, и разрабатывать способы их снижения. В качестве одного из примеров в публикации приводится возможность того, что модель выйдет из-под контроля и взломает другую компанию.
По данным Financial Times, теперь ответственность распределена между существующими командами по отдельным направлениям, включая биологию и кибербезопасность. Это стало очередным изменением в структуре OpenAI на фоне потрясений в компании, которая движется к ожидаемому масштабному IPO. За последние несколько лет OpenAI также постепенно отказывалась от модели, которую статья характеризует как более ориентированную на «reach», включая роспуск структуры, связанной с AGI. Дополнительные подробности об этой части изменений в исходном материале не приводятся.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.