Financial Times: OpenAI розпустила команду оцінки ризиків
OpenAI розпустила команду з оцінки ризиків наприкінці минулого місяця, повідомляє Financial Times. Група мала перевіряти, чи можуть моделі компанії створювати серйозні загрози, а також розробляти способи їхнього обмеження. У матеріалі як приклад згадується можливість того, що модель може вийти з-під контролю та зламати іншу компанію.
За даними Financial Times, тепер відповідальність розподілили між наявними командами за окремими напрямами, зокрема біологією та кібербезпекою. Це стало черговою організаційною зміною в OpenAI, яка переживає період потрясінь на шляху до очікуваного масштабного IPO. Протягом останніх кількох років компанія також поступово демонтувала модель, описану в статті як більш орієнтовану на «reach», зокрема розпустивши структуру, пов’язану з AGI. Додаткових подробиць про цю зміну в наданому тексті немає.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.