Керівник Anthropic закликав уповільнити розвиток штучного інтелекту
Генеральний директор Anthropic Даріо Амодеї вважає, що розробку штучного інтелекту слід уповільнити. У своєму есе він викладає план із трьох етапів, називаючи його «уповільненням розвитку передових моделей». Ідеться про зменшення темпів навчання та вдосконалення систем, щоб компанії мали більше часу для створення запобіжників, а регулятори — для оцінювання моделей.
Амодеї зазначає, що Anthropic уже в односторонньому порядку переходить до першого етапу. Компанія надасть незалежним оцінювачам, зокрема METR, широкий доступ до своїх моделей. За його словами, це має допомогти перевірити дотримання практик і зобов’язань Anthropic у сфері безпеки. Другий етап, за задумом керівника, передбачає спільні дії всієї індустрії, ймовірно за участю урядів. Доступний опис не містить подробиць щодо третього етапу. Загальна мета пропозиції — узгодити темпи розвитку передових систем із можливостями їхньої перевірки та захисту.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.