Лідери у сфері ШІ хочуть пригальмувати після років безрозсудної гонитви
Уже багато років провідні лабораторії фронтирного ШІ поводяться так, ніби вони беруть участь у тотальній гонці, у якій переможець забирає все, а на фініші — контроль над машинним надінтелектом, здатним змінити світ (або принаймні над штучним загальним інтелектом, здатним змінити ринок). Цими вихідними індустрія загалом почала швидко відходити від такої позиції, закликаючи до координації зусиль для уповільнення розробки фронтирного ШІ, який, за їхніми словами, незабаром може стати надто небезпечним і непередбачуваним, щоб його можна було контролювати.
Даріо Амодеї з Anthropic був одним із перших, хто змінив тон, заявивши у майже 4000-слівному есе цього вихідного, що «ми повинні сповільнити темпи вдосконалення можливостей моделей ШІ», щоб уникнути «гонки на пониження, яку стимулюють комерційні інтереси [і яка] може посилити [катастрофічні] ризики».
Упродовж кількох годин інші лідери ШІ підхопили цей заклик. Співзасновник і генеральний директор OpenAI Сем Альтман опублікував у соцмережах свою згоду та повідомив, що в OpenAI точилися подібні дискусії щодо темпів розробки. Головний науковець Alphabet, співзасновник і голова Google DeepMind Деміс Хассабіс заявив, що есе Амодеї «вказує на правильний шлях уперед», і поновив свій нещодавній заклик до створення загальноіндустріального органу зі стандартизації. Генеральний директор Microsoft Сатья Наделла написав, що компанія «вітає дослідження, зосередженість і продуманий темп, необхідні для правильного узгодження як мети розробки», напередодні випуску розлогого кодексу поведінки «гуманістичного ШІ» для своїх моделей.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.