42 провідні математики попереджають, що екзистенційний ризик від ШІ є реальним і нагальним

Невже це справжня версія «Не дивись угору»? Провідні математики попереджають про екзистенційні ризики, пов’язані з передовим ШІ. У відкритому листі до президента Королівського товариства 42 члени математичної спільноти закликають Британську академію наук попередити уряд і медіа. Серед підписантів — лауреати медалі Філдса Мартін Гайрер, Петер Шольце та Венделін Вернер. Жоден із них не пов’язаний із компаніями, що займаються ШІ.

Протягом трьох місяців провідні моделі від OpenAI та Anthropic розв’язали відкриті дослідницькі задачі, зокрема одну із семи проблем тисячоліттяs (примітка: друга, ймовірно, буде розв’язана найближчим часом). Згідно з листом, ці моделі вже працюють «на рівні найкращих математиків-людей у багатьох галузях» і мають «значні шанси набути надлюдських здібностей у подібні короткі строки».

Втім, саме вплив на математику не спонукав до написання листа. Група попереджає, що «ми маємо припускати, що темпи змін їхніх можливостей будуть подібними» у таких сферах, як кібербезпека, управління автономною зброєю, розробка біологічних і хімічних агентів та цільова дезінформація. Оцінки лабораторій ШІ, згідно з якими екзистенційний ризик перевищує десять відсотків, «не можна відкидати як “розкручування ажіотажу”», пишуть вони. «До того часу, коли ситуація стане очевидною для широкої громадськості, діяти може бути вже надто пізно».

Новини про ШІ без ажіотажу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.