Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← До новин

42 математики попередили про нагальні екзистенційні ризики ШІ

Сорок два члени Лондонського королівського товариства підписали відкритого листа із закликом до президента товариства попросити Британську академію наук попередити уряд і медіа про екзистенційні ризики передового штучного інтелекту. Серед підписантів — лауреати медалі Філдса Мартін Хайрер, Петер Шольце та Венделін Вернер. Жоден із них не пов’язаний із компаніями у сфері ШІ.

У листі зазначено, що провідні моделі OpenAI та Anthropic протягом трьох місяців розв’язали відкриті дослідницькі задачі, зокрема одну із семи задач тисячоліття. Автори допускають, що невдовзі буде розв’язано ще одну. За їхньою оцінкою, моделі вже працюють на рівні провідних математиків-людей у багатьох галузях і за подібний короткий період можуть набути надлюдських здібностей.

Математики вважають, що такі темпи розвитку можуть поширитися на кібербезпеку, керування автономною зброєю, створення біологічних і хімічних агентів та цілеспрямовану дезінформацію. Вони заявляють, що оцінки лабораторій ШІ про екзистенційний ризик понад 10 відсотків не можна відкидати як перебільшення. На їхню думку, до моменту широкого усвідомлення небезпеки діяти може бути вже запізно.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини