Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← До новин

Колишній співробітник DeepMind розповів про обмеження розмов про ризики ШІ

Вішал Майні, який працював у команді DeepMind з комунікацій і питань політики у 2018–2022 роках, заявив, що лабораторія свого часу забороняла публічно обговорювати можливість вимирання людства через штучний інтелект. За його словами, нікому й на жодному рівні організації не дозволяли зовнішні висловлювання про такий ризик. Дослідників навчали називати подібні побоювання алармізмом, порівнювати їх із фільмами на кшталт «Термінатора» та переводити увагу на позитивне застосування ШІ у сфері охорони здоров’я або клімату.

Майні також стверджує, що всередині DeepMind знали про невирішеність проблеми узгодження ШІ з людськими цілями, а людей, які працювали над нею, було надто мало. Після кількох місяців заперечень лабораторія послабила правило. Матеріали про безпеку дозволили публікувати за умови позитивного подання; серед прикладів Майні називає допис у блозі, де ризик вимирання описували в доброзичливішій формі.

На думку Майні, розрив між внутрішнім розумінням і публічними повідомленнями скорочується, бо нові докази дедалі важче відкидати. Його розповідь з’явилася на тлі публічних попереджень дослідників з безпеки ШІ про моделі, здатні сприяти небезпечним діям, і системи, що можуть вийти з-під людського контролю.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини