Колишній співробітник DeepMind розповів про обмеження розмов про ризики ШІ
Вішал Майні, який працював у команді DeepMind з комунікацій і питань політики у 2018–2022 роках, заявив, що лабораторія свого часу забороняла публічно обговорювати можливість вимирання людства через штучний інтелект. За його словами, нікому й на жодному рівні організації не дозволяли зовнішні висловлювання про такий ризик. Дослідників навчали називати подібні побоювання алармізмом, порівнювати їх із фільмами на кшталт «Термінатора» та переводити увагу на позитивне застосування ШІ у сфері охорони здоров’я або клімату.
Майні також стверджує, що всередині DeepMind знали про невирішеність проблеми узгодження ШІ з людськими цілями, а людей, які працювали над нею, було надто мало. Після кількох місяців заперечень лабораторія послабила правило. Матеріали про безпеку дозволили публікувати за умови позитивного подання; серед прикладів Майні називає допис у блозі, де ризик вимирання описували в доброзичливішій формі.
На думку Майні, розрив між внутрішнім розумінням і публічними повідомленнями скорочується, бо нові докази дедалі важче відкидати. Його розповідь з’явилася на тлі публічних попереджень дослідників з безпеки ШІ про моделі, здатні сприяти небезпечним діям, і системи, що можуть вийти з-під людського контролю.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.