Колишній PR-працівник DeepMind: лабораторія колись забороняла публічно обговорювати ризик зникнення людства через ШІ

Не дивно, але все ж показово. Vishal Maini, який працював у команді DeepMind з комунікацій та політики з 2018 до 2022 року, каже, що «зовнішня комунікація щодо можливості вимирання людства не дозволялася нікому й на жодному рівні організації». Дослідників навчали відкидати ці ризики як алармізм, порівнювати їх із «фільмами на кшталт “Термінатора”» і натомість переводити розмову на позитивні застосування у сфері охорони здоров’я чи клімату.

Усередині компанії команда знала, що проблему узгодження ШІ не розв’язано і що «над цією проблемою працює надто мало людей». Після кількох місяців наполегливих заперечень DeepMind послабила це правило. Контент про безпеку, поданий у позитивному ключі, отримав зелене світло, зокрема допис у блозі, у якому ризик вимирання описувався дружньою мовою. Maini каже, що розрив між внутрішнім розумінням і публічними повідомленнями скорочується, «бо докази тепер важче відкидати».

Його розповідь з’явилася на тлі того, що дедалі більше дослідників безпеки ШІ публічно висловлюються, попереджаючи про незахищені моделі, які можуть уможливити небезпечні дії, або про передові системи, що можуть вийти з-під контролю людини. Серед тих, хто підвищує голос, є й дослідники безпосередньо з DeepMind.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.