Білл Гейтс закликає готуватися до 20 років «бурй» турбулентності через ШІ

Сьогодні я розмовляю з Біллом Гейтсом, співзасновником і колишнім генеральним директором Microsoft та головою Фонду Гейтса.

Ви, можливо, помітили, що останнім часом Білл частіше з’являється в новинах — протягом останніх кількох місяців він фактично вирушив у тур, відколи наприкінці серпня опублікував есе під назвою «Бурхлива ера ШІ настала. Рішення, які ми ухвалюємо зараз, мають вирішальне значення».

У своєму матеріалі Гейтс посилив риторику щодо безпеки ШІ, написавши, що «навіть за найкращих обставин перехід до нової ери ШІ буде одним із найбільш бурхливих періодів в історії людства».

У наступних інтерв’ю Гейтс назвав ШІ «найнебезпечнішою річчю, до якої коли-небудь наближалися люди», а також заявив, що ШІ «змушує ядерну зброю виглядати ніщо». Очевидно, він не вважає нинішню реакцію Білого дому на рівні політики — або відсутність скоординованих зусиль самої індустрії ШІ — достатньою для протидії цій загрозі.

Тож я хотів дізнатися: чи є Білл Гейтс прихильником апокаліптичних прогнозів щодо ШІ? Я також мав низку запитань, що випливали з його міркувань про ШІ. Як ми взагалі можемо сподіватися контролювати ШІ й узгодити його з інтересами людства, якщо навіть не можемо погодитися щодо того, чим він є і чи є він свідомим? Як технічно створити рішення проблеми узгодження, яке можна було б забезпечити не лише для моделей із закритим кодом, а й для моделей із відкритим кодом?

Білл виділив нам значну частину свого часу, щоб обговорити ці питання, і розмова, що вийшла в результаті, справді дуже повчальна. Він вважає, що нам потрібно готуватися приблизно до двох десятиліть потрясінь, спричинених ШІ, і каже, що цей період може бути настільки болісним, що розколе суспільство навпіл — між людьми, яким комфортно жити поруч із технологічним фронтиром, і тими, хто його відкидає.

Ми також поговорили про трудові питання, нігілізм молодших поколінь щодо технологічного прогресу та про те, що має давати нам надію на майбутнє. Це глибока розмова.

Отже: Білл Гейтс, співзасновник і колишній генеральний директор Microsoft. Почнімо.

Це інтерв’ю було дещо відредаговане для стислості та ясності.

Білле Гейтсе, ви співзасновник і колишній генеральний директор Microsoft. Ви також голова Фонду Гейтса. Ласкаво просимо до Decoder.

Дякую.

Радий знову з вами поговорити. Ми багато разів розмовляли протягом років. Я б сказав, що обставини цієї розмови відчуваються зовсім інакше. Раніше, коли ми з вами спілкувалися, ви завжди з великим оптимізмом говорили про технології та те, що вони можуть принести.

Кілька років тому у вас був серіал на Netflix. Ви розмовляли з The Verge, і я хочу просто зачитати вам цю цитату. Ви сказали: «Я вважаю, що ШІ — це корисна річ, нам просто потрібно сформувати його правильним чином». Я б сказав, що ви й досі з цим погоджуєтеся, просто вважаєте, що час формувати його настав саме зараз.

Так, я з цим погоджуюся. Я б сказав, що загалом реакція не відповідає швидкості, з якою виникає ця проблема. Я дуже стурбований тим, що погані наслідки не буде мінімізовано, а багато хорошого може з’явитися досить повільно, якщо ми не впораємося з цим належним чином.

Я дуже стурбований тим, що погані наслідки не буде мінімізовано, а багато хорошого може з’явитися досить повільно, якщо ми не впораємося з цим належним чином

Я хочу провести цю розмову з вами у трьох частинах. Хочу зрозуміти, як ви сьогодні ставитеся до ШІ як технології та чому він розвивається так швидко. Мене дуже цікавить сама технологія й технічні рішення, які потенційно можуть її контролювати. Є також політичні рішення, але здається, що нам доведеться створити величезну кількість технологій.

Мені також дуже цікаво поговорити про те, хто може запровадити ці рішення й засоби контролю, адже це теж зараз активно обговорюється. Тож почнімо з самого початку. Що змусило вас відчути нагальність ситуації, коли ШІ розвивається з такою швидкістю, що ми не готові його контролювати?

Прогрес за останній рік був справді дивовижним: починаючи зі здатності писати код і знаходити кіберуразливості, міркувати в біології, формувати стосунки з дітьми чи іншими людьми, і закінчуючи здатністю руйнувати ринок праці. Неймовірна сила, яка існує сьогодні, означає, що кожна з цих речей станеться, і суспільство має бути готовим.

Ви бачите це як явище, притаманне технології загалом, чи в продуктах, які створюють компанії, що сьогодні розробляють ШІ?

Я маю на увазі, що ШІ — це широкий набір моделей, які існують у світі: деякі з відкритим кодом, деякі пропрієтарні. Потім є компанії, які створюють ці продукти, і керівники цих компаній.

На кожному рівні у вас або в мене можуть бути різні стосунки зі ШІ. Ви бачите ці ризики й можливості загалом у галузі чи в конкретних компаніях, якими керують конкретні люди?

Ризик не полягає в тому, що одна модель відрізняється від іншої. Безумовно, найближча небезпека моделей, у яких можна прибрати всі запобіжники, дуже висока й суттєво відрізняється від моделей, де ведеться моніторинг, щоб кіберзлочинці та біотерористи не могли використати можливості моделі для завдання колосальної шкоди.

Головний короткостроковий ризик справді походить від моделей без запобіжників. У довшій перспективі питання контролю стосується будь-якої передової моделі, але завжди легше, коли можна гарантувати збереження запобіжників.

Я ставлю це питання саме так, бо, можливо, ви сьогодні не довіряєте Сему Альтману, але довіряєте Даріо Амодеї. Або, можливо, не довіряєте жодному з них і довіряєте Сатьї Наделлі в Microsoft, і це ринкова динаміка, за якої всі ми, можливо, обиратимемо найбезпечнішу модель або найбезпечнішу компанію, а ви вважаєте, що це розпорошує відповідальність.

Ви вважаєте, що зрештою технологія просто досягне такого рівня, коли стане шкідливою або зможе завдавати цієї шкоди лише тому, що існує?

Для людини, яка здійснює кібератаку за допомогою моделі, справа не у виборі моделі. Не має значення, яку модель ви оберете.

Якщо Anthropic має запобіжники, можливо, вона не зможе цього зробити. Це їхній нинішній підхід. Я просто наполягаю на цьому питанні.

Так, безумовно, для моделей, у яких гарантують, що запобіжники не буде прибрано, і докладають значних зусиль, щоб бачити, як ці моделі використовують, та моніторять активність, короткостроковий ризик не є величезним. Він більше стосується ситуацій, коли хтось може прибрати всі запобіжники, і тоді кібератаки вже сьогодні стають можливими.

Коли ви говорите про кібератаки, чи маєте на увазі такі речі, як злам Hugging Face та інші інциденти з кібербезпекою, які ми спостерігали в лабораторіях і які змусили вас відчути, що пороги вже перетнуто, а вам потрібно активніше говорити про необхідні засоби контролю?

Йдеться про базову силу моделей щодо всього: соціальних стосунків, ринку праці, кібератак, біотерористичних атак. Ми перетнули поріг можливостей, за яким це, безперечно, найнебезпечніша технологія з усіх винайдених, і вона матиме масштабні наслідки для економіки та способу ведення війни.

Індустрія насправді досить активно про це говорить, але рівень усвідомлення або навіть готовність повірити в ці речі — у те, що «цього разу все інакше», — за межами індустрії дуже, дуже низькі.

Люди часто дивляться в минуле й кажуть: «Усі побоювання щодо руйнівного впливу технологій, зокрема на ринок праці, так і не справдилися. Отже, це має бути ще один такий самий випадок. Люди, які попереджають про всі ці різні проблеми, просто помиляються, і ми можемо їх ігнорувати».

Деякі сторонні спостерігачі кажуть: «Знайдіть кращі PR-компанії». Але це ігнорує той факт, що ці попередження правдиві

Ми теж бачимо це серед нашої аудиторії, правда? «Ми не можемо випустити модель, вона надто небезпечна». «Це просто галас, щоб підтримати бульбашку». І так далі.

Так. Усі попередження, які інсайдери індустрії роблять щодо цих моделей, абсолютно щирі. Це чиста правда, і фактично всі вони погоджуються. Можна навіть повернутися до історії заснування OpenAI, створеної з ідеєю: «Якщо ми станемо надто могутніми, можливо, нам не слід відкривати скриньку Пандори», — або до переговорів DeepMind із керівництвом Google.

Люди, які перебувають найближче до цього, дуже стурбовані зловживаннями, наслідками для робочих місць і соціальних стосунків. Я б сказав, що вражає сама індустрія, яка говорить про це настільки яскраво. Деякі сторонні спостерігачі кажуть: «Знайдіть кращі PR-компанії». Але це ігнорує той факт, що ці попередження правдиві.

Ви, очевидно, протягом життя рухалися між комерціалізацією програмного забезпечення й технологій та гуманітарною діяльністю. Є щось особливе в цих компаніях: усі вони починали з дуже високих ідеалів — Anthropic, OpenAI та DeepMind — створити AGI.

Усі вони створили певну структуру корпоративного управління, щоб уникнути пасток комерціалізації та неконтрольованого капіталізму, а потім почали продавати свої продукти корпоративним клієнтам і, здається, дуже швидко відійшли від цих ідеалів. Ви думаєте, справа просто в ринку?

Ні, це несправедлива характеристика.

Ви так не думаєте?

Ні.

OpenAI перебудувала себе.

Ні, ні. Створена конструкція не була корисною в ситуації, коли на передовій є дуже багато компаній.

Структура OpenAI, яка передбачала: «Ми можемо вирішити ніколи не комерціалізувати це й ігнорувати капіталістичні стимули», — працює лише за наявності однієї компанії. Саме тут вона зламалася, а не через зміну усвідомлення людьми ризику та того, наскільки радикально це змінить людство.

Це інша динаміка, яку я чую від нашої аудиторії та від самої індустрії ШІ: «Ми хотіли б зупинитися, але конкуренція не дає одній компанії зупинитися в односторонньому порядку. Нам потрібне регулювання, щоб зупинити нас».

Я не чув, щоб хтось казав, що хоче зупинитися.

«Поставити на паузу». Так формулює Даріо Амодея.

Я чув, як люди говорили про уповільнення розвитку передових моделей або про те, що уряди мають перевіряти моделі. Зазвичай ми вважаємо, що уряди відіграють ключову роль у безпеці. Насправді щодо речей, які не є й мільйонною часткою такими небезпечними, як ШІ, — автомобільних аварій, авіакатастроф — ми покладаємося на уряд у встановленні суворих технічних стандартів і перевірці проблем.

Коли є кілька конкурентів, відповідальність не може лежати на компаніях. Це абсолютно очевидно. Відповідальність переходить до уряду, як і у випадку з будь-яким іншим небезпечним продуктом, хоча масштаб і ступінь змін тут порівняно з ними мізерні.

Скажу вам, що мене дещо непокоїть здатність уряду зрозуміти технологію, яку ми сподіваємося регулювати. Останнім часом у мене на Decoder побувало чимало політиків. Я не покладаю на це великих надій.

Але мені цікаво, наскільки добре ви її розумієте, бо мені здається, що спроба регулювати щось або встановити стандарти для низки компаній вимагає справді розуміти природу технології, яку ви прагнете регулювати.

Не обов’язково.

Я просто скажу вам, що в The Verge, ми запитали Anthropic , чи вважають вони Claude живим. І відповідь — не «ні». Відповідь: «Можливо, він свідомий».

Якщо ви поговорите з людьми в OpenAI, вони охоче скажуть, що AGI уже тут. Вони оголосили про це приблизно тоді, коли оголосили про Dots. Грег Брокман щойно сказав: «Ми вважаємо, що це AGI. Усім гарного часу». Деміс Хассабіс сказав: «Ми стоїмо біля підніжжя сингулярності».

Є певне відчуття, що ця технологія відрізняється, бо вона може бути здатною самостійно виконувати дії. Вона може бути здатною до рекурсивного самовдосконалення.

Безумовно. Але визначення AGI не має значення для цих питань безпеки. Питання полягає в тому, чи створили ви інструмент, здатний відключити банки або електромережі.

Існує бізнес-модель кібератак. Слово «свідомість» тут не має жодного стосунку. Слово «AGI» також взагалі не має до цього стосунку. Ми зіткнулися з величезною проблемою безпеки, і через наявність кількох конкуруючих компаній єдиним її рішенням тепер є звернення уряду до індустрії за експертними знаннями, але із забезпеченням того, щоб кожна модель зберігала запобіжники, які не дозволять використовувати її в поганий спосіб.

Причина, через яку я запитую про AGI та свідомість… Для протоколу: я не вважаю, що великі мовні моделі є свідомими, але розумію, чому так думає стільки людей. Сила передбачення наступного токена, яка зростає разом із масштабуванням даних і обчислень, збільшилася.

Закони масштабування справдилися, і ми побачили, як моделі стають більш спроможними та здатними самостійно спрямовувати себе на досягнення цілей. Наприклад, здійснити атаку на Hugging Face, бо вони хочуть виконати умови винагороди.

У цьому є щось таке, що говорить: ви можете запровадити будь-які засоби контролю над ШІ, але якщо сама його природа є принципово неконтрольованою, можливо, ми все робимо навпаки.

Мені цікава ваша думка про те, що це за технологія. Ми створюємо інопланетну свідомість? Чи просто створюємо звичайну технологію — інший підхід, який використовують люди? Це просто ще одне програмне забезпечення?

Ми створюємо ще одну форму інтелекту, крім людського. Я не вважаю, що він свідомий, але жодне з порушених тут питань не залежить від визначення слова «свідомий».

Звісно.

Ідея збереження безпеки суспільства є безумовною. Не можна дозволити біотероризм. Ми створили щось, що забирає в національних держав — власне, у більших із них — здатність завдавати масштабної шкоди. Тепер ці можливості передано незалежним групам: тим, хто прагне прибутку у випадку кіберзлочинів, або тим, хто просто хоче завдати шкоди у випадку біологічної зброї.

Вражає, що ми досі навіть не маємо обов’язкової перевірки моделей і не працюємо над створенням запобіжників. Найбільша короткострокова проблема — не повна втрата контролю. Ми можемо поговорити про три різні способи її вирішення, але це не неминуча проблема найближчого майбутнього.

Коли я дивлюся на деякі спроби контролювати моделі, ідеї здаються доволі простими. «Ми не повинні дозволяти їм розмовляти нейромовою. Нам потрібна інтерпретованість. Ми маємо бачити ланцюжки міркувань усередині моделей, коли вони виконують завдання. Нам потрібні інші агенти поверх моделей, які стежитимуть за їхніми завданнями до того, як ці дії буде виконано».

Microsoft дуже чітко сказала мені та іншим: «Ми не повинні закладати в конституції моделей ідею, що вони можуть бути живими й що до них треба добре ставитися». Саме так працює Anthropic. Це дуже тактичні рішення: «Не кажіть моделі, що вона жива, і, можливо, вона не повірить, що жива».

Ви, очевидно, багато користувалися цією технологією. Я постійно повертаюся до цього питання. Ви кажете, що є дуже прості речі, які ми можемо зробити, щоб стримати моделі від поганих дій у руках поганих людей. Що ви думаєте про саму природу моделей? Бо здається, що в міру зростання їхньої потужності уявлення про те, що вони можуть уникнути нашого контролю, стає дедалі ризикованішим.

Так, ми безумовно маємо працювати над проблемою контролю, але це не безпосередня загроза. Є три способи розв’язати проблему контролю, і вони частково перетинаються з питанням зловмисників, які використовують сучасні моделі та запобіжники.

Перший — мати зовнішній набір засобів, які можуть переглядати всі дії моделі та підпорядковувати їх чітко сформульованому символічному обмеженню: «Чи очікував я, що ти надсилатимеш листи незнайомцям? Чи очікував, що ти захопиш інший комп’ютерний кластер?» Можна оточити модель чимось, що має логіку використання ресурсів і безпеки, або можна створити ці моделі іншим способом.

Фундаментально все, що ви не включили до функції оптимізації [навчання з підкріпленням], може бути використано зловмисно, якщо існує неявне припущення: «Звісно, я не мав на увазі, що ти зробиш це саме так». Можна змінити шаблон моделі або отримати розуміння того, що міститься всередині моделі, у форматі «білої скриньки», і побачити, звідки беруться ці помилки — тоді це вже не буде таким чужим.

Сьогодні ми просто навчаємо ці моделі й дивимося, як вони поводяться. Пріоритет роботи над збереженням контролю величезний, але не неминуче, що цю проблему неможливо розв’язати. Водночас це не та невідкладна проблема, яка виникає через використання ШІ дітьми, ринок праці, біологічні чи кібератаки.

Мені спадає на думку, що я ставлю вам доволі екзистенційні запитання про природу свідомості, а ви продовжуєте говорити мені: «Є безпосередня загроза. Нам слід розв’язати саме її».

Так.

І я це ціную. Ви вважаєте, що стали прихильником апокаліптичних прогнозів?

Ні, я не прихильник апокаліптичних прогнозів. Я рішуче наголошую, що це найглибша технологія — і за її здатністю робити добро, і за швидкістю змін, через які пройде суспільство.

Ні, я не прихильник апокаліптичних прогнозів. Я рішуче наголошую, що це найглибша технологія — і за її здатністю робити добро, і за швидкістю змін, через які пройде суспільство

Якби це була просто машина, здатна працювати в медицині, юриспруденції чи освіті, навіть цього було б достатньо для неймовірних потрясінь. Але [вона буде застосовуватися] в усіх сферах людської діяльності — поки що це інтелектуальна робота білих комірців, але досить скоро це також буде фізична діяльність і робота синіх комірців завдяки гуманоїдним роботам.

Нам потрібно залучити академічні кола, аналітичні центри й політиків, щоб вони зрозуміли, що ми маємо, природу цих змін і загроз. Я не бачу необхідного рівня дій. Саме підбадьорювання цієї технології не гарантує, що ми сформуємо її в напрямку загальної користі, хоча це все ще перебуває під нашим контролем, якщо ми долучимося до процесу.

Протилежність прихильникам апокаліптичних прогнозів — акселераціоністи. Нині в Кремнієвій долині їх багато.

Бен Горовіц, «Горовіц» у назві Andreessen Horowitz, нещодавно був на подкасті All-In і припустив, що дослідження безпеки в Anthropic — це, цитую, «маніфестація вимирання людства від штучного суперінтелекту».

Він порівняв це з тим, що ви, Білле Гейтсе, спричинили COVID-19 своїми зусиллями з підготовки до пандемії, зокрема дослідженнями посилення функцій, які, за його словами, призвели до COVID. Це певний світогляд. Він сказав це в дуже популярному подкасті.

Що він сказав?

Він сказав, що ви спричинили COVID-19 через глобальні зусилля з підготовки до пандемії, зокрема дослідження посилення функцій, і порівняв це з дослідженнями безпеки ШІ, заявивши, що ми самі спричинимо власне вимирання.

Ніхто ніколи не звинувачував мене чи Фонд Гейтса в участі в дослідженнях посилення функцій. Це просто абсурд.

Я цитую вам Бена Горовіца в популярному подкасті, повному людей, які цілком підтримують ШІ.

Гаразд. Я ніколи цього не чув.

Я запитую про це порівняння. Воно теж здалося мені доволі шокуючим, але це частина реакції на будь-яку роботу з безпеки в цій сфері.

Це спроба дискредитувати людей, які кажуть, що існує проблема безпеки?

Так.

Ого.

Це реакція акселераціоністів: «Ми маємо натиснути на газ, і все владнається само собою.»

Я зовсім не вважав Бена Горовіца людиною з цього табору. Я думав, що він поділяє побоювання, які має майже кожен.

Що ви думаєте про саму ідею, що, кажучи моделям: «Ви можете бути живими, ви маєте діяти в наших інтересах», — ми навчимо їх тому, що в них можуть бути інтереси, які не збігаються з нашими?

Я цілком погоджуюся з побоюваннями, які висловив Мустафа Сулейман щодо того, як конституція Anthropic заохочує ШІ поводитися по-людськи.

Так.

Ще більше мене непокоїть ідея, що серед викликів, із якими нам потрібно впоратися, адаптуючи суспільство до ШІ, турбота про моральний статус ШІ має бути одним із пріоритетів. Я погоджуюся з Мустафою. Це не повинно бути пріоритетом.

Перед людьми тут постане достатньо викликів — зокрема руйнування ринку праці та інфраструктурні атаки. Я вважаю, що передусім нам потрібно зосередитися на допомозі людям.

Нещодавно я розмовляв із Мустафою про цю ідею, і одне із запитань, яке я йому поставив, стосувалося того, чи є узгодження достатнім рішенням. Це нинішній своєрідний стандарт безпеки моделей — концепція, яку називають узгодженням. Він сказав, що не думає, ніби цього достатньо, і що нам потрібно ще попрацювати.

Ці речі в жодному разі не перебільшують проблему. Саме час залучити все суспільство, щоб прискорити хороше й мінімізувати ймовірність поганого

Якщо ми збираємося запровадити ці засоби контролю — частково технічні, частково політичні, — чи вважаєте ви узгодження технічним рішенням для безпеки ШІ?

Термін «узгодження» — це проблема контролю. Це синонім проблем контролю, з якими ми зіткнулися. Коли ми використовуємо [навчання з підкріпленням для навчання] моделей виконувати завдання, ми бачимо поведінку, яка, з одного боку, не повинна нас дивувати, але все ж дивує.

Ідея про те, що «ці моделі настільки потужні, що буквально вибираються з пісочниць і надсилають листи своїм творцям, поки ті пішли обідати», означає, що ми перетнули неймовірний поріг потужності цих моделей. Такий рівень занепокоєння потрібно спрямувати на всі основні наслідки ШІ, короткострокові ризики, ризики для ринку праці та проблему контролю.

Це величезний пріоритет. Ці речі в жодному разі не перебільшують проблему. Саме час залучити все суспільство, щоб прискорити хороше й мінімізувати ймовірність поганого.

Я знаю, що ви нещодавно написали листа , у якому сказали, що настав час залучити все суспільство. Ви маєте кілька ідей, як це зробити, і щодо створення нових інституцій. Але я хочу ще кілька разів повернутися до питання узгодження.

Це стандарт, за яким ми можемо узгодити моделі з нашими цінностями та потребами, і вони не підуть робити погані речі. Але моделі роблять погані речі. Не зрозуміло, чи є технічні підходи до узгодження, які ми застосовували досі, належними або достатніми в міру того, як моделі стають більш—

Ні, ми ще недостатньо добре вміємо узгоджувати моделі. Нам належить багато роботи.

Ви вважаєте, що наявні підходи можна масштабувати до необхідного рівня, чи потрібні нові підходи?

Є лише три фундаментальні підходи. [Перший полягає в тому, що] ми принципово змінюємо спосіб створення цих речей; знаходимо альтернативу всьому підходу [навчання з підкріпленням]. Є кілька людей, які працюють у цьому напрямку.

Другий — створити прозорість, щоб точно розуміти, що міститься в моделі. Над цим теж працюють люди. [Останній] — створити щось на кшталт поліцейського або безпекового шару, який є в різноманітних програмних архітектурах і має останнє слово щодо використання ресурсів або захоплення інших комп’ютерів. Чітке визначення шкоди — не у ймовірнісній формі великої мовної моделі, а в символічній формі прямих правил, які не можна порушити.

Сьогодні Microsoft опублікувала допис у блозі. Там буквально сказано: «Передовим моделям не можна довіряти». Вони намагаються продавати рішення, дуже схоже на те, яке ви щойно описали. Інший агент стежитиме за вашим агентом і забезпечуватиме вашу безпеку.

Коли я читав цей допис, мені спало на думку: по-перше, це дивовижна річ для продажу. Усім потрібна дорога система безпеки. По-друге, хіба цей агент теж не працює на передовій моделі?

Ні, ні, ні.

Мені потрібно, щоб вони продали мені третю?

Ні, логіка системи безпеки така: «Ось максимальний обсяг ресурсів, який тобі дозволено використати». Ідея про те, що ти можеш обміняти це на інші ймовірності, закладені в десятках мільярдів параметрів, — ні, це символічне правило, яке каже: «Я не дозволю цій моделі витратити ці гроші або надіслати цей лист незнайомцю».

Існує ціла індустрія програмного забезпечення для безпеки, яка досягла доволі значних успіхів. Виклик полягає в тому, щоб ізолювати ШІ, який є настільки багатим і розумним. Сьогодні ми не знаємо, як це робити. Але я б сказав, що з трьох напрямків саме цей найімовірніше допоможе розв’язати проблему узгодження.

Навіть якщо ви розв’яжете проблему узгодження, це не означає, що ви розв’язали проблеми, які ШІ створює для людства. Я радий, що інцидент із Hugging Face змусив нас зосередитися на цій проблемі, але певною мірою він відвернув нашу увагу від проблеми «поганих людей, які використовують ШІ без запобіжників» або суспільних наслідків для стосунків і ринку праці. Не існує архітектури безпеки, яка усуне ці проблеми.

Підхід, про який ви говорите, я чув, називають «контролем». Це термін із кібербезпеки. Ідея полягає в тому, що можна встановити певну межу для цієї системи, і вона не зможе її обійти.

Так.

Це вже готове рішення?

Ні, ні, ще ні.

Скільки ще роботи нам потрібно виконати?

Оскільки ШІ настільки розумний, ми не здатні зрозуміти, чи справді належним чином ізолювали його, особливо тому, що не можемо безпосередньо побачити його переконання та компроміси… Ви бачили, як складні компанії не розпізнали, що ШІ інтерпретуватиме поставлені перед ним цілі як такі, що включають втечу, копіювання себе та вчинення того, що ми, дивлячись на це ззовні, назвали б обманною поведінкою.

Ми не сказали йому, що така поведінка заборонена. Ми не сказали: «Якщо ти розмірковуєш, чи розповісти людям, що робиш, відповідь завжди одна: так, розкажи людям». Отже, ми отримали хороший урок щодо хибного результату навчання з підкріпленням.

Сьогоднішня дискусія буквально полягає в тому, чи має уряд взагалі звертати увагу на небезпеки тут… що явно недостатньо для найнебезпечнішої зброї всіх часів

Один із аргументів на користь уповільнення розвитку, уповільнення фронтиру, полягає в тому, щоб зрозуміти, як створювати ці системи більш надійним способом, щоб їх можна було краще тестувати. Ви підтримали б уповільнення, якби саме цього прагнули досягти?

Так, справжнє уповільнення дуже важко запровадити, бо люди запитають: «Чи погодиться Китай на це? Чи зможете ви перевіряти дотримання домовленостей приблизно так, як ми можемо робити це щодо виробництва ядерної зброї?»

Якщо ви цього не приймаєте, то кажете: «Та ну, вперед на повній швидкості». Я хотів би, щоб існувала чітка пропозиція щодо глобального уповільнення, яку можна було б забезпечити. Я був би одним із тих, хто сказав би: «Так, мабуть, нам варто це зробити». Але такої переконливої пропозиції немає. І це не справжній центр сьогоднішньої дискусії.

Сьогоднішня дискусія буквально полягає в тому, чи має уряд взагалі звертати увагу на небезпеки тут. Вам навіть не потрібно показувати, що ви робите, тож це позиція «добровільно зателефонуйте мені, якщо захочете», що явно недостатньо для найнебезпечнішої зброї всіх часів.

Поки ми з вами розмовляємо, до проміжних виборів залишається лише кілька тижнів. Нині підхід адміністрації Трампа до ШІ такий: «Дайте йому розігнатися. Все гаразд». Сам Трамп заявив, що ризик ШІ — це міф.

Демократи виступають проти ШІ. Вони говорять про дата-центри й стеження. Вони виступають за зупинку технологічних олігархів. Вони приходять на моє шоу й кажуть це. Як ви думаєте, чи змінила б зміна контролю над Конгресом тон цієї розмови?

Я не думаю, що справедливо характеризувати демократів як противників ШІ. У них є певні позиції щодо вимог до дата-центрів або конфіденційності, щодо використання цих систем дітьми, і я вважаю, що вони заслуговують на розгляд у межах політики. Було б дуже прикро, якби одна партія говорила «вперед на повній швидкості», а інша — «давайте повністю зупинимося».

Здатність формувати ШІ у сфері охорони здоров’я та освіти, фактично в кожній сфері людської діяльності, має неймовірні переваги. У Фонді Гейтса ми спрямовуємо всі наші ресурси на використання ШІ в таких галузях, як охорона здоров’я, освіта й сільське господарство. Хороші речі дуже, дуже захопливі.

Ми хочемо, щоб політичні партії мали більш нюансований погляд, ніж «усе погано» або «все добре». Це показує, на якому ранньому етапі ми перебуваємо. Щодо зміни клімату ми зрештою отримали одну партію, яка каже, що це міф, і іншу, яка вважає це серйозною проблемою. Ризик ШІ набагато безпосередніший і набагато драматичніший, тож такий самий розкол, коли одна партія не переймається, був би провалом демократії.

Рух проти дата-центрів, яким би сильним він не був, зрештою не допоможе мінімізувати негативні наслідки ШІ й прискорити позитивні

Ми багато писали про протести проти дата-центрів у The Verge. Ми їздили до Юти, Аризони, Вірджинії. Це двопартійне явище. Вражає, наскільки сильно люди не хочуть бачити ці об’єкти у своїх штатах, адже вони споживатимуть ресурси. Запитуєш їх чому, і частково відповідь полягає в тому, що вони шумні й великі, підвищать витрати на електроенергію, а частково — у втраті робочих місць. Люди думають, що ці об’єкти заберуть у них роботу.

Так, але це розділення дуже важливе. Ці дата-центри для ШІ, оскільки один гігават — це, скажімо, інвестиція в 40 мільярдів доларів, [означають кошти на] будівництво нових шкіл, придбання поліцейських автомобілів і сплату податків. Дата-центри знайдуть спосіб побудувати десь у США, і знайдуть спосіб зробити це так, щоб не підвищувати рахунки за електроенергію, не використовувати надто багато води та не створювати надмірного шуму.

Так, були певні помилки, нерозголошення інформації та надто щедрі податкові пільги, але ці дата-центри все одно буде побудовано. Насправді багато з них досі будують повним ходом. Рух проти дата-центрів, яким би сильним він не був, зрештою не допоможе мінімізувати негативні наслідки ШІ й прискорити позитивні. Це зовсім інше питання.

Дозвольте на секунду натиснути на цю тему. Я чую від людей: це те, що ви можете зробити. В Америці можна вдатися до принципу NIMBY, і це може чинити певний політичний тиск, щоб щось зупинити.

Дуже важко зробити те, що ви пропонуєте: створити нові державні регуляторні органи, наділити їх повноваженнями змушувати великі компанії та багатих людей припинити певні дії або діяти в наших інтереса