Стівен Пінкер закликав до практичного підходу до безпеки ШІ
Гарвардський психолог Стівен Пінкер вважає перебільшеними побоювання, що штучний інтелект знищить людство. У відкритому листі на Quillette він відповів психіатру й технологічному блогеру Скотту Александеру, який запросив його на публічні дебати про екзистенційні ризики ШІ. Пінкер відмовився, назвавши такі заходи «видовищем для глядачів».
На його думку, сценарії на кшталт paperclip maximizer помилково ототожнюють інтелект із прагненням до панування. Вони також припускають, що система ШІ нав’язливо переслідуватиме одну-єдину мету. Пінкер визнав, що раніше недооцінив, наскільки потужними стануть великі мовні моделі, і не передбачив, наскільки безвідповідально компанії випускатимуть свої продукти.
Серед небезпек, які він вважає серйозними, Пінкер назвав біотероризм, кібератаки та неконтрольованих ШІ-агентів. Він вважає, що протидія їм потребує інженерних практик безпеки, незалежного нагляду, відповідальності та людського контролю, а не апокаліптичної риторики. У червні Александер оцінив імовірність знищення людства штучним інтелектом у 20 відсотків і закликав посилити дослідження безпеки та укласти міжнародні угоди для уповільнення розвитку ШІ.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.