Гендиректор Anthropic заявив, що ШІ за своєю природою централізує владу, а відкриті моделі лише передають її тому, хто володіє чипами
Ключові моменти
- На X такі експерти, як інвестор Гевін Бейкер і дослідник Meta Янн ЛеКун, звинувачують генерального директора Anthropic Даріо Амодея в просуванні правил для ШІ за допомогою нагнітання страху. За їхніми словами, ці правила переважно принесуть користь його власній компанії та централізують владу.
- Амодей це заперечує й стверджує, що його регуляторні пропозиції покликані стримати великі лабораторії. Відкриті моделі ШІ, за його словами, не є рішенням, оскільки вони лише зміщують ринкову владу в бік постачальників із найбільшими обчислювальними потужностями.
- Колишній урядовий радник Девід Сакс заперечує, що Anthropic навмисно наймає колишніх чиновників, аби формувати закони на власну користь. Агентство з перевірки моделей ШІ, створення якого пропонував Амодей, також послабило б США у протистоянні з Китаєм.
.На X спалахнула відкрита суперечка щодо регулювання ШІ та концентрації влади. Інвестор Гевін Бейкер, колишній радник Білого дому Девід Сакс і дослідник Meta Янн ЛеКун звинувачують генерального директора Anthropic Даріо Амодея у використанні риторики страху, щоб отримати регуляторну перевагу.
Усе почалося із заяви в подкасті All-In. Інвестор Гевін Бейкер заявив, що генеральний директор Anthropic Даріо Амодей казав співробітникам, що одного дня компанія може залишитися єдиною приватною фірмою у світі, а поруч із нею не буде нічого, крім урядів. Дослідник Anthropic Шолто Дуглас назвав цю історію «цілковито неправдивою». За його словами, саме економічна концентрація влади найбільше непокоїть Anthropic. Він стверджував, що ринок ШІ вже є найбільш конкурентним у світі, оскільки кожна велика компанія змагається за створення розумніших і дешевших моделей.
Потім Бейкер сформулював суть суперечки: якщо ШІ потенційно небезпечний, існують дві базові позиції. Або ви вважаєте його надто небезпечним для широкого поширення й концентруєте його в руках кількох компаній і політиків, або вважаєте його надто небезпечним для концентрації та поширюєте якомога ширше. На думку Бейкера, ставка на те, що якась абсолютна влада доброзичливо подбає про людство, рідко добре закінчувалася протягом історії.
Колишній головний дослідник Meta Янн ЛеКун також рішуче виступив на боці відкритого ШІ. За його словами, як і друкарський верстат та інтернет, ШІ посилює людський інтелект, розширюючи доступ до знань. Суспільствам потрібне широке розмаїття систем ШІ з різними цінностями — з тієї самої причини, з якої їм потрібна різноманітна преса. Зрештою, хороший ШІ для однієї людини є поганим ШІ для іншої.
Що Амодей відповідає критикам
Зрештою довга гілка привернула увагу самого Амодея. У своєму лише четвертому дописі на X цього року Амодей назвав таку постановку питання хибним вибором. За його словами, у деяких частинах Кремнієвої долини панує припущення, що регулювання автоматично означає захоплення регулятора, тобто індустрія сама пише правила на власну користь. Це надто спрощений підхід. Він стверджував, що належне регулювання також може стримувати корпоративну владу й допомагати пересічним громадянам, якщо хороші інституції ґрунтують владу на ідеях, а не на окремих людях.
Саме тому Anthropic навмисно розробляє свої пропозиції так, щоб стримувати провідні лабораторії та надавати перевагу меншим, заявив він. Як доказ Амодей навів каліфорнійський закон SB53, який повністю звільняє компанії, що не перевищують встановленого порогу доходу або витрат на навчання моделей, від його вимог. Відкриті моделі, ваги яких доступні без обмежень, лише частково розв’язують проблему, стверджував він. Вони просто зміщують концентрацію влади до того, хто має найбільші обчислювальні потужності та найбільше чипів для ШІ, повертаючи її до великих лабораторій. ШІ централізує владу вже самою своєю структурою, сказав він, головним чином через закони масштабування, а не через регулювання.
Інвестор Девід Сакс, який донедавна був радником Білого дому з питань ШІ, відповів на слова Амодея у відповіді з дев’яти частин. За його словами, привертає увагу те, що Амодей насправді не заперечує повідомлення Бейкера, хоча легко міг би це зробити. Сакс вважає аргумент Амодея про «регуляторну бульбашку» солом’яним опудалом, оскільки майже ніхто насправді не вважає, що будь-яке регулювання є захопленням регулятора. Він послався на визначення нобелівського лауреата Джорджа Стіглера, згідно з яким індустрія заволодіває правилами й керує ними переважно у власних інтересах, тоді як користь для широкої громадськості залишається розпорошеною та неорганізованою.
Anthropic чудово розуміє цей механізм, заявив Сакс, і найняла кількох колишніх чиновників, відповідальних за ШІ, з адміністрації Байдена, одночасно розбудовуючи великий державний апарат. Він висміяв пропозицію Амодея створити федеральне агентство, яке перевіряло б провідні моделі перед випуском, назвавши його відомством із затвердження ШІ. За словами Сакса, такий процес перевірки створив би довгі черги очікування та сповільнив би США у протистоянні з Китаєм, який не запроваджуватиме таких вимог.
Бейкер, зі свого боку, вважає, що суперечка вже завершена: майже кожна велика компанія, крім Anthropic, підписала листа Єнсена Хуанга на підтримку відкритих моделей.
Новини ШІ без хайпу — відібрані людьми
Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку новин про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.