OpenAI і Microsoft знали, що запускають «порочне коло» для інтернету

Компанії знали, що ведуть нас до Google Zero, і все одно це зробили.

Компанії знали, що ведуть нас до Google Zero, і все одно це зробили.

Нещодавно розсекречені судові документи у справі New York Times проти OpenAI і Microsoft мають доволі викривальний вигляд. У власній документації компанії попереджали, що запускають «петлю загибелі», яка зашкодить вебу, називали скрейпінг даних для навчання своїх моделей «найбільшою крадіжкою праці в історії людства» та заявляли, що це «повністю висміює ідею добросовісного використання».

Чимало найяскравіших цитат із документа належать директору з прикладних наук Microsoft Бренту Хехту. Водночас компанія спробувала дистанціюватися від його тверджень. Представник Microsoft Алекс Хаурек сказав The Verge: «Ці коментарі відображають особисту позицію одного працівника, не є юридичним аналізом і не представляють поглядів компанії».

В іншому судовому поданні Джордан Усдан, генеральний менеджер із питань стратегії та операцій роботи з даними в Microsoft AI, охарактеризував роль Хехта як опозиційну. Він сказав, що Хехт «має відмінні, академічні та орієнтовані на майбутнє погляди щодо того, як мають функціонувати екосистеми даних для ШІ, і працює в Microsoft, щоб привносити асиметричні, футуристичні та академічні погляди… він також не є людиною, яка говорить від імені Microsoft конкретно щодо своїх теоретичних поглядів на потенційний вплив ШІ на творців контенту».

Але незалежно від того, чи хоче Microsoft визнавати ці коментарі, очевидно, що це справдилося. Google Zero існує! ШІ поглинає веб!

У поданні NYT є ще чимало диких заяв різних осіб, зокрема Сатьї Наделли, Сема Альтмана та інших працівників OpenAI. Ось кілька найважливіших фрагментів із документа на 92 сторінки.

«Приголомшлива крадіжка»

У вступі цитуються Хехт і керівник ChatGPT в OpenAI (імовірно, Нік Терлі), і це, схоже, свідчить, що компанії знали: вони становлять «екзистенційну загрозу» для видавців на кшталт New York Times. Хехт називає збирання даних ChatGPT і Copilot «найбільшою крадіжкою праці в історії людства» та каже, що захист Microsoft «повністю висміює ідею “добросовісного використання”».

Це «петля загибелі»

Сатья Наделла визнає, що чатботи фактично замінили пошук і усунули потребу переходити безпосередньо до першоджерела за інформацією. Але ще більш викривальним є внутрішній документ Microsoft, у якому сказано: «Наша стратегія контенту для ШІ запустила “петлю загибелі”, яка одночасно зашкодить продуктивності наших моделей і всьому вебу: дуже незвично, коли кінцевий продукт загрожує економічним основам своїх ключових постачальників, але саме таку ситуацію ми створили для нашого бізнесу з великими мовними моделями щодо його “ланцюга постачання контенту”».

Це навіть не справжнє число

Не дайте себе обдурити заявами OpenAI чи Microsoft про альтруїстичні наміри. Співзасновника OpenAI Грега Брокмана більше цікавлять «газильйони» доларів, які він потенційно може заробити завдяки комерційному ШІ.

Платний доступ? Та ну

Попри те, що пізніше Наделлу процитували зі словами: «усе, що захищене платним доступом, має бути ліцензоване», представник OpenAI визнав, що йому «невідомо» про будь-які спроби виявляти або видаляти контент за платним доступом із навчальних даних.

«Неймовірно добре відтворює»

Схоже, всередині OpenAI чудово усвідомлювали схильність ChatGPT просто відтворювати захищений авторським правом матеріал «дослівно». Хоча компанія визнавала, що «запобігання запам’ятовуванню» важливе для «мінімізації порушень авторських прав», працівники зізнавалися, що GPT-4 «запам’ятає тонни даних і тому буде неймовірно добре відтворювати їх».

Далі в поданні наводиться кілька прикладів, коли ChatGPT у відповідь на запити виводив довгі фрагменти текстів безпосередньо зі статей у Times, Mercury News, The Denver Post, LifeHacker та Eurogamer.

«Висмоктувати всю їхню роботу»

Microsoft знала, як сприйматиметься її масовий скрейпінг інтернету, і визнала, що «майже ніхто не планував, щоб створений ним контент використовували таким чином, і ніхто не отримує компенсації за його використання».

«Замінник людської праці»

Директор із політики OpenAI Джек Кларк бачив, до чого все йде, заявляючи, що компанія «створює системи, які замінюють працю людей, що визначають “культуру” суспільства». У внутрішніх документах ChatGPT описували як «сучасний газетний кіоск». Пізніше цитується Нік Терлі з OpenAI, який сказав, що після отримання відповіді від чатбота «немає вагомої причини натискати» на посилання на джерело.

Знищення власного ланцюга постачання

Microsoft цитують як компанію, що визнає: «ВММ — це продукт, який знищує власний ланцюг постачання», оскільки в багатьох випадках він замінює власні навчальні дані.

OpenAI знає, що вбиває реферальний трафік

Власні медіа- та економічні експерти OpenAI безпосередньо пов’язали падіння реферального трафіку на сайти на кшталт Times із резюме, створеними ШІ, як-от Google AI Overviews. Вони припустили, що кількість переходів із пошуку могла впасти на 60 відсотків.

Представник Microsoft Хаурек застеріг: «Свідчення Сатьї та позиція Microsoft у цій справі цілком узгоджуються. Він говорив про загальні принципи та зміни в тому, як люди знаходять і споживають інформацію. Ці спостереження не слід плутати з висновками щодо питань авторського права, які розглядає суд і які Microsoft висвітлює у своїх поданнях».

Але з цього нещодавно розсекреченого документа здається цілком очевидним: і Microsoft, і OpenAI знали, що завдадуть непоправної шкоди видавничій галузі, «мільйонам людей», яких вона працевлаштовує, і, відповідно, зашкодять власному продукту, але все одно продовжили це робити заради «газильйонів» доларів — хай там іде ця петля загибелі.

• Терренс О’Браєн