Amazon, колись онлайн-книгарня, знищує рідкісні книжки, щоб навчати моделі ШІ

Amazon скуповує величезну кількість рідкісних книжок, зрізає з них корінці та сканує їх для навчання ШІ, повідомляє 404 Media, журналісти якого помістили пристрій для відстеження в рідкісну книжку, що зрештою прибула на об’єкт Amazon у Лас-Вегасі.

Об’єкт, відомий як VGT3, позначає себе символом динозавра, який тримає книжку у своїх пазурах. Amazon заявила 404 Media, що «купує книжки через комерційні канали, щоб покращувати продукти й послуги, якими користуються клієнти».

Таким компаніям, як Amazon, потрібні незбагненно великі обсяги тексту для навчання їхніх LLM, які вже поглинули все, що могли, з інтернету (а у випадку Anthropic — незаконно піратські книжки). Рідкісні книжки, особливо ті, що більше не видаються або які неможливо знайти в інтернеті, пропонують нове джерело цінних навчальних даних.

Ці тексти особливо цінні, оскільки немає жодного шансу, що щось опубліковане до 2022 року було написано LLM. Коли LLM навчаються на текстах, згенерованих ШІ, виникає ризик «колапсу моделі», який може статися, коли якість результатів роботи LLM погіршується після поглинання надто великої кількості текстів, згенерованих ШІ.