Андрій Карпаті з Anthropic каже, що «зовнішній світ побачив попередній перегляд» того, на що насправді здатен ШІ

Андрій Карпати, співзасновник OpenAI, описує стрімке зростання розриву в тому, як люди розуміють можливості ШІ. Поки суспільство сприймає чат-боти як удосконалений пошук у Google, внутрішні передові системи вже беруться за завдання, на виконання яких найкращим експертам знадобилися б роки.

Карпати поділяє користувачів великих мовних моделей на чотири рівні. Близько шести мільярдів людей, тобто приблизно 75 відсотків населення світу, майже не контактували з LLM. Ще один-два мільярди є звичайними користувачами продуктів на кшталт ChatGPT із безкоштовним тарифом і сприймають їх «трохи як покращений пошук у Google, помічника для написання текстів тощо».

Більшість людей не уявляє, на що ШІ вже здатен

Навіть багато фахівців за межами математики й програмування належать до цієї категорії. Керівники та люди на подібних посадах більшість часу розмовляють з іншими людьми, тому «хоча вони інтелектуально розуміють, що відбувається, це все одно знання з других рук і дещо абстрактне», пише Карпати.

Третя категорія охоплює, за оцінками, 20 мільйонів людей — близько 0,2 відсотка населення світу. Це професійні користувачі передових LLM у галузях математики й програмування, які на власні очі бачать, що «великі складні проєкти, на які раніше йшли тижні або місяці, тепер можуть виконувати агенти за одним запитом». Серед прикладів Карпати називає «створення застосунків, копіювання застосунків, переклад застосунків, декомпіляцію застосунків із бінарних файлів».

Він додає, що ця зміна відбулася швидко. У жовтні 2024 року Карпати назвав ШІ-агентів переважно маркетингом, який майже не працював. Лише через кілька місяців він повністю перестав писати код вручну, перейшовши від «введення завчених команд комп’ютерного коду в редактор коду символ за символом» до передачі цієї роботи агентам. Після цього він приєднався до Anthropic, попри те, що був співзасновником OpenAI.

Крихітна еліта бачить те, чого не може побачити суспільство

За оцінкою Карпати, близько 5 000 людей, тобто приблизно 0,00006 відсотка населення світу, мають доступ до внутрішніх передових систем. «Зовнішній світ уже побачив прев’ю», — пише він. Те, що бачить ця група, «схоже на рої з тисяч агентів, які протягом тижнів спільно працюють над грандіозними програмними проєктами: створюють експлойти нульового дня, проводять кібератаки й захищаються від них на машинних швидкостях, відкривають нові наукові знання, просувають передній край математики». Це «речі, на які найкращим професіоналам галузі знадобилися б роки роботи».

Водночас «людська перевірка та розуміння починають відставати». Він вказує на людей, які досі проводять «археологічні розкопки» навколо інциденту OpenAI та Hugging Face, що стався багато місяців тому, і зазначає, що математики «ще певний час можуть вивчати 722 рукописи з передової математики».

Карпати називає це «дивністю нинішнього моменту». Широка громадськість здебільшого не взаємодіяла з цими системами, а «коли взаємодіяла, вони виглядали як недоладний чат-бот». Більшість фахівців досі бачать «лише помірне підвищення продуктивності». А «невелика частка професіоналів відчуває запаморочення від кривої, яка стає вертикальною». Усе це відбувається одночасно.

Генеральний директор OpenAI Сем Альтман висловив схожу думку на початку вересня під час зустрічі міністрів інновацій G20, заявивши, що сучасний інструмент для програмування на основі ШІ може за «17 хвилин» виконати те, на що стартап раніше витратив би три місяці. «Світ ще не усвідомив, що це означатиме», — сказав Альтман.

Карпати каже, що можливості LLM наразі найшвидше зростають у сферах, які є «цифровими, перевірюваними та економічно цінними». Це тому, що вони «виникають завдяки навчанню з підкріпленням на перевірюваних винагородах», а компанії спрямовують ресурси на навчання у сфери з найвищим потенціалом прибутку. Наразі це означає програмування та математику.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ та наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, мати повний доступ до архіву й розділу коментарів.