Гаррі Тан із Y Combinator хоче, щоб американські лабораторії ШІ з відкритими вагами також «дистилювали» передові моделі

Коли йдеться про використання китайськими лабораторіями ШІ методів дистиляції для вилучення знань у розробників передових моделей, генеральний директор Y Combinator Гаррі Тан сподівається, що регулятори не втручатимуться. Ба більше, він вважає, що американським лабораторіям ШІ, можливо, варто грати за тими самими правилами.

«Я б нічого не робив», — сказав він CNBC в інтерв’ю на початку цього тижня. «Можна було б стверджувати, що має існувати американський режим дистиляції».

У розмові з TechCrunch він пояснив, що хоче, аби менші американські лабораторії ШІ, які розробляють моделі з відкритими вагами, могли застосовувати такі самі методи навчання до американських лабораторій, що створюють передові моделі ШІ, надаючи США ширший вибір надійних моделей із відкритими вагами, які не є китайськими.

Дистиляція — це процес, під час якого розробник моделі активно надсилає запити іншій моделі, щоб зрозуміти, як вона працює та міркує. Лабораторії ШІ широко й легітимно використовують цей метод для навчання нових моделей.

Цього тижня Anthropic опублікувала свій другий звіт, у якому стверджує, що китайські лабораторії здійснюють «незаконні атаки з дистиляції», приховуючи свою особу, щоб проводити дистиляцію без дозволу, а також вдаючись до шахрайства й використання викрадених облікових даних. Раніше генеральний директор Anthropic Даріо Амодеї публічно закликав регуляторів США посилити боротьбу з дистиляцією.

Примітно, що керівник престижного й продуктивного стартап-акселератора Кремнієвої долини з цим не погоджується.

Щоб було зрозуміло, Тан не закликає американські лабораторії ШІ використовувати викрадені облікові дані для дистиляції. Він хоче, щоб вони могли вільно заходити через парадні двері. Насправді його аргумент складається з двох частин. Він вважає, що лабораторії ШІ перевищують свої повноваження, коли диктують клієнтам, що ті можуть робити з інформацією, якою їхні моделі з ними діляться.

Він також зазначає, що розробники пропрієтарних моделей ШІ не питали дозволу, коли збирали якомога більше людських знань для навчання своїх моделей. Відомо, що вони поглинули чимало захищених авторським правом матеріалів без дозволу правовласників інтелектуальної власності.

«Контроль над тим, що користувачі та клієнти роблять із викликами API до моделей із закритими вагами, здається обмежувальним, і тут уряд може відіграти роль, нормалізувавши думку, що доступ до інтелекту, навченого на даних із широкого публічного доступу, також має бути радше формою суспільного блага, ніж чимось, що ховають за обмежувальними умовами використання», — сказав він TechCrunch, відповідаючи на запитання, чому американські лабораторії також мають бути вільними в проведенні дистиляції.

Тан, який сам є настільки завзятим користувачем ШІ, що одного разу назвав свій стан кіберпсихозом, хоче бачити баланс між лабораторіями ШІ, що розробляють моделі з відкритими вагами, та лабораторіями, які створюють передові моделі.

«Вони перебувають на передовій і рухають галузь уперед. Ми хочемо, щоб це можна було фінансувати й щоб це залишалося чудовою бізнес-моделлю», — сказав він CNBC. «Потрібно, щоб моделі з відкритими вагами давали людям свободу та доступ».

На його думку, справжній сценарій приреченості у сфері ШІ полягає в тому, що вся величезна потужність передового ШІ зрештою опиниться в руках одного впливового пропрієтарного постачальника. «Кошмарний сценарій, сценарій приреченості для ШІ — це коли існує лише одна компанія, — сказав він. — Вона має найкращий доступ до капіталу. У неї найкращі дослідники ШІ. Вона виривається вперед, і раптом залишається одна монолітна компанія. А це було б погано».