Гари Тан от Y Combinator иска американските лаборатории за AI с отворени тегла също да „дистилират“ водещи модели

Що се отнася до китайските лаборатории за изкуствен интелект, които използват техники за дистилация, за да извличат знания от създателите на водещи модели, главният изпълнителен директор на Y Combinator Гари Тан се надява регулаторите да не се намесват. Всъщност той смята, че американските лаборатории за изкуствен интелект може би трябва да играят същата игра.

„Не бих направил нищо“, каза той пред CNBC в интервю по-рано тази седмица. „Можем да твърдим, че трябва да има американски режим за дистилация.“

Той обясни пред TechCrunch, че с това има предвид, че иска по-малките американски лаборатории за изкуствен интелект с отворени тегла да използват същия тип техники за обучение спрямо американските лаборатории, разработващи водещи AI модели, като така дадат на САЩ по-надежден набор от опции с отворени тегла, които не са китайски.

Дистилация се нарича процесът, при който създателят на даден модел отправя множество и подробни заявки към друг модел, за да разбере как работи и как разсъждава. Тя обичайно и легитимно се използва от лабораториите за изкуствен интелект за подпомагане на обучението на нови модели.

Тази седмица Anthropic публикува втория си доклад, в който твърди, че китайски лаборатории извършват „незаконни атаки чрез дистилация“, като прикриват самоличността си, за да извършват дистилация без разрешение, и използват измами и откраднати идентификационни данни за тази цел. Главният изпълнителен директор на Anthropic Дарио Амодей по-рано публично призова американските регулатори да предприемат мерки срещу дистилацията.

Забележително е, че ръководителят на престижния и изключително успешен стартъп акселератор на Силициевата долина не е съгласен с това.

За да сме ясни, Тан не призовава американските лаборатории за изкуствен интелект да използват откраднати идентификационни данни за дистилация. Той иска те да имат свободата да влизат през парадния вход. Всъщност аргументът му е двоен. Според него е прекомерно лабораториите за изкуствен интелект да диктуват какво могат да правят клиентите им с информацията, която моделите им споделят с тях.

Той също така отбелязва, че лабораториите за собствени AI модели не са искали разрешение, когато са събрали възможно най-голям обем човешко знание, за да обучат моделите си. Те прословуто са включили в обучението си множество защитени с авторски права материали без разрешението на носителите на тези права върху интелектуална собственост.

„Контролирането на това какво правят потребителите и клиентите със заявките към API на модели със затворени тегла изглежда ограничаващо, а правителството може да има роля в нормализирането на идеята, че достъпът до интелект, обучен върху широко достъпни публични данни, също трябва да бъде по-скоро форма на обществено благо, отколкото нещо, заключено зад ограничителни условия за ползване“, каза той пред TechCrunch, когато беше попитан защо и американските лаборатории трябва да имат свободата да извършват дистилация.

Тан, който самият е толкова запален потребител на изкуствен интелект, че веднъж се описа като страдащ от киберпсихоза, иска да види баланс между лабораториите за AI с отворени тегла и лабораториите, разработващи водещи модели.

„Те са на границата на възможното и движат развитието напред. Искаме това да може да бъде финансирано и да продължи да бъде отличен бизнес модел“, каза той пред CNBC. „Искаме моделите с отворени тегла да дават на хората свобода и достъп.“

Според него истинският апокалиптичен сценарий за изкуствения интелект е цялата огромна мощ на водещия AI да се окаже в ръцете на един-единствен могъщ доставчик на собствени модели. „Кошмарният сценарий, апокалиптичният сценарий за AI е да има само една компания“, каза той. „Тя има най-добрия достъп до капитал. Има най-добрите изследователи в областта на изкуствения интелект. Тя се откъсва от останалите и изведнъж има една монолитна компания. А това би било лошо.“