Гарри Тан из Y Combinator хочет, чтобы американские лаборатории ИИ с открытыми весами тоже «дистиллировали» передовые модели

Когда речь заходит о китайских лабораториях ИИ, использующих методы дистилляции для извлечения знаний у создателей передовых моделей, генеральный директор Y Combinator Гарри Тан надеется, что регуляторы не будут вмешиваться. Более того, он считает, что американским лабораториям ИИ, возможно, стоит играть по тем же правилам.

«Я бы ничего не предпринимал», — сказал он CNBC в интервью ранее на этой неделе. «Можно утверждать, что в Америке должен существовать собственный режим дистилляции».

В разговоре с TechCrunch он пояснил, что хочет, чтобы небольшие американские лаборатории, разрабатывающие ИИ-модели с открытыми весами, могли использовать такие же методы обучения в отношении американских лабораторий, создающих передовые модели ИИ. Это дало бы США более широкий набор вариантов моделей с открытыми весами, не связанных с Китаем.

Дистилляция — это процесс, при котором разработчик модели активно обращается к другой модели с запросами, чтобы понять, как она работает и рассуждает. Лаборатории ИИ обычно и вполне законно используют этот метод для обучения новых моделей.

На этой неделе Anthropic опубликовала второй отчёт, в котором утверждается, что китайские лаборатории проводят «незаконные атаки с использованием дистилляции», скрывая свои личности, чтобы осуществлять дистилляцию без разрешения, а также прибегая к мошенничеству и краденым учётным данным. Ранее генеральный директор Anthropic Дарио Амодеи публично призывал американских регуляторов принять меры против дистилляции.

Примечательно, что руководитель престижного и одного из самых результативных акселераторов стартапов Кремниевой долины с этим не согласен.

Для ясности: Тан не призывает американские лаборатории ИИ использовать краденые учётные данные для дистилляции. Он хочет, чтобы им было разрешено заходить через парадную дверь. На самом деле его аргумент состоит из двух частей. Он считает чрезмерным требование лабораторий ИИ диктовать, что их клиенты могут делать с информацией, которой их модели с ними делятся.

Он также отмечает, что разработчики закрытых ИИ-моделей не спрашивали разрешения, когда собирали как можно больше человеческих знаний для обучения своих моделей. Как известно, они поглощали множество защищённых авторским правом материалов без разрешения владельцев соответствующих прав интеллектуальной собственности.

«Контроль над тем, что пользователи и клиенты делают с API-запросами к моделям с закрытыми весами, кажется ограничивающим. Здесь государство может сыграть роль, нормализовав представление о том, что доступ к интеллекту, обученному на данных, находившихся в широком публичном доступе, сам по себе должен в большей степени считаться общественным благом, а не чем-то запертым за ограничительными условиями предоставления услуг», — сказал он TechCrunch, отвечая на вопрос, почему американским лабораториям также следует разрешить свободно заниматься дистилляцией.

Тан, который сам настолько активно пользуется ИИ, что однажды описал себя как человека с киберпсихозом, хочет видеть баланс между лабораториями, разрабатывающими ИИ-модели с открытыми весами, и лабораториями, создающими передовые модели.

«Они находятся на переднем крае и двигают эту сферу вперёд. Мы хотим, чтобы это направление можно было финансировать и чтобы оно оставалось отличной бизнес-моделью», — сказал он CNBC. «Нужно, чтобы модели с открытыми весами давали людям свободу и доступ».

По его мнению, настоящий сценарий гибели ИИ — это ситуация, в которой вся огромная мощь передовых систем ИИ окажется в руках одного влиятельного закрытого поставщика. «Кошмарный сценарий, сценарий гибели ИИ заключается в том, что остаётся всего одна компания», — сказал он. «У неё лучший доступ к капиталу. У неё лучшие исследователи ИИ. Она вырывается вперёд, и внезапно появляется одна монолитная компания. А это было бы плохо».