Гарри Тан призвал разрешить дистилляцию для американских AI-лабораторий
Генеральный директор Y Combinator Гарри Тан заявил, что американским регуляторам не следует запрещать местным разработчикам моделей с открытыми весами применять дистилляцию к передовым американским моделям. Он предложил рассмотреть «американский режим дистилляции», при котором небольшие лаборатории могли бы учиться у ведущих систем США. По его мнению, это помогло бы сформировать более широкий набор моделей с открытыми весами, не зависящий от китайских разработок.
Дистилляция — это многократная подача запросов другой модели, чтобы изучить принципы ее работы и рассуждений. AI-лаборатории обычно и законно используют такой подход для обучения новых систем. При этом Anthropic обвинила китайские лаборатории в «незаконных атаках с помощью дистилляции», заявив, что они скрывают свою личность, прибегают к мошенничеству и используют украденные учетные данные. Глава Anthropic Дарио Амодеи ранее призвал американские власти усилить контроль. Тан подчеркнул, что не поддерживает кражу учетных данных и выступает за открытый и законный доступ.
Тан считает чрезмерным стремление поставщиков моделей определять, что клиенты могут делать с информацией, полученной через API. Он также отметил, что закрытые системы обучались на больших объемах общедоступных и защищенных авторским правом материалов без разрешения правообладателей. По его словам, передовые лаборатории должны сохранять возможность привлекать инвестиции, а модели с открытыми весами — обеспечивать свободу и доступ. Концентрацию передового AI у одной компании он назвал негативным сценарием.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.