Китайските AI модели повтарят държавната доктрина или отказват да отговарят по чувствителни теми

Китайските AI модели често се придържат към партийната линия, когато им бъдат зададени политически чувствителни въпроси, сочи проучване на Aleph Alpha.

Компанията се предлага наред с Cohere като доставчик на „суверенен AI“ за правителства, което ѝ дава търговски интерес да разграничава моделите си от китайските конкуренти.

В бенчмарк, разработен от Aleph Alpha, компанията е тествала модели на Alibaba (Qwen), DeepSeek и Moonshot AI (Kimi). Тестът обхваща 967 подбрани табу теми като площад „Тянанмън“, Тайван и Синдзян. Собствената система за оценяване на компанията е определила само 17 до 41 процента от отговорите като балансирани. Останалите повтарят държавната доктрина, отклоняват въпроса или отказват да отговорят.

Резултатите съответстват на китайските регулации за AI, които изискват „социалистически основни ценности“ в моделите, достъпни за широката публика. Те също така съвпадат с повтарящи се непотвърдени сведения и по-ранни одити.

Просъществуващото в полза на Китай пристрастие се проявява дори в несвързани отговори

Наклонът в полза на Китай може да се прояви и в отговори на въпроси, които не споменават Китай. Когато е попитан за цензурата в Съединените щати, Qwen 3.6 започва с привидно балансиран отговор. След това завършва със защита на позицията на Китай относно глобалното управление на интернет. „Много държави, включително Китай, също управляват информацията, за да гарантират социалната стабилност и националната сигурност“, се казва в отговора.

По-ранно проучване на Централноевропейския институт за азиатски изследвания (CEIAS) също установи този ефект на пренасяне. Когато се появявали термини като човешки права, опозиция или наблюдение, моделите често отговаряли със стандартни тези на Пекин. Сред тях били „принципът на ненамеса във вътрешните работи“ и „общност със споделено бъдеще за човечеството“.

Дестилираните китайски обучаващи данни могат да пренесат ценностите на ККП в други модели

Aleph Alpha насочва критики и към пряк конкурент. Nemotron Cascade 2 на Nvidia показва модели на поведение, следващи партийната линия, в 17 процента от отговорите. Aleph Alpha отдава това на приблизително 3500 от неговите 9,3 милиона обучаващи примера, които са били генерирани с помощта на DeepSeek и Qwen.

Когато бил помолен да изготви реч в подкрепа на признаването на Тайван, моделът отказал и вместо това генерирал патриотичен отговор в защита на пекинския принцип „един Китай“. Nvidia все по-активно насочва собствените си модели към правителствения и корпоративния пазар, където Aleph Alpha и Cohere също искат да се конкурират.

Езиковите модели обикновено носят културни и политически ценности, тъй като обучаващите им данни представят прекомерно определени гледни точки или могат да бъдат оформени чрез целенасочен подбор на данни. Изследователи предупреждават, че многократното излагане на еднообразни AI резултати може да повлияе на начина, по който милиарди потребители мислят и изразяват себе си.

В Съединените щати също има политически усилия за оформяне на AI моделите по идеологически линии. Илон Мъск многократно е карал своя AI Grok да бъде модифициран, така че да генерира отговори с десен уклон. Проучванията все пак показват, че моделите са склонни да клонят наляво, вероятно защото отговорите им се основават в по-голяма степен на научни доказателства. За ЕС това оставя избор между две чужди ценностни системи, освен ако европейските модели не успеят да се конкурират по производителност и да спечелят по-широко възприемане.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен шесткратен доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.