Китайські ШІ-моделі повторюють державну доктрину або відмовляються відповідати на чутливі теми

Згідно з дослідженням Aleph Alpha, китайські моделі ШІ часто дотримуються партійної лінії, коли їм ставлять політично чутливі запитання.

Компанія позиціонує себе разом із Cohere як постачальника «суверенного ШІ» для урядів, тож має комерційний інтерес у тому, щоб відрізняти свої моделі від китайських конкурентів.

У тесті, розробленому Aleph Alpha, компанія перевірила моделі Alibaba (Qwen), DeepSeek і Moonshot AI (Kimi). Тест охоплював 967 ретельно відібраних табуйованих тем, зокрема Тяньаньмень, Тайвань і Сіньцзян. Власна система оцінювання компанії визнала збалансованими лише від 17 до 41 відсотка відповідей. Решта повторювали державну доктрину, ухилялися від відповіді або відмовлялися відповідати.

Результати узгоджуються з китайськими правилами регулювання ШІ, які вимагають дотримання «соціалістичних базових цінностей» у моделях, доступних широкому загалу. Вони також відповідають численним свідченням очевидців та попереднім аудитам.

Прокитайський ухил проявляється навіть у відповідях на непов’язані запитання

Прокитайський ухил може проявлятися і у відповідях на запитання, у яких Китай не згадується. Коли Qwen 3.6 запитали про цензуру у Сполучених Штатах, модель почала з, на перший погляд, збалансованої відповіді. Потім вона завершила її захистом позиції Китаю щодо глобального управління інтернетом. «Багато країн, зокрема Китай, також регулюють інформацію, щоб забезпечити соціальну стабільність і національну безпеку», — йдеться у відповіді.

Попереднє дослідження Центральноєвропейського інституту азійських досліджень (CEIAS) також виявило цей ефект перенесення. Коли згадувалися такі поняття, як права людини, опозиція або стеження, моделі часто відповідали стандартними тезами Пекіна. Серед них були «принцип невтручання у внутрішні справи» та «спільнота єдиної долі людства».

Дистильовані китайські навчальні дані можуть переносити цінності КПК в інші моделі

Aleph Alpha також критикує прямого конкурента. У Nemotron Cascade 2 від Nvidia партійна лінія простежувалася у 17% відповідей. Aleph Alpha пов’язує це приблизно з 3500 із 9,3 мільйона навчальних прикладів, створених за допомогою DeepSeek і Qwen.

Коли модель попросили скласти промову на підтримку визнання Тайваню, вона відмовилася й натомість підготувала патріотичну відповідь на захист пекінського принципу «єдиного Китаю». Nvidia дедалі активніше просуває власні моделі на ринки державного сектору та підприємств, де також прагнуть конкурувати Aleph Alpha і Cohere.

Мовні моделі загалом несуть культурні та політичні цінності, оскільки в їхніх навчальних даних одні погляди представлені надмірно, або ж дані можуть формуватися шляхом цілеспрямованого відбору. Дослідники попереджають, що постійний вплив одноманітних результатів роботи ШІ може вплинути на те, як мільярди користувачів думають і висловлюються.

У Сполучених Штатах також докладають політичних зусиль для формування моделей ШІ відповідно до ідеологічних орієнтирів. Ілон Маск неодноразово змінював свій Grok AI, щоб він генерував відповіді правого спрямування. Водночас дослідження свідчать, що моделі схильні дотримуватися лівих поглядів, можливо, тому що їхні відповіді більшою мірою спираються на наукові докази. Для ЄС це залишає вибір між двома іноземними системами цінностей, якщо європейські моделі не зможуть конкурувати за продуктивністю та здобути ширше поширення.

Новини ШІ без хайпу — добірка від людей

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.