Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← К новостям

Alibaba представила Qwen4-Max с 2,4 трлн параметров и контекстом в 1 млн токенов

Команда Qwen компании Alibaba представила Qwen4-Max — первую модель поколения Qwen4. Это проприетарная разреженная модель mixture-of-experts с основой на 2,4 трлн параметров, из которых для каждого токена активируются 71 млрд. Система работает с текстом, изображениями и видео, поддерживает контекст до 1 млн токенов и может выдавать до 393 тыс. токенов. Модель доступна только через облачные сервисы QwenCloud API, Token Plan, Qwen Studio, QwenWork и Qoder; открытых весов для самостоятельного размещения нет.

В архитектуре используются Qwen Sparse Attention вместе со слоями Gated DeltaNet, управляемые остаточные связи и 328 млрд параметров N-gram Embedding. Alibaba заявляет, что во время обучения модели такого масштаба не наблюдалось скачков функции потерь. По данным компании, базовая версия Qwen4-Max имеет на 5–13% меньше битов на байт, чем Qwen3.8-Max-Base, при активации на 25% меньшего числа параметров.

В сравнительной таблице Alibaba модель заняла первое место в четырех из 16 тестов, включая HLAB-Vals-1.1 с результатом 21,3. На отдельных тестах программирования и компьютерного зрения она уступила конкурентам; в ProgramBench результат составил 31,5. В Work360 модель получила 52,69 против 47,74 у Qwen3.8-Max. Alibaba сообщает о снижении средней стоимости задачи Work360 на 62%, до $1,67. Тарифы составляют $1,50 за миллион входных токенов и $4,50 за миллион выходных.

Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием MarkTechPost

Читать оригинал на MarkTechPost ↗

Репортаж и изображение принадлежат MarkTechPost и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости