Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← Към новините

Alibaba представи Qwen4-Max с 2,4 трилиона параметри и контекст от 1 милион токена

Екипът Qwen на Alibaba представи Qwen4-Max, първия модел от поколението Qwen4. Това е патентован разреден модел от типа mixture-of-experts с гръбнак от 2,4 трилиона параметри, от които 71 милиарда се активират за всеки токен. Моделът обработва текст, изображения и видео, поддържа контекст от 1 милион токена и генерира до 393 хиляди изходни токена. Достъпът е само чрез хоствани услуги като QwenCloud API, Token Plan, Qwen Studio, QwenWork и Qoder; тегла за самостоятелно хостване не са публикувани.

Архитектурата включва Qwen Sparse Attention в комбинация със слоеве Gated DeltaNet, управлявани остатъчни връзки и 328 милиарда N-gram Embedding параметри. Alibaba съобщава, че обучението в този мащаб е протекло без пикове в загубата. Според компанията базовият Qwen4-Max постига с 5–13% по-нисък брой битове на байт от Qwen3.8-Max-Base, като активира 25% по-малко параметри.

В сравнителната таблица на Alibaba Qwen4-Max е първи в четири от 16 теста, включително HLAB-Vals-1.1 с резултат 21,3. Моделът изостава в някои тестове за програмиране и зрение, сред които ProgramBench с 31,5. В Work360 резултатът му е 52,69 спрямо 47,74 за Qwen3.8-Max. Alibaba отчита 62% спад на средната цена на задача, до $1,67. Цената е $1,50 за милион входни токена и $4,50 за милион изходни токена.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини