Дифузионният модел Mercury 3 на Inception твърди, че превъзхожда GPT-6 Luna и Claude Haiku 5.5 при многократно по-кратко чакане

От Inception твърдят, че новият им езиков модел Mercury 3 превъзхожда GPT-6 Luna и Claude Haiku 5.5 в редица бенчмаркове, като работи четири до осем пъти по-бързо.

В своето съобщение компанията нарича Mercury 3 най-способния дифузионен езиков модел, пуснат досега.

Скоростта се дължи на начина, по който е изграден моделът. Модели като GPT или Claude пишат по една дума наведнъж, така че всяка нова дума трябва да изчака предишната. Дифузионните модели са най-известни с генерирането на изображения. Те първо създават приблизителна версия на целия отговор, а след това я усъвършенстват на няколко етапа, като генерират много думи едновременно. Техническият доклад на Google за DiffusionGemma обяснява основната идея.

Преднината на Mercury 3 е по-малка, отколкото предполага съобщението

Собствената таблица с бенчмаркове на Inception показва по-смесена картина. Mercury 3 печели в осем от 12 теста, като и трите модела работят със средни настройки. Разликата е най-голяма при следването на инструкции. В IFBench Mercury 3 получава 76,84 точки — с 15 повече от GPT-6 Luna. Той също така има ясна преднина при автономното програмиране в SWE-Bench Atlas с 51,08 точки, докато конкурентите му достигат съответно 33,33 и 32,26.

Claude Haiku 5.5 печели по-дългия тест за програмиране DeepSWE. Той е и по-добър при намирането на информация в дълги текстове. GPT-6 Luna излиза с малка преднина в два теста на Artificial Analysis. Краткият обзор на Inception е по-предпазлив и описва качеството на Mercury 3 като равностойно или по-добро.

Според Inception Mercury 3 генерира 1068 токена в секунда върху графични процесори на Nvidia. При сравнението на компанията Claude Haiku 5.5 достига около 240, а GPT-6 Luna — около 130. Все още няма независими тестове.

От Inception казват, че Mercury 3 има над 40 пъти повече параметри от Mercury 1, но работи със същата скорост. Производителността също се е утроила спрямо малкия Mercury 1 mini. Inception вижда това като знак, че дифузионните модели се подобряват надеждно с увеличаването на мащаба си, също като стандартните езикови модели. Точният брой параметри остава неизвестен.

Mercury 3 е насочен към приложения, при които малките забавяния се натрупват

Inception предлага Mercury 3 основно за AI агенти, търсене, обслужване на клиенти и обучение. AI агентите изпълняват задачи на множество отделни стъпки и изчакват модела при всяка от тях. Тези малки забавяния бързо се натрупват.

Партньорите с ранен достъп споделят резултатите си в съобщението, като повечето от тях също поставят акцент върху скоростта. Octen AI създава функции за търсене за умни очила. „При умните очила отговор, който отнема пет секунди, изглежда като повреда“, казва основателят Куан Зоу. По думите му самото търсене е отнемало само около 80 милисекунди, а езиковият модел е бил тесният участък. С Mercury 3 медианният отговор е пристигал след 0,9 секунди. Целият процес е отнемал 2,2 секунди.

Образователната компания General Learning казва, че вече предоставя подсказки и корекции на учениците за около една секунда. Доставчикът на услуги за клиенти Lorikeet отчита по-бързо време за отговор, наред с по-добри резултати. В TinyFish AI съоснователят Шуахао Джан казва, че Mercury 3 е получил 50 задачи за навигация в реални уебсайтове. Той е решил 25 от тях, изпреварвайки GPT-6.1-Sol. Джан не посочва резултат за модела на OpenAI.

Ниската стартова цена на Mercury 3 може да не се задържи

Редовната цена е 0,20 долара за милион входни токена и 0,70 долара за милион изходни токена. При старта Inception намалява цените наполовина. Компанията не е казала кога отстъпката приключва. След това Mercury 3 ще струва повече за изходни токени от GPT-6 Luna и Claude Haiku 5.5, поне при по-кратки входове, за които и двата модела таксуват 0,50 долара. При много дълги подсказки обаче и двата конкурента таксуват значително повече. Mercury 3 може да обработва до 1 милион токена наведнъж.

Моделът е достъпен както в собствената платформа на Inception, така и в OpenRouter, Baseten и Vercel. Той използва същия API като моделите на OpenAI, така че според Inception разработчиците могат да преминат към него с малко усилия.

През февруари Inception пусна Mercury 2, който компанията нарече първия дифузионен модел, способен да разсъждава чрез междинни стъпки, преди да отговори. Преди това стартъпът набра 50 милиона долара. Сред инвеститорите са NVentures, M12 и Snowflake Ventures — инвестиционните подразделения на Nvidia, Microsoft и Snowflake.

Google работи по същия подход. Демонстрацията на компанията Gemini Diffusion беше последвана през юни от отворения модел DiffusionGemma. Google твърди, че той работи до четири пъти по-бързо от стандартния Gemma 4, но дава малко по-слаби резултати.

AI новини без хайпа – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен шест пъти годишно доклад за новостите в „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.