Sakhanda Wire
NVDA $203.87 -0.38% MSFT $512.53 -1.80% GOOGL $282.08 +0.80% META $610.49 -0.73% AMZN $247.38 +2.92%
← Към новините

Deep Principle представя Hydrogen-1.0: модел с 753 млрд. отворени тегла за научни открития

Deep Principle пусна Hydrogen-1.0 — научен модел с отворени тегла за химия, материалознание и науки за живота. Той е изграден чрез дообучаване на GLM-5.3 на Z.ai с домейн-специфични данни, лабораторни записи и траектории на открития от агенти. За разработчиците той предлага отворени тегла, които отчитат превъзходство над GPT-6-Astra във FrontierScience-Research. Теглата се разпространяват под лиценза MIT.

Накратко

  • Размер: 753 млрд. параметъра (MoE, около 40 млрд. активни според базовия GLM-5.3), контекст от 1 млн. токена, максимален изход от 128 хил. токена.
  • Работи на: 8 графични процесора със SGLang (тествано); NVFP4 за NVIDIA B200/B300, MXFP4 за AMD MI350X/MI355X.
  • Производителност: Превъзхожда GPT-6-Astra във FrontierScience-Research; приблизително се изравнява с Kimi-K3 в GPQA-Diamond.
  • Най-добър резултат: 38,3% във FrontierScience-Research спрямо 33,3% за GPT-6-Astra (по данни на разработчика).
  • Най-слаб резултат: Изостава от GPT-6-Astra (максимално мислене) с 3,33 пункта при изясняване на структури чрез ЯМР.

Какво представлява Hydrogen-1.0?

Hydrogen-1.0 е модел на Deep Principle за асистиране на научни изследвания, разработен от базирана в Ханджоу компания за изкуствен интелект в областта на материалите. В картата на модела той е описан като производен на GLM-5.3 модел за решаване на научни задачи. Насочен е към формулиране на въпроси, планиране на експерименти, анализ на резултати и открития с отворен край. Екипът на Deep Principle посочва, че патентовани модели са довели до скорошни резултати в областта на науката с изкуствен интелект, но възможностите им за открития не са отворени. Hydrogen-1.0 е опитът на компанията да създаде възпроизводима и подлежаща на проверка алтернатива.

Как е обучен Hydrogen-1.0?

Конвейерът съчетава контролирано дообучаване (SFT) с обучение с подсилване (RL). Данните идват от 4 източника:

  • Домейн знания: данни за химията, материалознанието и науките за живота.
  • Изследователски сценарии: обратна връзка по конкретни задачи от учените на Deep Principle.
  • Лабораторни записи: записи от електронни лабораторни дневници за целия цикъл, събрани чрез Mira.
  • Траектории на открития: поредици от избори и обратна връзка, включително неуспешни опити.

Инфраструктурата се базира на Megatron и SGLang в среди NVIDIA CUDA и AMD ROCm. Екипът запазва динамичното разредено внимание причинно-следствено в шардовете за паралелна обработка на контекста. Състоянието на оптимизатора Muon се прехвърля между процесора, графичния процесор и диска според бекенда. RL използва възобновяеми развивки, като за всеки токен се запазва първоначалната логаритмична вероятност на поведението за корекция по важност. Адаптер за подредба преобразува контролните точки за обучение в BF16 и инференционни тегла FP8 с блокове 128×128. Пълните набори от данни и рецептите не са публикувани.

Как се представя Hydrogen-1.0 в бенчмарковете?

В публични бенчмаркове Deep Principle съобщава, че Hydrogen-1.0 превъзхожда GPT-6-Astra във FrontierScience-Research. Публикация в поредица от съобщения от един от основателите отчита 93,0% в GPQA-Diamond. Според блога това е подобрение спрямо GLM-5.3 и приблизително изравняване с Kimi-K3.

Вътрешни оценки на изследователски задачи го сравняват с GPT-6-Astra при максимално мислене:

  • Научни изчисления: Hydrogen-1.0 води с 5,13 процентни пункта.
  • Прогнозиране на реакции в права посока: Hydrogen-1.0 води с 4,76 процентни пункта.
  • Изясняване на структури чрез ЯМР: GPT-6-Astra води с 3,33 пункта.

При проектирането на комплекси на преходни метали моделите търсеха по-голяма разлика HOMO-LUMO в рамките на 5 кръга. До петия кръг Hydrogen-1.0 достигна средна най-добра до момента разлика от 4,318 eV. GPT-6-Astra достигна 3,689 eV, а Kimi-K3 — 3,353 eV. При 117 въпроса за планиране на експерименти Hydrogen-1.0 получи по-висок резултат от Kimi-K3. GPT-6-Astra и Opus-5.5 бяха изключени, след като отказаха повече от 50% от заявките.

Какво може да прави в реален лабораторен процес?

Техническата публикация показва 4 демонстрации. Hydrogen-1.0 пише Python код за изграждане на стопилка от полиетилен и стартира GROMACS. Той открива грешка в топологията, поправя я и анализира коригираната траектория от 40 ns. Изгражда реакционна мрежа на Ireland-Claisen от 27 структури чрез 30 правдоподобни реакции. Класира 7 кандидат-продукта за моноформилиране на 2-бромонафталин въз основа на следа от 1H ЯМР. Освен това пише JSON протокол за изследване на свързване на Suzuki с 12 виали. Стъпка за компилиране във виртуална лаборатория открива опит за аспирация без нов накрайник преди изпълнението.

Как се внедрява Hydrogen-1.0?

Теглата са достъпни в Hugging Face и ModelScope. Екипът на Deep Principle е тествал обслужване с BF16 и SGLang на 8 графични процесора, използвайки тензорен паралелизъм 8. NVFP4 е предназначен за NVIDIA B200 и B300. MXFP4 е предназначен за AMD Instinct MI350X и MI355X. Сървърът предоставя API, съвместим с OpenAI, с настройка reasoning_effort.

Hydrogen-1.0 спрямо GLM-5.3, Kimi K3 и GPT-6-Astra

ХарактеристикаHydrogen-1.0GLM-5.3Kimi K3GPT-6-Astra
РазработчикDeep PrincipleZ.aiMoonshot AIOpenAI
Общ брой параметри753 млрд.753 млрд. (HF)2,8 трлн.Не е оповестен
Активни параметри~40 млрд. (наследени)40 млрд. (LM Studio)16 от 896 експертаНе е оповестен
Контекст1 млн.1 млн.1 млн.1,05 млн.
Тегла / лицензОтворени, MITОтворени, лиценз GLM-5.3ОтворениПатентовани
МодалностТекстТекстТекст + зрениеНе е оповестено тук
Научен фокусХимия, материали, науки за животаПрограмиране, агентиОбщОбщ
FrontierScience-Research38,3%Не е оповестеноНе е оповестено33,3% (според Deep Principle)
GPQA-Diamond93,0%Не е оповестеноНе е оповестено96,0% (според OpenAI)
Цена на API (вход/изход на 1 млн.)NeuroSpark: Не е оповестена$1.40 / $4.40 (Z.ai)$3.00 / $15.00$10.00 / $50.00 (OpenAI)

Основни изводи

  • Hydrogen-1.0 е дообучен за наука GLM-5.3 с 753 млрд. параметъра и лиценз MIT.
  • Отчита 38,3% във FrontierScience-Research — над 33,3% за GPT-6-Astra.
  • Обучението включва лабораторни записи и траектории на открития, а не само научни публикации.
  • Все още изостава от GPT-6-Astra при изясняване на структури чрез ЯМР.
  • Версиите NVFP4 и MXFP4 са предназначени за графични процесори от клас Blackwell и MI350.

Разгледайте техническия блог, теглата на модела в Hugging Face и бележките за употреба. Също така, можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризиране на вашето GitHub хранилище ИЛИ страница в Hugging Face ИЛИ представяне на продукт ИЛИ уебинар и т.н.? Свържете се с нас

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Текстът и изображенията са собственост на MarkTechPost и са възпроизведени тук с посочване на авторството и връзка към оригиналната публикация.

← Към новините

Още новини

Всички последни новини