Deep Principle представя Hydrogen-1.0: модел с 753 млрд. отворени тегла за научни открития
Deep Principle пусна Hydrogen-1.0 — научен модел с отворени тегла за химия, материалознание и науки за живота. Той е изграден чрез дообучаване на GLM-5.3 на Z.ai с домейн-специфични данни, лабораторни записи и траектории на открития от агенти. За разработчиците той предлага отворени тегла, които отчитат превъзходство над GPT-6-Astra във FrontierScience-Research. Теглата се разпространяват под лиценза MIT.
Накратко
- Размер: 753 млрд. параметъра (MoE, около 40 млрд. активни според базовия GLM-5.3), контекст от 1 млн. токена, максимален изход от 128 хил. токена.
- Работи на: 8 графични процесора със SGLang (тествано); NVFP4 за NVIDIA B200/B300, MXFP4 за AMD MI350X/MI355X.
- Производителност: Превъзхожда GPT-6-Astra във FrontierScience-Research; приблизително се изравнява с Kimi-K3 в GPQA-Diamond.
- Най-добър резултат: 38,3% във FrontierScience-Research спрямо 33,3% за GPT-6-Astra (по данни на разработчика).
- Най-слаб резултат: Изостава от GPT-6-Astra (максимално мислене) с 3,33 пункта при изясняване на структури чрез ЯМР.
Какво представлява Hydrogen-1.0?
Hydrogen-1.0 е модел на Deep Principle за асистиране на научни изследвания, разработен от базирана в Ханджоу компания за изкуствен интелект в областта на материалите. В картата на модела той е описан като производен на GLM-5.3 модел за решаване на научни задачи. Насочен е към формулиране на въпроси, планиране на експерименти, анализ на резултати и открития с отворен край. Екипът на Deep Principle посочва, че патентовани модели са довели до скорошни резултати в областта на науката с изкуствен интелект, но възможностите им за открития не са отворени. Hydrogen-1.0 е опитът на компанията да създаде възпроизводима и подлежаща на проверка алтернатива.
Как е обучен Hydrogen-1.0?
Конвейерът съчетава контролирано дообучаване (SFT) с обучение с подсилване (RL). Данните идват от 4 източника:
- Домейн знания: данни за химията, материалознанието и науките за живота.
- Изследователски сценарии: обратна връзка по конкретни задачи от учените на Deep Principle.
- Лабораторни записи: записи от електронни лабораторни дневници за целия цикъл, събрани чрез Mira.
- Траектории на открития: поредици от избори и обратна връзка, включително неуспешни опити.
Инфраструктурата се базира на Megatron и SGLang в среди NVIDIA CUDA и AMD ROCm. Екипът запазва динамичното разредено внимание причинно-следствено в шардовете за паралелна обработка на контекста. Състоянието на оптимизатора Muon се прехвърля между процесора, графичния процесор и диска според бекенда. RL използва възобновяеми развивки, като за всеки токен се запазва първоначалната логаритмична вероятност на поведението за корекция по важност. Адаптер за подредба преобразува контролните точки за обучение в BF16 и инференционни тегла FP8 с блокове 128×128. Пълните набори от данни и рецептите не са публикувани.
Как се представя Hydrogen-1.0 в бенчмарковете?
В публични бенчмаркове Deep Principle съобщава, че Hydrogen-1.0 превъзхожда GPT-6-Astra във FrontierScience-Research. Публикация в поредица от съобщения от един от основателите отчита 93,0% в GPQA-Diamond. Според блога това е подобрение спрямо GLM-5.3 и приблизително изравняване с Kimi-K3.
Вътрешни оценки на изследователски задачи го сравняват с GPT-6-Astra при максимално мислене:
- Научни изчисления: Hydrogen-1.0 води с 5,13 процентни пункта.
- Прогнозиране на реакции в права посока: Hydrogen-1.0 води с 4,76 процентни пункта.
- Изясняване на структури чрез ЯМР: GPT-6-Astra води с 3,33 пункта.
При проектирането на комплекси на преходни метали моделите търсеха по-голяма разлика HOMO-LUMO в рамките на 5 кръга. До петия кръг Hydrogen-1.0 достигна средна най-добра до момента разлика от 4,318 eV. GPT-6-Astra достигна 3,689 eV, а Kimi-K3 — 3,353 eV. При 117 въпроса за планиране на експерименти Hydrogen-1.0 получи по-висок резултат от Kimi-K3. GPT-6-Astra и Opus-5.5 бяха изключени, след като отказаха повече от 50% от заявките.
Какво може да прави в реален лабораторен процес?
Техническата публикация показва 4 демонстрации. Hydrogen-1.0 пише Python код за изграждане на стопилка от полиетилен и стартира GROMACS. Той открива грешка в топологията, поправя я и анализира коригираната траектория от 40 ns. Изгражда реакционна мрежа на Ireland-Claisen от 27 структури чрез 30 правдоподобни реакции. Класира 7 кандидат-продукта за моноформилиране на 2-бромонафталин въз основа на следа от 1H ЯМР. Освен това пише JSON протокол за изследване на свързване на Suzuki с 12 виали. Стъпка за компилиране във виртуална лаборатория открива опит за аспирация без нов накрайник преди изпълнението.
Как се внедрява Hydrogen-1.0?
Теглата са достъпни в Hugging Face и ModelScope. Екипът на Deep Principle е тествал обслужване с BF16 и SGLang на 8 графични процесора, използвайки тензорен паралелизъм 8. NVFP4 е предназначен за NVIDIA B200 и B300. MXFP4 е предназначен за AMD Instinct MI350X и MI355X. Сървърът предоставя API, съвместим с OpenAI, с настройка reasoning_effort.
Hydrogen-1.0 спрямо GLM-5.3, Kimi K3 и GPT-6-Astra
| Характеристика | Hydrogen-1.0 | GLM-5.3 | Kimi K3 | GPT-6-Astra |
|---|---|---|---|---|
| Разработчик | Deep Principle | Z.ai | Moonshot AI | OpenAI |
| Общ брой параметри | 753 млрд. | 753 млрд. (HF) | 2,8 трлн. | Не е оповестен |
| Активни параметри | ~40 млрд. (наследени) | 40 млрд. (LM Studio) | 16 от 896 експерта | Не е оповестен |
| Контекст | 1 млн. | 1 млн. | 1 млн. | 1,05 млн. |
| Тегла / лиценз | Отворени, MIT | Отворени, лиценз GLM-5.3 | Отворени | Патентовани |
| Модалност | Текст | Текст | Текст + зрение | Не е оповестено тук |
| Научен фокус | Химия, материали, науки за живота | Програмиране, агенти | Общ | Общ |
| FrontierScience-Research | 38,3% | Не е оповестено | Не е оповестено | 33,3% (според Deep Principle) |
| GPQA-Diamond | 93,0% | Не е оповестено | Не е оповестено | 96,0% (според OpenAI) |
| Цена на API (вход/изход на 1 млн.) | NeuroSpark: Не е оповестена | $1.40 / $4.40 (Z.ai) | $3.00 / $15.00 | $10.00 / $50.00 (OpenAI) |
Основни изводи
- Hydrogen-1.0 е дообучен за наука GLM-5.3 с 753 млрд. параметъра и лиценз MIT.
- Отчита 38,3% във FrontierScience-Research — над 33,3% за GPT-6-Astra.
- Обучението включва лабораторни записи и траектории на открития, а не само научни публикации.
- Все още изостава от GPT-6-Astra при изясняване на структури чрез ЯМР.
- Версиите NVFP4 и MXFP4 са предназначени за графични процесори от клас Blackwell и MI350.
Разгледайте техническия блог, теглата на модела в Hugging Face и бележките за употреба. Също така, можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.
Имате нужда от партньор за популяризиране на вашето GitHub хранилище ИЛИ страница в Hugging Face ИЛИ представяне на продукт ИЛИ уебинар и т.н.? Свържете се с нас
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.