Deep Principle представила Hydrogen-1.0: модель с 753 млрд открытых весов для научных открытий
Deep Principle выпустила Hydrogen-1.0 — научную модель с открытыми весами для химии, материаловедения и наук о жизни. Она создана посредством дообучения модели GLM-5.3 от Z.ai на отраслевых данных, лабораторных записях и траекториях открытий, полученных агентами. Для разработчиков она предлагает открытые веса, которые, согласно отчету, превосходят GPT-6-Astra на тесте FrontierScience-Research. Веса распространяются по лицензии MIT.
Кратко
- Размер: 753 млрд параметров (MoE, около 40 млрд активных согласно базовой модели GLM-5.3), контекст 1 млн токенов, максимальный вывод — 128 тыс. токенов.
- Запуск: на 8 GPU с SGLang (проверено); NVFP4 для NVIDIA B200/B300, MXFP4 для AMD MI350X/MI355X.
- Производительность: превосходит GPT-6-Astra на FrontierScience-Research; примерно соответствует Kimi-K3 на GPQA-Diamond.
- Лучший результат: 38,3% на FrontierScience-Research против 33,3% у GPT-6-Astra (по собственным данным).
- Худший результат: уступает GPT-6-Astra (максимальный уровень рассуждений) 3,33 процентного пункта при установлении структуры по данным ЯМР.
Что такое Hydrogen-1.0?
Hydrogen-1.0 — модель-помощник для научных исследований от Deep Principle, базирующейся в Ханчжоу компании, занимающейся применением ИИ в материаловедении. В карточке модели она описывается как производная GLM-5.3 для решения научных задач. Модель предназначена для формулирования вопросов, планирования экспериментов, анализа результатов и открытых исследований. Команда Deep Principle отмечает, что проприетарные модели уже продемонстрировали результаты в науке, однако их способности к открытиям недоступны для изучения. Hydrogen-1.0 — попытка создать воспроизводимую и проверяемую альтернативу.
Как обучалась Hydrogen-1.0?
Процесс обучения сочетает обучение с учителем (SFT) и обучение с подкреплением (RL). Данные поступают из 4 источников:
- Отраслевые знания: данные по химии, материаловедению и наукам о жизни.
- Исследовательские сценарии: обратная связь по конкретным задачам от ученых Deep Principle.
- Лабораторные записи: полные записи электронных лабораторных журналов, собранные через Mira.
- Траектории открытий: последовательности решений и обратной связи, включая неудачные попытки.
Инфраструктура основана на Megatron и SGLang и работает с NVIDIA CUDA и AMD ROCm. Команда сохраняет динамическое разреженное внимание причинным между сегментами, обрабатываемыми параллельно по контексту. Состояние оптимизатора Muon перемещается между CPU, GPU и диском в зависимости от бэкенда. В RL используются возобновляемые запуски, а для каждого токена сохраняется исходная логарифмическая вероятность поведения, чтобы корректировать важность. Адаптер компоновки преобразует контрольные точки обучения в веса инференса BF16 и FP8 с блочной структурой 128×128. Полные наборы данных и рецепты обучения не публикуются.
Как Hydrogen-1.0 показывает себя на тестах?
На общедоступных тестах Deep Principle сообщает, что Hydrogen-1.0 превосходит GPT-6-Astra на FrontierScience-Research. В ветке сообщений один из основателей сообщает о результате 93,0% на GPQA-Diamond. Согласно блогу, это лучше результата GLM-5.3 и примерно соответствует Kimi-K3.
На внутренних оценках исследовательских задач модель сравнивали с GPT-6-Astra при максимальном уровне рассуждений:
- Научные вычисления: Hydrogen-1.0 опережает на 5,13 процентного пункта.
- Предсказание прямых реакций: Hydrogen-1.0 опережает на 4,76 процентного пункта.
- Установление структуры по данным ЯМР: GPT-6-Astra опережает на 3,33 процентного пункта.
При проектировании комплексов переходных металлов модели в течение 5 раундов стремились увеличить разницу HOMO-LUMO. К 5-му раунду средняя наилучшая достигнутая разница для Hydrogen-1.0 составила 4,318 эВ. У GPT-6-Astra она составила 3,689 эВ, а у Kimi-K3 — 3,353 эВ. В 117 вопросах по планированию экспериментов Hydrogen-1.0 набрала больше баллов, чем Kimi-K3. GPT-6-Astra и Opus-5.5 были исключены после того, как отказались выполнить более 50% запросов.
Что модель умеет в реальном лабораторном процессе?
В технической публикации представлены 4 демонстрации. Hydrogen-1.0 пишет код на Python для создания расплава полиэтилена и запускает GROMACS. Она обнаруживает ошибку в топологии, исправляет ее и анализирует скорректированную 40-нс траекторию. Модель расширяет сеть реакций Ireland–Claisen до 27 структур посредством 30 правдоподобных реакций. Она ранжирует 7 возможных продуктов моноформилирования 2-бромнафталина по данным спектра 1H ЯМР. Кроме того, модель создает протокол JSON для исследования реакции сочетания Судзуки в 12 флаконах. На этапе компиляции виртуальная лаборатория обнаруживает попытку аспирации без установки нового наконечника до начала выполнения.
Как развернуть Hydrogen-1.0?
Веса доступны на Hugging Face и ModelScope. Команда Deep Principle протестировала обслуживание BF16 с помощью SGLang на 8 GPU, используя тензорный параллелизм 8. NVFP4 предназначен для NVIDIA B200 и B300. MXFP4 предназначен для AMD Instinct MI350X и MI355X. Сервер предоставляет API, совместимый с OpenAI, с настройкой reasoning_effort.
Hydrogen-1.0 против GLM-5.3, Kimi K3 и GPT-6-Astra
| Характеристика | Hydrogen-1.0 | GLM-5.3 | Kimi K3 | GPT-6-Astra |
|---|---|---|---|---|
| Разработчик | Deep Principle | Z.ai | Moonshot AI | OpenAI |
| Всего параметров | 753 млрд | 753 млрд (HF) | 2,8 трлн | Не раскрыто |
| Активные параметры | ~40 млрд (унаследовано) | 40 млрд (LM Studio) | 16 из 896 экспертов | Не раскрыто |
| Контекст | 1 млн | 1 млн | 1 млн | 1,05 млн |
| Веса / лицензия | Открытые, MIT | Открытые, лицензия GLM-5.3 | Открытые | Проприетарные |
| Модальность | Текст | Текст | Текст + зрение | Не раскрыто здесь |
| Научная специализация | Химия, материалы, науки о жизни | Кодирование, агенты | Общая | Общая |
| FrontierScience-Research | 38,3% | Не раскрыто | Не раскрыто | 33,3% (по данным Deep Principle) |
| GPQA-Diamond | 93,0% | Не раскрыто | Не раскрыто | 96,0% (по данным OpenAI) |
| Цена API (вход/выход за 1 млн) | NeuroSpark: не раскрыта | $1,40 / $4,40 (Z.ai) | $3,00 / $15,00 | $10,00 / $50,00 (OpenAI) |
Основные выводы
- Hydrogen-1.0 — дообученная для науки модель GLM-5.3 с 753 млрд параметров, распространяемая по лицензии MIT.
- Она показывает результат 38,3% на FrontierScience-Research, превышая результат GPT-6-Astra в 33,3%.
- В обучение включены лабораторные записи и траектории открытий, а не только научные статьи.
- При этом модель по-прежнему уступает GPT-6-Astra в установлении структуры по данным ЯМР.
- Сборки NVFP4 и MXFP4 предназначены для GPU Blackwell и MI350.
Ознакомьтесь с техническим блогом, весами модели на Hugging Face и инструкциями по использованию. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту ML с более чем 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы пользуетесь Telegram? Теперь вы также можете присоединиться к нам в Telegram.
Хотите сотрудничать с нами для продвижения вашего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.