Deep Principle представила Hydrogen-1.0: модель із 753 млрд відкритих вагів для наукових відкриттів
Deep Principle випустила Hydrogen-1.0 — наукову модель із відкритими вагами для хімії, матеріалознавства та наук про життя. Її створено шляхом донавчання GLM-5.3 від Z.ai на галузевих даних, лабораторних записах і траєкторіях відкриттів агентів. Для розробників вона пропонує відкриті ваги, які, за повідомленням, перевершують GPT-6-Astra у FrontierScience-Research. Ваги випускаються за ліцензією MIT.
Коротко
- Розмір: 753 млрд параметрів (MoE, приблизно 40 млрд активних відповідно до базової моделі GLM-5.3), контекст на 1 млн токенів, максимум 128 тис. токенів у вихідних даних.
- Працює на: 8 GPU із SGLang (протестовано); NVFP4 для NVIDIA B200/B300, MXFP4 для AMD MI350X/MI355X.
- Продуктивність: перевершує GPT-6-Astra у FrontierScience-Research; приблизно відповідає Kimi-K3 у GPQA-Diamond.
- Найкращий результат: 38,3% у FrontierScience-Research проти 33,3% у GPT-6-Astra (за власними даними).
- Найгірший результат: поступається GPT-6-Astra (максимальний режим міркування) на 3,33 процентного пункту в установленні структури за даними ЯМР.
Що таке Hydrogen-1.0?
Hydrogen-1.0 — це модель-помічник для наукових досліджень від Deep Principle, компанії з Ханчжоу, що розробляє ШІ для матеріалознавства. У картці моделі її описано як похідну від GLM-5.3 для розв’язання наукових задач. Вона призначена для формулювання запитань, планування експериментів, аналізу результатів і відкриттів у відкритих предметних галузях. Команда Deep Principle зазначає, що пропрієтарні моделі нещодавно продемонстрували результати в науці за допомогою ШІ, але їхні можливості щодо відкриттів не є відкритими. Hydrogen-1.0 — це спроба створити відтворювану модель, яку можна досліджувати.
Як навчали Hydrogen-1.0?
Конвеєр поєднує контрольоване донавчання (SFT) із навчанням з підкріпленням (RL). Дані надходять із 4 джерел:
- Галузеві знання: дані з хімії, матеріалознавства та наук про життя.
- Дослідницькі сценарії: відгуки від науковців Deep Principle, специфічні для окремих завдань.
- Лабораторні записи: повні цикли записів в електронному лабораторному журналі, зібрані через Mira.
- Траєкторії відкриттів: послідовності рішень і відгуків, зокрема невдалі спроби.
Інфраструктура базується на Megatron і SGLang та працює з NVIDIA CUDA і AMD ROCm. Команда зберігає динамічну розріджену причинно-наслідкову увагу між сегментами паралельного контексту. Стан оптимізатора Muon переміщується між CPU, GPU і диском відповідно до бекенду. У RL використовуються відновлювані розгортання, а кожен токен зберігає початкову логарифмічну ймовірність поведінки для корекції важливості. Адаптер розкладки перетворює контрольні точки навчання на ваги для інференсу у форматах BF16 і FP8 із блоками 128×128. Повні набори даних і рецепти не оприлюднено.
Як Hydrogen-1.0 показує себе в бенчмарках?
У публічних бенчмарках Deep Principle повідомляє, що Hydrogen-1.0 перевершує GPT-6-Astra у FrontierScience-Research. У треді одного із засновників у соцмережі повідомляється про результат 93,0% у GPQA-Diamond. За даними блогу, це краще, ніж у GLM-5.3, і приблизно відповідає результату Kimi-K3.
Внутрішні оцінювання дослідницьких завдань порівнюють її з GPT-6-Astra у режимі максимального міркування:
- Наукові обчислення: Hydrogen-1.0 випереджає на 5,13 процентного пункту.
- Прогнозування прямих реакцій: Hydrogen-1.0 випереджає на 4,76 процентного пункту.
- Установлення структури за даними ЯМР: GPT-6-Astra випереджає на 3,33 пункту.
Під час проєктування комплексів перехідних металів моделі протягом 5 раундів намагалися збільшити ширину забороненої зони HOMO-LUMO. До 5-го раунду Hydrogen-1.0 досягла середнього найкращого на цей момент значення ширини зони 4,318 еВ. GPT-6-Astra досягла 3,689 еВ, а Kimi-K3 — 3,353 еВ. У 117 запитаннях щодо планування експериментів Hydrogen-1.0 набрала більше балів, ніж Kimi-K3. GPT-6-Astra і Opus-5.5 виключили після того, як вони відмовилися виконувати понад 50% запитів.
Що вона може робити в реальному лабораторному процесі?
Технічна публікація демонструє 4 приклади. Hydrogen-1.0 пише код Python для створення розплаву поліетилену та запускає GROMACS. Вона виявляє помилку топології, виправляє її й аналізує скориговану траєкторію тривалістю 40 нс. Вона розширює мережу реакцій Айрленда—Клайзена з 27 структур через 30 правдоподібних реакцій. Вона ранжує 7 кандидатних продуктів моноформілювання 2-бромнафталіну за даними 1H ЯМР. Також вона створює протокол JSON для дослідження реакції Судзукі у 12 флаконах. Етап компіляції у віртуальній лабораторії виявляє спробу аспірації без нової насадки до початку виконання.
Як розгорнути Hydrogen-1.0?
Ваги доступні на Hugging Face і ModelScope. Команда Deep Principle протестувала обслуговування BF16 із SGLang на 8 GPU, використовуючи тензорний паралелізм 8. NVFP4 призначений для NVIDIA B200 і B300. MXFP4 призначений для AMD Instinct MI350X і MI355X. Сервер надає API, сумісний з OpenAI, із налаштуванням reasoning_effort.
Hydrogen-1.0 проти GLM-5.3, Kimi K3 і GPT-6-Astra
| Характеристика | Hydrogen-1.0 | GLM-5.3 | Kimi K3 | GPT-6-Astra |
|---|---|---|---|---|
| Розробник | Deep Principle | Z.ai | Moonshot AI | OpenAI |
| Загальна кількість параметрів | 753 млрд | 753 млрд (HF) | 2,8 трлн | Не розкрито |
| Активні параметри | ~40 млрд (успадковано) | 40 млрд (LM Studio) | 16 із 896 експертів | Не розкрито |
| Контекст | 1 млн | 1 млн | 1 млн | 1,05 млн |
| Ваги / ліцензія | Відкриті, MIT | Відкриті, ліцензія GLM-5.3 | Відкриті | Пропрієтарні |
| Модальність | Текст | Текст | Текст + зір | Тут не розкрито |
| Науковий фокус | Хімія, матеріали, науки про життя | Кодування, агенти | Загальний | Загальний |
| FrontierScience-Research | 38,3% | Не розкрито | Не розкрито | 33,3% (за даними Deep Principle) |
| GPQA-Diamond | 93,0% | Не розкрито | Не розкрито | 96,0% (за даними OpenAI) |
| Ціна API (вхідні/вихідні дані за 1 млн) | NeuroSpark: не розкрито | $1.40 / $4.40 (Z.ai) | $3.00 / $15.00 | $10.00 / $50.00 (OpenAI) |
Ключові висновки
- Hydrogen-1.0 — це донавчена для науки модель GLM-5.3 із 753 млрд параметрів, ліцензована за MIT.
- Вона демонструє 38,3% у FrontierScience-Research — вище за 33,3% GPT-6-Astra.
- До навчання додано лабораторні записи й траєкторії відкриттів, а не лише наукові статті.
- Вона все ще поступається GPT-6-Astra в установленні структури за даними ЯМР.
- Збірки NVFP4 і MXFP4 призначені для GPU класу Blackwell і MI350.
Ознайомтеся з технічним блогом, вагами моделі на Hugging Face і примітками щодо використання. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання з понад 150 тис. учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.
Потрібне партнерство з нами для просування вашого репозиторію GitHub АБО сторінки на Hugging Face АБО релізу продукту АБО вебінару тощо? Зв’яжіться з нами
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.