NVIDIA повідомила про прискорення прогнозування структур за допомогою BioIR
NVIDIA описала BioNeMo Inference Runtime (BioIR) — бібліотеку Python для прискорення підтримуваних моделей прогнозування біомолекулярних структур на GPU NVIDIA. Вона зберігає стандартний робочий процес PyTorch і оптимізує, зокрема, стеки Pairformer та Evoformer, трикутні операції, попарну увагу, дифузійні трансформери й модулі на рівні атомів. BioIR може обробляти черги незалежних завдань або надавати окремі оптимізовані модулі для власного коду PyTorch.
У зіставному тесті на 1 000 людських димерах із використанням 8xH100 80GB прискорений BioIR Boltz-2 завершив усі завдання та забезпечив 58,5 тис. успішно згорнутих залишків на виділену GPU-годину. Публічна реалізація Boltz-2, скомпільована за допомогою torch, обробила 20,2 тис. залишків на GPU-годину й вичерпала пам’ять на 29 цілях. Перевага BioIR становила 2,90 раза за продуктивністю, нормованою за кількістю залишків. Розрахунок охоплював лише етап згортання і не включав генерацію MSA, підготовку, зберігання, передавання даних чи повторні спроби.
BioIR поєднує вибір ядер, оптимізацію через CUDA Graph і реплікацію моделей за допомогою Ray. Один прохід моделі не розподіляється між кількома GPU. За оцінкою NVIDIA, для одного мільйона зіставних цілей потрібно 11 MWh проти 35 MWh у розрахунку за еквівалентом TDP восьми GPU. Runtime доступний у відкритому репозиторії GitHub і потребує Python 3.12+, сумісного GPU NVIDIA та підготовлених вхідних даних.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.