GPU Leaderboard порівнює ціни на хмарні GPU для інференсу
MarkTechPost запустила GPU Leaderboard — безкоштовний сервіс для порівняння цін на хмарні GPU для AI-інференсу — і розширення для Chrome GPU Leaderboard: Deploy It. Платформа отримує ціни на ресурси на вимогу та spot-пропозиції зі сторінок тарифів самих провайдерів. Вона ранжує 201 актуальну пропозицію від 24 провайдерів за вартістю GPU-години.
Калькулятор оцінює вартість повного запуску інференсу: користувач задає прискорювач, кількість GPU, тривалість і рівень використання. Додаткове поле моделі звужує перелік результатів. У прикладі з 8×H100 на 72 години за використання 90% потрібно 576 GPU-годин. Найнижча ціна становить $967.68 у Latitude, медіанна серед 15 провайдерів — $1,716.48, а найвища — $3,545.28 у CoreWeave. Сервіс також показує фактичну ціну використаної GPU-години з урахуванням оплачуваного простою.
Deploy It працює на сторінках моделей Hugging Face, у репозиторіях GitHub і через пошук із панелі браузера. Розширення визначає розмір моделі, оцінює потребу у VRAM для FP16, INT8 та INT4 і показує відповідні дешевші GPU. Платформа містить дані про провайдерів, регіони й історію перевірок цін. Її основними обмеженнями порівняно зі старішими трекерами залишаються охоплення та щоденне оновлення.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.