Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← До новин

GPU Leaderboard порівнює ціни на хмарні GPU для інференсу

MarkTechPost запустила GPU Leaderboard — безкоштовний сервіс для порівняння цін на хмарні GPU для AI-інференсу — і розширення для Chrome GPU Leaderboard: Deploy It. Платформа отримує ціни на ресурси на вимогу та spot-пропозиції зі сторінок тарифів самих провайдерів. Вона ранжує 201 актуальну пропозицію від 24 провайдерів за вартістю GPU-години.

Калькулятор оцінює вартість повного запуску інференсу: користувач задає прискорювач, кількість GPU, тривалість і рівень використання. Додаткове поле моделі звужує перелік результатів. У прикладі з 8×H100 на 72 години за використання 90% потрібно 576 GPU-годин. Найнижча ціна становить $967.68 у Latitude, медіанна серед 15 провайдерів — $1,716.48, а найвища — $3,545.28 у CoreWeave. Сервіс також показує фактичну ціну використаної GPU-години з урахуванням оплачуваного простою.

Deploy It працює на сторінках моделей Hugging Face, у репозиторіях GitHub і через пошук із панелі браузера. Розширення визначає розмір моделі, оцінює потребу у VRAM для FP16, INT8 та INT4 і показує відповідні дешевші GPU. Платформа містить дані про провайдерів, регіони й історію перевірок цін. Її основними обмеженнями порівняно зі старішими трекерами залишаються охоплення та щоденне оновлення.

Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Репортаж і зображення належать MarkTechPost і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини