GPU Leaderboard сравнивает цены на облачные GPU для инференса
MarkTechPost запустила GPU Leaderboard — бесплатный сервис для сравнения цен на облачные GPU при AI-инференсе — и расширение для Chrome GPU Leaderboard: Deploy It. Платформа получает цены на ресурсы по запросу и spot-предложения со страниц тарифов самих провайдеров. Сейчас она ранжирует 201 действующее предложение от 24 провайдеров по стоимости GPU-часа.
Калькулятор оценивает не отдельный час, а весь инференс-запуск: пользователь выбирает ускоритель, число GPU, продолжительность и загрузку. Дополнительное поле модели сужает список. В примере с 8×H100 на 72 часа при загрузке 90% требуется 576 GPU-часов. Минимальная стоимость составляет $967.68 у Latitude, медианная среди 15 провайдеров — $1,716.48, а максимальная — $3,545.28 у CoreWeave. Сервис также показывает фактическую цену использованного GPU-часа с учетом оплачиваемого простоя.
Deploy It работает на страницах моделей Hugging Face, в репозиториях GitHub и через поиск из панели браузера. Расширение определяет размер модели, оценивает потребность в VRAM для FP16, INT8 и INT4 и предлагает подходящие недорогие GPU. В сервисе также есть сведения о провайдерах, регионах и истории проверок цен. По сравнению со старыми трекерами его ограничениями остаются охват и ежедневное обновление данных.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.