GPU Leaderboard сравнява цените на облачни GPU за AI инференс
MarkTechPost представи GPU Leaderboard — безплатна услуга за сравнение на цените на облачни GPU при AI инференс, както и разширението за Chrome GPU Leaderboard: Deploy It. Платформата събира цени за заявки при поискване и за spot предложения от ценовите страници на доставчиците. Тя подрежда 201 активни оферти от 24 доставчици според цената за GPU-час.
Калкулаторът изчислява стойността на цял инференс, като използва избран ускорител, брой GPU, продължителност и натоварване. Поле за модел може да стесни резултатите. В пример с 8×H100 за 72 часа при 90% натоварване са нужни 576 GPU-часа. Най-ниската цена е $967.68 при Latitude, медианната за 15 доставчици е $1,716.48, а най-високата — $3,545.28 при CoreWeave. Показва се и ефективната цена за използван GPU-час, която включва платеното неизползвано време.
Deploy It работи на страници с модели в Hugging Face, в GitHub хранилища и чрез търсене от лентата на браузъра. Разширението оценява нужната VRAM при FP16, INT8 и INT4 и показва подходящи по-евтини GPU. Услугата включва данни за доставчици, региони и история на проверките; покритието и ежедневното обновяване остават ограничения спрямо по-старите тракери.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.