Google запустила Gemini Decisions API для калибрированных решений
Google запустила Gemini Decisions API на базе Gemini Decision 1 — модели для решений по фиксированным категориям, а не для генерации текста. Сервис оценивает до 1 000 вопросов на основе одного общего входа и возвращает калиброванные вероятности. Он принимает текст, изображения, аудио, видео и PDF-файлы. Вопросы могут требовать ответа «да/нет», выбора одного из 2–255 вариантов или оценки по упорядоченной шкале из 2–255 уровней.
API доступен через Google Developer API v1beta и работает только на инфраструктуре Google: открытые веса и самостоятельное развертывание не предлагаются. Максимальный контекст составляет 262 144 токена. По данным Google, сквозная задержка обычно равна 150–250 миллисекундам для входов объемом до 16 000 токенов, а вопросы обрабатываются параллельно. Стоимость составляет $0.10 за 1 млн входных токенов, тогда как выходные токены не тарифицируются.
В опубликованных Google тестах Gemini Decision 1 показал лучшие результаты в семи из девяти тестов точности. Ошибка калибровки Top-1 ECE составила 0.0250; на публичной части JevBench модель набрала 92.2%, а на Amazon ESCI — 58.7% Macro-F1. Поддержки кэширования запросов и Batch API пока нет. Бесплатный уровень для прототипирования доступен в Google AI Studio.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.