Посібник показує типізовані рішення за допомогою моделі Jev
Новий практичний посібник описує Jev, першу модель System One від TypeSafe AI, призначену для структурованих оцінок, а не для генерування тексту. Застосунок передає стан програми та набір типізованих запитань, а отримані результати може безпосередньо використовувати у розгалуженнях коду. У матеріалі показано встановлення офіційного Python SDK і запит, що одночасно застосовує примітиви Choice, Score та Noul.
Посібник розглядає, як формат стану змінює інформацію, доступну Jev: порівнюються рядки, масиви та структуровані об’єкти. Також пояснюється, як повторно обчислити опублікований показник упевненості з повернутих імовірностей. Окремий приклад вимірює переваги надсилання десяти запитань одним пакетом порівняно з десятьма окремими викликами.
Серед інших сценаріїв — маршрутизація з урахуванням рівня впевненості, складене оцінювання з вагами в коді, типізований виклик функцій і підрахунок, узгоджений із можливостями моделі. Виробнича частина охоплює моделі відповідей Pydantic, асинхронний клієнт із розподілом через asyncio, політики повторних спроб і типізовані помилки. Журнал наприкінці відстежує виклики, токени та загальну вартість.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.