Perplexity представила Photon для швидшого пошуку та ранжування
Perplexity представила Photon — власний рушій пошуку й ранжування, написаний мовою Rust. Він замінив форкнутий компанією рушій із відкритим кодом, який використовувався в AI-native пошуковій системі, і тепер обробляє весь продукційний трафік. Photon також працює в режимі Fast Search у Perplexity Search API. Для запиту потрібно вказати search_type: "fast" у POST /search, а ціна становить $1 за 1 000 запитів. Сам Photon не є відкритим і не підтримує самостійне розгортання.
У попередньої системи продукційна затримка p99 наближалася до 800 ms. Холодні читання, об’єднання дискових індексів і відновлення кластерів спричиняли додаткові затримки. Photon спрямовує запити до груп шардiв, виконує пошук і два етапи ранжування, після чого об’єднує результати. Рушій використовує адаптивні списки публікацій, обмежений обхід кандидатів, компактні записи документів і пакетні асинхронні читання. Побудову індексів відокремлено від їх обслуговування.
За даними Perplexity, Photon зменшив p99 затримки пошуку та ранжування приблизно з 800 до 65 ms і потребує приблизно на 20% менше серверів обслуговування. Fast Search показав 160 ms на p50 і 230 ms на p95. У 3 554 завданнях він досяг 64,3% за оціненої вартості $59,73, тоді як стандартний режим мав 64,0% і $187,60. Водночас швидкий режим продемонстрував нижчу релевантність і доступність відповідей на внутрішніх тестах довгого хвоста.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.