Perplexity представила Photon для ускорения поиска и ранжирования
Perplexity представила Photon — собственный движок поиска и ранжирования, написанный на Rust. Он заменил форкнутый компанией движок с открытым исходным кодом, который использовался в AI-native поисковой системе, и теперь обслуживает весь продукционный трафик. Photon также лежит в основе Fast Search в Perplexity Search API. Для вызова нужно указать search_type: "fast" в POST /search; стоимость составляет $1 за 1 000 запросов. Сам Photon закрыт и не предназначен для самостоятельного развёртывания.
У прежней системы производственная задержка p99 составляла около 800 ms. Холодные чтения, объединение дисковых индексов и восстановление кластеров приводили к дополнительным задержкам. Photon направляет запросы к группам шардов, выполняет поиск и два этапа ранжирования, а затем объединяет результаты. В движке используются адаптивные списки публикаций, ограниченное обходом кандидатов ранжирование, компактные записи документов и пакетные асинхронные чтения. Построение индексов отделено от их обслуживания.
По данным Perplexity, Photon сократил p99 задержки поиска и ранжирования примерно с 800 до 65 ms и требует примерно на 20% меньше обслуживающих машин. Fast Search показал 160 ms при p50 и 230 ms при p95. В 3 554 задачах он получил результат 64,3% при оценочной стоимости $59,73, тогда как стандартная настройка показала 64,0% и $187,60. При этом у быстрого режима снизились релевантность и доступность ответов на внутренних тестах длинного хвоста.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.