Sentence Transformers v6.0 додав багатовекторний пошук у стилі ColBERT
У Sentence Transformers v6.0 з’явився MultiVectorEncoder — четвертий тип моделей для пошуку з пізньою взаємодією у стилі ColBERT. Бібліотека також підтримує щільні, розріджені та reranker-моделі для семантичного пошуку й retrieval-augmented generation. MultiVectorEncoder безпосередньо завантажує чекпойнти PyLate і Stanford-NLP ColBERT, а моделі родини ColPali можна використовувати для візуального пошуку документами через той самий API.
Звичайна embedding-модель стискає весь документ в один вектор, тоді як багатовекторна зберігає окремий спроєктований вектор для кожного токена. Під час оцінювання оператор MaxSim знаходить найсильнішу відповідність токена запиту токену документа й підсумовує результати. Це дає змогу зберегти точні збіги та окремі складові запиту, але збільшує розмір індексу.
У прикладі з Natural Questions 4 874 уривки створили 608 414 токенних векторів розмірністю 128. У форматі float32 вони займали 311,5 MB, а стиснений індекс fast-plaid — 92 MB. Пакет встановлюється через pip. Sentence Transformers v6.0 потребує transformers v5.x, torch 2.2+ і huggingface-hub v1.x; для візуального пошуку в стилі ColPali потрібні додаткові залежності для зображень.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Hugging Face. Факти, цитати та повний контекст — в оригінальній статті нижче.