Sakhanda Wire
NVDA $152.18 -2.54% MSFT $505.66 -2.38% GOOGL $279.68 -1.43% META $617.65 -1.40% AMZN $256.02 -0.67%
← До новин

Sentence Transformers v6.0 додав багатовекторний пошук у стилі ColBERT

У Sentence Transformers v6.0 з’явився MultiVectorEncoder — четвертий тип моделей для пошуку з пізньою взаємодією у стилі ColBERT. Бібліотека також підтримує щільні, розріджені та reranker-моделі для семантичного пошуку й retrieval-augmented generation. MultiVectorEncoder безпосередньо завантажує чекпойнти PyLate і Stanford-NLP ColBERT, а моделі родини ColPali можна використовувати для візуального пошуку документами через той самий API.

Звичайна embedding-модель стискає весь документ в один вектор, тоді як багатовекторна зберігає окремий спроєктований вектор для кожного токена. Під час оцінювання оператор MaxSim знаходить найсильнішу відповідність токена запиту токену документа й підсумовує результати. Це дає змогу зберегти точні збіги та окремі складові запиту, але збільшує розмір індексу.

У прикладі з Natural Questions 4 874 уривки створили 608 414 токенних векторів розмірністю 128. У форматі float32 вони займали 311,5 MB, а стиснений індекс fast-plaid — 92 MB. Пакет встановлюється через pip. Sentence Transformers v6.0 потребує transformers v5.x, torch 2.2+ і huggingface-hub v1.x; для візуального пошуку в стилі ColPali потрібні додаткові залежності для зображень.

Текст підготовлено ШІ Sakhanda Wire за матеріалом Hugging Face. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням Hugging Face

Читати оригінал на Hugging Face ↗

Репортаж і зображення належать Hugging Face і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини