Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

Meta FAIR пусна алгоритъма e-means във FAISS 1.16.0

Изследователи на Meta FAIR представиха e-means — минипакетен заместител на алгоритъма k-means на Lloyd. Методът е достъпен във FAISS 1.16.0 чрез faiss.contrib.e_means и работи на CPU или GPU с тензори на PyTorch и масиви на NumPy. Той е насочен към клъстеризацията, използвана при изграждане на векторни индекси, квантизатори и процеси за подбор на данни.

E-means променя натрупаните суми и броя на елементите във всеки клъстер чрез експоненциални плъзгащи средни, така че по-старите назначения постепенно да губят влияние. Размерът на пакета и началната стъпка се определят от мащабиращи зависимости, използващи размера на набора, броя клъстери и планирания брой епохи. Авторите посочват, че не са нужни допълнителни параметри за настройване. Предвидено е и съживяване на малки клъстери чрез разделяне на големи.

В тестовете на екипа e-means достига загубата от 25 епохи на Lloyd за 1,4–2,6 епохи в 24 конфигурации. Самоотчетените резултати показват 10–45 пъти по-кратко GPU време спрямо Flash-KMeans и 8–15 пъти по-кратко CPU време спрямо Faiss k-means. Изпитванията обхващат от 100K до 10 милиарда точки и до 16.7M клъстера. При 16M центроида са нужни 64 GiB float32 акумулатори и разделяне между GPU устройства.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини