Meta FAIR пусна алгоритъма e-means във FAISS 1.16.0
Изследователи на Meta FAIR представиха e-means — минипакетен заместител на алгоритъма k-means на Lloyd. Методът е достъпен във FAISS 1.16.0 чрез faiss.contrib.e_means и работи на CPU или GPU с тензори на PyTorch и масиви на NumPy. Той е насочен към клъстеризацията, използвана при изграждане на векторни индекси, квантизатори и процеси за подбор на данни.
E-means променя натрупаните суми и броя на елементите във всеки клъстер чрез експоненциални плъзгащи средни, така че по-старите назначения постепенно да губят влияние. Размерът на пакета и началната стъпка се определят от мащабиращи зависимости, използващи размера на набора, броя клъстери и планирания брой епохи. Авторите посочват, че не са нужни допълнителни параметри за настройване. Предвидено е и съживяване на малки клъстери чрез разделяне на големи.
В тестовете на екипа e-means достига загубата от 25 епохи на Lloyd за 1,4–2,6 епохи в 24 конфигурации. Самоотчетените резултати показват 10–45 пъти по-кратко GPU време спрямо Flash-KMeans и 8–15 пъти по-кратко CPU време спрямо Faiss k-means. Изпитванията обхващат от 100K до 10 милиарда точки и до 16.7M клъстера. При 16M центроида са нужни 64 GiB float32 акумулатори и разделяне между GPU устройства.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.