Как моделите за вземане на решения с ИИ могат да променят модерирането на съдържание

Тъй като моделите за вземане на решения се разпространяват в цялата индустрия, компанията Musubi има нова идея как да ги използва: за модериране на съдържание. Във вторник Musubi обяви лек модел за вземане на решения, създаден за модериране в реално време, наречен PolicyLM-1.7B, пуснат с отворени тегла.

Идеята е политика за съдържанието, написана на обикновен английски език, да се прилага към съобщения за по-малко от 50 милисекунди. Моделът на Musubi е проектиран така, че да е сходен по цена и скорост със системите за класифициране с изкуствен интелект, които осигуряват модерирането в повечето социални платформи — но тъй като притежава гъвкавостта на съвременен LLM, той може да прилага сложни политики без специално обучение. Още по-важно е, че моделът няма да се нуждае от ново обучение, когато политиката се промени, което позволява на хората, определящи политиките, да ги променят толкова често, колкото е необходимо.

Според съоснователя и главен директор по изкуствения интелект на Musubi Филип Янкович това дава на мениджърите на платформи начин да обозначават съдържанието проактивно.

„Продуктовите екипи просто искат по-добро разбиране на случващото се на тяхната платформа, особено с експоненциалното увеличаване на количеството съдържание“, казва Янкович. „Възможността всичко това да бъде обозначено по изключително мащабируем и персонализируем начин е много полезна.“

Моделите за вземане на решения се превърнаха в гореща тема в света на изкуствения интелект след пускането на Jev на Typesafe AI през септември, което скоро бе последвано от конкурентни модели за вземане на решения от OpenAI и Amazon. Вместо да генерира текст, моделът за вземане на решения извежда вероятности за резултатите, макар че в този случай моделът дава бинарна преценка: съдържанието или попада в категорията, или не. Като ограничават изхода на модела до набор от предварително определени възможности, моделите за вземане на решения могат да работят по-бързо и по-евтино от големите езикови модели, като същевременно запазват гъвкавостта на трансформърната архитектура.

Един от първите случаи на употреба е ограничаването на неправомерното поведение на агентите с изкуствен интелект — затова е напълно естествено същата технология да бъде приложена и към неправомерното поведение на хората.

Забележително е, че Янкович казва, че интересът му към моделите за вземане на решения предхожда Jev и води началото си от проект от 2024 г., наречен GLiNER (Generalist Model for Named Entity Recognition — универсален модел за разпознаване на именувани обекти), който използва много от същите техники.

Въпреки това Musubi не се притеснява от сравнението. Ако не друго, компанията има желание да използва новия интерес към моделите за вземане на решения, за да насочи вниманието към модерирането на съдържание. „Ако Jev е привлякъл вниманието ви, PolicyLM-1.7B е същият вид модел, обучен специално за модериране на съдържание, който можете да използвате сами“, се казва в продуктовото съобщение.