Sakhanda Wire
NVDA $153.61 -1.62% MSFT $506.27 -2.26% GOOGL $280.41 -1.17% META $623.08 -0.53% AMZN $257.66 -0.03%
← Към новините

Урок съчетава TF-IDF и DistilBERT LoRA за анализ на IMDb отзиви

Урокът представя цялостен процес за анализ на настроения, изграден върху набора Stanford NLP IMDb Large Movie Review Dataset. В него се сравнява класически модел с TF-IDF и Logistic Regression с параметрично ефективно дообучаване на DistilBERT чрез LoRA и рамката PEFT.

Работата започва с възпроизводима среда и проверка на данните. Одитират се подредбата на класовете, разпределението на дължината на рецензиите, изтичането на дублирани записи и артефактите от предварителната обработка. Моделите се оценяват чрез accuracy, macro-F1, ROC-AUC, матрици на грешките и ROC криви. Разглеждат се също изборът на праг и калибрирането на вероятностите с Expected Calibration Error и анализ на надеждността.

Освен обобщените показатели, урокът изследва уверени грешки, представянето при различна дължина на рецензиите, думова saliency чрез occlusion и съкращаване от началото или края на текста. Накрая немаркираният IMDb дял се използва за pseudo-labeling според увереността. Полученият полунадзираван модел се сравнява с базовия, а обединен трансформер се записва за повторно използване при извеждане на настроения.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини