Урок съчетава TF-IDF и DistilBERT LoRA за анализ на IMDb отзиви
Урокът представя цялостен процес за анализ на настроения, изграден върху набора Stanford NLP IMDb Large Movie Review Dataset. В него се сравнява класически модел с TF-IDF и Logistic Regression с параметрично ефективно дообучаване на DistilBERT чрез LoRA и рамката PEFT.
Работата започва с възпроизводима среда и проверка на данните. Одитират се подредбата на класовете, разпределението на дължината на рецензиите, изтичането на дублирани записи и артефактите от предварителната обработка. Моделите се оценяват чрез accuracy, macro-F1, ROC-AUC, матрици на грешките и ROC криви. Разглеждат се също изборът на праг и калибрирането на вероятностите с Expected Calibration Error и анализ на надеждността.
Освен обобщените показатели, урокът изследва уверени грешки, представянето при различна дължина на рецензиите, думова saliency чрез occlusion и съкращаване от началото или края на текста. Накрая немаркираният IMDb дял се използва за pseudo-labeling според увереността. Полученият полунадзираван модел се сравнява с базовия, а обединен трансформер се записва за повторно използване при извеждане на настроения.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.