Изследователи от Бристол: медицината вече знае как да се справя с черните кутии и ИИ може да се поучи от нея

Изследователи от Университета в Бристол предлагат рамка, която позволява на разработчиците систематично да проверяват доколко надеждни са системите с изкуствен интелект при медицинска употреба. Те я основават на стандартите, които медицината използва за пускането на нови лекарства на пазара.

Медицинските системи с изкуствен интелект често се представят добре при ранни тестове, но се провалят, когато достигнат до клиниката, защото се фокусират върху характеристики в данните за обучение, които нямат нищо общо с действителната диагноза.

Медицината се сблъсква с подобни неясноти при лекарствата, чието точно въздействие върху организма не е напълно разбрано. Въпреки това тя е разработила начини за надеждна употреба на тези съединения. Всяко лекарство се предлага със структурирана информационна документация, която уточнява условията, при които то действа, включително дозата, времето на прием и групата пациенти. Именно тази документация превръща химичното вещество в надеждна терапия.

Вдъхновени от това, изследователите от Бристол предлагат подобна документация за разработчиците на медицински системи с изкуствен интелект.

Инструментариум от три части

Предложението „Learning Ensemble“ обхваща три области, които разработчиците трябва да документират и проверят, преди системата да бъде използвана върху пациенти.

Първата се отнася до ограниченията на системата, включително за кои лекари или клиники е предназначена, на какъв хардуер работи и какви данни за пациенти са използвани за обучението ѝ. Проучване от 2021 г. показва защо това е важно: от една система с изкуствен интелект се е очаквало да открива инфекция с COVID по рентгенови изображения, но вместо да идентифицира признаци на заболяване в белите дробове, тя се е фокусирала върху случайни детайли в изображенията, които просто са били свързани с диагнозата. Веднага щом системата била внедрена в друга клиника, тя се провалила.

Втората област е надеждността при различните групи пациенти. Средният процент на точни резултати не е достатъчен, защото една система може да изглежда добре като цяло, докато редовно допуска грешки при определени групи. Друго проучване от 2021 г. установява, че системите с изкуствен интелект, които разчитат рентгенови изображения, са били значително по-малко склонни да откриват заболявания при недостатъчно обслужвани групи от населението. Внедряването на такива системи би навредило именно на пациентите, които и без това получават по-лоши медицински грижи.

Третата област според изследователите е най-важната — въпросът дали системата изобщо отговаря на предназначението си в клиничната практика. Система, която работи технически, все пак може да се окаже безполезна в клиниката. Например една система с изкуствен интелект е определила пациентите с астма и пневмония като изложени на нисък риск от смърт. В данните за обучение те наистина са оцелявали по-често, но само защото спешните отделения са ги лекували особено агресивно. За триаж, който се занимава с оценка на риска при нови пациенти, резултатът е бил безполезен.

Авторите разглеждат работата си като отправна точка. Изграждането на надеждна медицинска система с изкуствен интелект на практика остава сложен процес на проби и грешки, който изисква експертни знания, външен преглед и постоянно усъвършенстване. Рамката им има за цел да предостави на разработчиците общ език и структура, с които да откриват проблемите по-рано.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно публикуван доклад „AI Radar“ за водещите разработки, достъп до целия архив и достъп до секцията за коментари.