Бристолски изследователи предлагат проверки за медицинския AI по модел на лекарствата
Изследователи от University of Bristol предлагат рамка за систематична оценка на надеждността на медицинския изкуствен интелект преди използването му в клинична среда. Наречена „Learning Ensemble“, тя е вдъхновена от начина, по който медицината описва и проверява употребата на лекарства, включително когато точният им ефект в организма не е напълно изяснен.
Рамката изисква разработчиците да проверяват три области. Първата обхваща ограниченията на системата: за кои лекари или клиники е предназначена, на какъв хардуер работи и какви данни са използвани за обучението ѝ. Втората оценява надеждността при различни групи пациенти, а третата проверява дали системата действително отговаря на конкретната клинична задача.
Изследователите посочват примери от по-ранни проучвания. През 2021 г. система за откриване на COVID-19 на рентгенови снимки се е фокусирала върху странични детайли и е дала дефектни резултати в друга клиника. Друго проучване е установило по-слабо откриване на заболявания при недостатъчно обслужвани групи. В отделен случай AI е оценил като нискорискови пациенти с астма и пневмония заради ефекта от агресивното лечение, което е направило системата неподходяща за триаж. Авторите определят предложението като отправна точка, изискваща външен преглед и постоянни корекции.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.