Бристольские исследователи предложили проверять медицинский ИИ по модели лекарств
Исследователи из University of Bristol предложили систематически оценивать надежность медицинских систем искусственного интеллекта до их применения в клиниках. Их подход получил название «Learning Ensemble» и опирается на практику, используемую при проверке лекарств: структурированное описание условий, в которых средство должно работать, даже если его действие в организме изучено не полностью.
Разработчики должны проверять три направления. Первое касается ограничений системы — целевых врачей и клиник, необходимого оборудования и данных, на которых она обучалась. Второе оценивает надежность на разных группах пациентов, поскольку общий показатель точности может скрывать регулярные ошибки в отношении отдельных групп. Третье направление связано с соответствием реальной клинической задаче.
В качестве примеров ученые приводят исследования 2021 года. Система, предназначенная для обнаружения COVID-19 на рентгеновских снимках, ориентировалась на случайные особенности изображений и не справилась после внедрения в другой клинике. Другое исследование показало, что такие системы реже обнаруживали заболевания у недостаточно обслуживаемых групп. В еще одном случае ИИ считал пациентов с астмой и пневмонией малорисковыми, поскольку интенсивное лечение чаще спасало их; для сортировки новых пациентов такой вывод оказался бесполезным. Авторы считают рамку отправной точкой, требующей экспертной проверки и постоянной настройки.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.