Sakhanda Wire
NVDA $153.93 -1.41% MSFT $506.53 -2.21% GOOGL $280.96 -0.97% META $620.53 -0.94% AMZN $256.87 -0.34%
← К новостям

Бристольские исследователи предложили проверять медицинский ИИ по модели лекарств

Исследователи из University of Bristol предложили систематически оценивать надежность медицинских систем искусственного интеллекта до их применения в клиниках. Их подход получил название «Learning Ensemble» и опирается на практику, используемую при проверке лекарств: структурированное описание условий, в которых средство должно работать, даже если его действие в организме изучено не полностью.

Разработчики должны проверять три направления. Первое касается ограничений системы — целевых врачей и клиник, необходимого оборудования и данных, на которых она обучалась. Второе оценивает надежность на разных группах пациентов, поскольку общий показатель точности может скрывать регулярные ошибки в отношении отдельных групп. Третье направление связано с соответствием реальной клинической задаче.

В качестве примеров ученые приводят исследования 2021 года. Система, предназначенная для обнаружения COVID-19 на рентгеновских снимках, ориентировалась на случайные особенности изображений и не справилась после внедрения в другой клинике. Другое исследование показало, что такие системы реже обнаруживали заболевания у недостаточно обслуживаемых групп. В еще одном случае ИИ считал пациентов с астмой и пневмонией малорисковыми, поскольку интенсивное лечение чаще спасало их; для сортировки новых пациентов такой вывод оказался бесполезным. Авторы считают рамку отправной точкой, требующей экспертной проверки и постоянной настройки.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости