ИИ оказался неэффективен в анализе рентгеновских снимков

08.07.2024

ИИ оказался неэффективен в анализе рентгеновских снимков

Согласно новому исследованию, ИИ может быть предвзят, когда речь заходит об анализе медицинских фотографий из разных учреждений. Даже самые современные генеративные модели не способны обеспечить оптимального компромисса в прогнозировании.

Для проверки эксперимента сотрудники медицинского центра Beth Israel Deaconess в Бостоне обучили ИИ предсказывать по снимкам, имеется ли у пациентов одно из трёх состояний: скопление жидкости в легких, коллапс лёгкого или увеличение сердца

Эффективность прогнозирования зависит от данных, используемых для обучения генеративной модели. Например, если ИИ обучался на одних и тех же типах пациентов в рамках одной больницы, данные становятся не совсем точными. Но ситуация меняется, если нейросети «скармливают» данные о пациентах из разных больниц.

При анализе пациентов сразу из пяти больниц авторы эксперимента обнаружили, что в некоторых случаях нейросети демонстрировали неточность в прогнозах. Это особенно критично, если медицинский персонал одной больницы использует генеративную модель, обученную на данных других больниц.