[ad_1]
Это говорит о том, что идея предвзятого ИИ не нова и не удивительна, а вызывает беспокойство. Другие прошлые исследования, такие как анализ в журнале Nature Medicine, показали, что на реализацию ИИ могут влиять демографические факторы, в том числе раса. В нем говорится, что «растет беспокойство по поводу того, что такие системы ИИ могут отражать и усиливать человеческую предвзятость и снижать качество их работы в исторически недостаточно обслуживаемых группах населения, таких как пациенты женского пола, чернокожие пациенты или пациенты с низким социально-экономическим статусом». Это предубеждение часто приводит к проблемной недостаточной диагностике с помощью алгоритмов ИИ.
В исследовании The Lancet говорится, что может быть несколько факторов, которые могут привести к предвзятости, например, использование данных, которые не представляют всю популяцию пациентов. Еще одним фактором, который может привести к предвзятости ИИ, является изучение искусственным интеллектом признаков, которые могут присутствовать в популяции, таких как определенные фенотипы или характеристики, такие как плотность костей.
Изучение
Исследовательская группа хотела проверить, могут ли модели ИИ определять расу только по рентгену грудной клетки. Они использовали три больших набора данных, которые включали большое и разнообразное население, и то, что они обнаружили, было поразительным. ИИ мог с точностью предсказать расу пациента, основываясь исключительно на рентгеновском снимке, чего не могли сделать даже эксперты.
ИИ также мог определить расу, даже если изображения были «сильно ухудшены или обрезаны до одной девятой от исходного размера, или когда разрешение было изменено до такой степени, что изображения едва распознавались как рентгеновские снимки».
Относительно факторов
Чтобы предотвратить расовую предвзятость фенотипа, исследователи использовали другие наборы данных рентгенографии грудной клетки, которые включали маммограммы, компьютерную томографию (КТ) грудной клетки и рентгенограммы шейного отдела позвоночника. ИИ все же смог определить расу человека.
[ad_2]
Source link
