Estudo descobre que inteligência artificial pode determinar raça a partir de imagens médicas

Amostras de imagens após filtros passa-baixa e filtros passa-alta no conjunto de dados MXR. HPF = filtragem passa-alta. LPF=filtragem passa-baixa. MXR=conjunto de dados MIMIC-CXR. Crédito: The Lancet Saúde Digital (2022). DOI: 10.1016/S2589-7500(22)00063-2

A inteligência artificial (IA) é usada em uma ampla variedade de ambientes de saúde, desde a análise de imagens médicas até a assistência em procedimentos cirúrgicos. Embora a IA às vezes possa superar os médicos treinados, essas habilidades sobre-humanas nem sempre são totalmente compreendidas.

Em um estudo recente publicado em The Lancet Saúde Digital, os pesquisadores descobriram que os modelos de IA podem prever com precisão a raça autorrelatada em vários tipos diferentes de imagens radiográficas – uma tarefa impossível para especialistas humanos. Esses achados sugerem que as informações raciais podem ser inconscientemente incorporadas aos modelos de análise de imagens, o que poderia exacerbar as disparidades raciais no ambiente médico.

“A IA tem imenso potencial para revolucionar o diagnóstico, tratamento e monitoramento de inúmeras doenças e condições e pode moldar drasticamente a maneira como abordamos assistência médica“, disse o primeiro autor do estudo e NIBIB Data and Technology Advancement (DATA) National Service Scholar Judy Gichoya, MD “No entanto, para que a IA realmente beneficie todos os pacientes, precisamos de uma melhor compreensão de como esses algoritmos tomam suas decisões para evitar vieses não intencionais. “

O conceito de viés em algoritmos de IA não é novo. Estudos de pesquisa tem mostrado que o desempenho da IA ​​pode ser afetado por características demográficas, incluindo raça. Existem vários fatores potenciais que podem levar a viés nos algoritmos de IA, como usar conjuntos de dados que não são representativos de uma população de pacientes (por exemplo, usar conjuntos de dados em que a maioria dos pacientes é branca). Além disso, fatores de confusão – traços ou fenótipos que estão desproporcionalmente presentes em populações de subgrupos (como diferenças raciais na densidade mamária ou óssea) – também podem introduzir viés. O estudo atual destaca outro fator potencial que pode introduzir vieses não intencionais nos algoritmos de IA.

Para o estudo, Gichoya e seus colegas queriam primeiro determinar se poderiam desenvolver modelos de IA que pudessem detectar raça apenas a partir de raios-X de tórax. Eles usaram três grandes conjuntos de dados que abrangeram uma população diversificada de pacientes e descobriram que seus modelos podiam prever a raça com alta precisão – uma descoberta impressionante, pois os especialistas humanos não conseguem fazer essas previsões observando os raios-X. Os pesquisadores também descobriram que a IA poderia determinar a raça autorrelatada mesmo quando as imagens estavam altamente degradadas ou cortadas em um nono do tamanho original, ou quando a resolução foi modificada a tal ponto que as imagens mal foram reconhecidas como X- raios. A equipe de pesquisa posteriormente usou outros conjuntos de dados de raios-X não torácicos, incluindo mamografias, radiografias da coluna cervical e tomografia computadorizada (TC) de tórax, e descobriu que a IA ainda poderia determinar a raça autorrelatada, independentemente do tipo de exame ou exame anatômico. localização.

“Nossos resultados sugerem que existem ‘sinais ocultos’ em imagens médicas que levam a IA a prever a raça”, disse Gichoya. potencialmente prejudicial para populações de pacientes minoritários e carentes”.

Os pesquisadores tentaram entender como a IA foi capaz de fazer essas previsões. Eles analisaram uma variedade de fatores de confusão diferentes que poderiam afetar características em imagens radiográficas, como índice de massa corporal (IMC), densidade mamária, densidade óssea ou distribuição de doenças. Eles não conseguiram identificar nenhum fator específico que pudesse explicar a capacidade da IA ​​de prever com precisão a raça autorrelatada. Em suma, embora a IA possa ser treinada para prever a raça a partir de imagens médicas, as informações que os modelos usam para fazer essas previsões ainda não foram descobertas.

“Tem havido uma linha de pensamento de que se os desenvolvedores ‘esconderem’ fatores demográficos – como corrida, sexo ou status socioeconômico – do modelo de IA, que o algoritmo resultante não será capaz de discriminar com base em tais recursos e, portanto, será ‘justo’. Este trabalho destaca que essa visão simplista não é uma opção viável para garantir equidade em IA e aprendizado de máquina,” disse NIBIB DATA Scholar Rui Sá, Ph.D. “Precisamos reconhecer as potenciais limitações da IA ​​e adaptar nossas metodologias para garantir que a IA seja justa para todos.”

Fornecido pelo Instituto Nacional de Imagem Biomédica e Bioengenharia