Une intelligence artificielle (IA) utilisée par des médecins américain aurait tendance à défavoriser les patients Afro-Américains

Dakarmidi  – Certains algorithmes sont racistes. Ce fait est connu depuis plusieurs années, mais dans le cadre médical, c’est une première. Selon une étude publiée le 15 octobre dans Journal of General Internal Medicine.

L’outil est programmé pour faire le bilan rénal des patients et signaler ceux dont la situation est la plus critique. Mais l’algorithme a été conçu de telle manière que l’état de santé des personnes noires est sur-noté.

Plus de 60 patients privés de greffe

Pour arriver à leurs conclusions, les auteurs de l’étude ont analysé les dossiers médicaux de 57.000 patients d’un réseau d’établissements de Boston et des environs. Ils ont constaté que la pathologie rénale d’un tiers des patients noirs aurait été jugée plus grave si elle avait été évaluée selon les mêmes critères que celle des patients blancs.

Leur découverte concerne 700 malades. Avec un système de notation universel, 64 d’entre eux auraient été éligibles à une greffe de rein. Or aucun d’entre eux n’a bénéficié d’un don d’organe.

L’IA à l’origine de cette inégalité a été ouvertement programmée pour tenir compte de la couleur de peau des sujets. Les conséquences sont « sidérantes », commente Mallika Mendu, coautrice de l’étude. « Nous savons qu’il existe déjà d’autres inégalités face à l’accès aux soins et à la prise en charge des pathologies », déplore la spécialiste du rein. « Cela n’aide pas. »