Dakarmidi – Certains algorithmes sont racistes. Ce fait est connu depuis plusieurs années, mais dans le cadre médical, c’est une première. Selon une étude publiée le 15 octobre dans Journal of General Internal Medicine.
Plus de 60 patients privés de greffe
Pour arriver à leurs conclusions, les auteurs de l’étude ont analysé les dossiers médicaux de 57.000 patients d’un réseau d’établissements de Boston et des environs. Ils ont constaté que la pathologie rénale d’un tiers des patients noirs aurait été jugée plus grave si elle avait été évaluée selon les mêmes critères que celle des patients blancs.
Leur découverte concerne 700 malades. Avec un système de notation universel, 64 d’entre eux auraient été éligibles à une greffe de rein. Or aucun d’entre eux n’a bénéficié d’un don d’organe.
L’IA à l’origine de cette inégalité a été ouvertement programmée pour tenir compte de la couleur de peau des sujets. Les conséquences sont « sidérantes », commente Mallika Mendu, coautrice de l’étude. « Nous savons qu’il existe déjà d’autres inégalités face à l’accès aux soins et à la prise en charge des pathologies », déplore la spécialiste du rein. « Cela n’aide pas. »
