Il y a six ans, un expert pronostiquait la disparition des radiologues au profit de l'IA. Une erreur. MArt Production / Pexel, CC BY-SA
Radiologie : pourquoi l’IA n’a (toujours) pas remplacé le médecin
« On devrait arrêter de former des radiologues maintenant. Il est tout à fait évident que dans cinq ans, le “deep learning” fera mieux que les radiologues. »
Prononcée en 2016 par l’informaticien
Nourrie par les promesses industrielles et relayée par certains médecins médiatiques, la thématique a essaimé dans la presse et les médias sociaux où l’on a vu s’imposer l’image d’une révolution à venir de la médecine en raison du développement de l’intelligence artificielle (IA).
Pourtant, six ans plus tard, la déclaration relève davantage de la fausse prophétie que de l’anticipation visionnaire… Le « grand remplacement » des médecins par l’IA n’a pas eu lieu. À l’inverse, l’évolution de la démographie médicale et l’augmentation du nombre d’examens d’imagerie donnent davantage à voir un manque de radiologues que leur mise au chômage technique.
Des logiciels sont pourtant disponibles et mis sur le marché, le plus souvent par des start-up telles que AZmed, Gleamer, Incepto, Pixyl ou Therapixel. La radiologie arrive ainsi au premier rang des champs d’application des logiciels d’IA validés par l’agence de régulation américaine FDA (plus de 200 logiciels) ou bénéficiant d’un marquage Conformité Européenne (CE) (environ 200). Les publications scientifiques sur le sujet sont également florissantes, avec plus de 8800 articles parus entre 2000 et 2018.
Face aux promesses soutenues par des progrès réels, comment dès lors expliquer que l’utilisation réelle de l’IA reste relativement timide (environ 30 % des radiologues américains affirmant l’avoir déjà utilisée) ? La clé de lecture de ces nouveaux usages doit ici prendre en compte les logiques professionnelles. Notre récente enquête, publiée dans le cadre d’un dossier de la revue Réseaux dédié au contrôle de l’IA, permet d’apporter une première analyse de ces transformations en cours.
Réappropriation et régulation professionnelles
Suite aux discours médiatiques sur sa possible disparition, la profession a tout d’abord scruté avec méfiance le développement de la technologie. Dans une étude publiée en 2021, 38 % des praticiens européens interrogés craignaient en effet que l’IA soit une menace pour leur activité.
Loin de rester passives, la profession et ses instances de représentation se sont alors mobilisées pour faire face à l’irruption de l’IA, anticiper les usages possibles et défendre leur territoire.
Les radiologues se sont engagés dans un travail normatif visant à se réapproprier ces outils et à en promouvoir une utilisation conforme avec leurs attentes professionnelles.
Cette définition des « bons usages » prend plusieurs formes : identification des tâches où l’IA serait profitable, proposition de directives quant au développement des logiciels (conditions techniques et pertinence des bases de données d’entraînement, etc.), recommandations concernant leur évaluation ou leur utilisation, etc.
Surtout, les radiologues rappellent que leur métier ne consiste pas simplement à lire des images.
Quand bien même l’IA ferait aussi bien qu’eux sur une tâche d’interprétation, ce qui est actuellement contestable, il demeurerait bien délicat de substituer un logiciel à un praticien. Plutôt que de se voir remplacé, le secteur professionnel privilégie donc le narratif du radiologue travaillant avec l’IA afin d’améliorer la prise en charge des malades.
Mais les critiques portent également sur les promesses mêmes de l’IA en regard de ses performances réelles. Il apparaît en effet que ces outils nécessiteraient d’être mieux évalués : en 2021, plus de 60 % des logiciels disposant d’un marquage CE n’avaient fait l’objet d’aucune publication scientifique. En l’absence d’essais cliniques robustes se pose la question de leur efficacité en conditions réelles.
Ces revendications ne sont pas des protestations de pure forme : elles agissent en retour sur les industriels du secteur. En effet, plusieurs d’entre eux reprennent maintenant à leur compte l’argument du non-remplacement des radiologues, ou tentent de montrer patte blanche en publiant des articles évaluant la
Cette mise en conformité avec les attentes des médecins peut bien entendu se lire comme une adaptation de l’argumentaire commercial à la cible de vente. Mais il s’agit aussi pour ces entreprises de parvenir à engager et stabiliser des collaborations… En effet, la participation des radiologues est nécessaire pour l’évaluation des logiciels et l’accès aux bases de données d’images permettant d’entraîner les algorithmes.
Une régulation étatique en retrait ?
Les professions de santé se retrouvent donc en première ligne pour faire face à l’arrivée dans leur pratique de ces nouveaux dispositifs impliquant l’IA. À l’inverse, les régulations administratives et sectorielles sont, elles, encore en construction. Elles ne concernent plus seulement ici le cas de la radiologie, mais celui plus général du déploiement de l’IA en médecine.
Certes, le cadre réglementaire évolue pour prendre en compte ces nouvelles technologies – en attestent la récente loi de bioéthique ou la mise en application du règlement européen relatif aux dispositifs médicaux en mai 2021. Mais, bien que ce dernier durcisse les conditions d’obtention du marquage CE, il apparaît toujours comme moins exigeant que son équivalent américain (la validation FDA). Et il fait pâle figure en comparaison des normes fixées pour la mise sur le marché des médicaments.
Alors même que leur prix est l’un des enjeux centraux à venir, le fait qu’il s’agisse de dispositifs médicaux à destination des professionnels pose également question en regard de leur procédure de prise en charge en vue d’un remboursement. Si la Haute autorité de santé a évalué des applications à destination des patients, par exemple pour le suivi du diabète ou en oncologie, et a publié une grille d’évaluation à ce sujet, les logiciels professionnels en radiologie et ailleurs restent à ce jour moins scrutés par les autorités de santé.
Leur usage destiné aux praticiens explique peut-être qu’ils soient passés sous les radars du débat citoyen. Les enjeux liés aux données de santé et à leur protection ont pourtant pu faire l’objet de vifs échanges, notamment concernant le développement du Health Data Hub (groupement d’intérêt public réunissant notamment la CNAM, le CNRS, la Haute Autorité de santé, etc., travaillant aux « grandes orientations stratégiques relatives au Système national des données de santé (SNDS) fixées par l’État et notamment le ministère des Solidarités et de la Santé »).
De fait, les interrogations ne manquent pas :
Problématique du consentement des patients à l’analyse de leurs examens par l’IA,
Critique de la commercialisation des données d’imagerie,
Questionnements soulevés par la découverte récente de la capacité des algorithmes à attribuer une catégorie ethnoraciale aux patients, etc.
Si les développements actuels en radiologie invitent à rester prudent face aux promesses de l’IA et à ne pas céder à une forme de solutionnisme technologique, les transformations sont en cours et appellent à une vigilance politique et éthique.
Léo Mignot, Docteur en sociologie, Université de Bordeaux et Émilien Schultz, Chercheur en sociologie des sciences et de la santé, Institut de recherche pour le développement (IRD)
Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.