Le Québec opère un important virage numérique dans les services de santé. Les gestionnaires ainsi que les professionnelles et professionnels de la santé doivent apprendre à évaluer le degré de responsabilité des nouvelles technologies. Dans le cas contraire, la santé et la vie privée des patients peuvent être mis à risque, et les investissements alloués à cette transition numérique pourraient s’avérer peu judicieux.
La chercheuse Pascale Lehoux et le chercheur Jean-Louis Denis, de l’Observatoire international sur les impacts sociétaux de l’IA (OBVIA), ont élaboré un outil pour mesurer le degré de responsabilité des solutions numériques qui fonctionnent avec ou sans intelligence artificielle (NumerIA) en santé. Celles-ci peuvent prendre la forme, par exemple, de robots conversationnels qui effectuent un suivi de routine avec les patients à la suite d’une chirurgie, ou encore, d’un algorithme pour optimiser les plans de traitement en oncologie. Leur approche consiste à adapter l’outil Innovation Responsable en Santé (IRS), qui a déjà fait ses preuves, à l’examen des innovations NumerIA. L’IRS permet d’évaluer la valeur de ces dernières pour la santé de la population et pour le système de santé, de même que leur valeur économique, organisationnelle et environnementale (voir la figure ci-dessous1).
« L’objectif consiste à s’assurer qu’on prenne ces éléments en considération dans la création et dans la sélection des innovations numériques, afin que celles-ci soutiennent réellement l’équité et la pérennité du système de santé et des services sociaux », explique Pascale Lehoux.
Elle rappelle que depuis les années 1980, l’industrie développe de nouvelles technologies avant même de chercher quelles applications pourraient en découler. Mieux vaudrait, selon elle, partir des problèmes sociétaux et imaginer des solutions qui y répondent.
Des critères scientifiques
Afin de choisir des critères qui permettent de bien évaluer la responsabilité d’une innovation NumerIA, l’équipe de l’OBVIA a recensé les outils qui proposaient déjà ce type de démarche. Elle en a déniché 56, qui avaient chacun leurs propres critères d’évaluation. Or, seulement 18 % de ces outils reposaient sur une véritable méthodologie scientifique.
« Cela présente un risque de respo-blanchiment, c’est-à-dire qu’une organisation peut affirmer faire de l’IA responsable parce qu’elle a employé un des outils disponibles, alors que celui-ci ne mesure pas réellement la responsabilité », souligne la chercheuse.
Cette abondance d’outils se traduit aussi par une multiplication des critères et des principes de responsabilité, ce qui complique grandement la vie de ceux et celles qui tentent de les utiliser. L’outil IRS ramène le nombre de critères à 14. Ils ont été validés par un panel interdisciplinaire d’expertes et d’experts internationaux, ce qui confirme la fiabilité de l’IRS. Ce niveau de qualité méthodologique constitue une première dans le domaine.
Travailler à la source
L’IRS prend la forme d’un fichier Excel en partie automatisé. Comme il est très descriptif et riche en exemples, il peut également servir de guide aux responsables qui souhaitent intégrer de telles innovations dans leurs pratiques. Il est offert en français, en anglais et en portugais, puisque l’équipe de recherche a mené des études au Brésil.
L’article publié en août 2023 dans le magazine Journal of Medical Internet Research (JMIR) s’est hissé dans le 25 % des articles les plus consultés de cette publication. L’outil jouit d’une grande visibilité, et il est déjà très demandé par des établissements de santé au Québec.
Nous voulons maintenant aider les gens à comprendre l'outil et à l’utiliser, mais aussi nous assurer de sensibiliser les personnes qui créent les innovations, et pas seulement les utilisateurs.
Quelques chiffres clés :
56
Nombre d'outils recensés par l'équipe de l'OBVIA qui proposaient déjà une démarche d'évaluation de la responsabilité d'une innovation NumerIA.
18
Pourcentage des 56 outils recensés qui reposaient sur une véritable méthodologie scientifique.
14
Nombre de critères validés par un panel interdisciplinaire d'expertes et d'experts internationaux auquel ramène l'outil IRS.
Pour aller plus loin :
Mavragani, A., Cooper, P., Mechael, P., Lehoux, P., Rocha de Oliveira, R., Rivard, L., Silva, H. P., Alami, H., Mörch, C. M., & Malas, K. (2023). A comprehensive, valid, and reliable tool to assess the degree of responsibility of digital health solutions that operate with or without artificial intelligence: 3-phase mixed methods study. Journal of Medical Internet Research, 25.