Construire une intelligence artificielle de confiance en santé.

Dans la pratique médicale, le processus de développement des outils informatiques et en particulier de l’intelligence artificielle (IA) est une étape importante pour son acceptabilité et son appropriation par les utilisateurs finaux. Ce processus est d’autant plus complexe car elle fait intervenir de nouveaux acteurs qui se doivent de respecter les normes et les contraintes liées à la pratique médicale. A cet effet, les règles à respecter sont : la déontologie des métiers de santé, la médecine fondée sur les preuves, le droit des patients, les règles de traitement des données de santé et l’éthique médicale (Yameogo, 2020) . Le respect des normes et des règles métiers permet de créer un climat de confiance, indispensable à la pratique médicale. Ce climat de confiance permettrait une intégration des outils technologiques dans la pratique médicale ; intégration qui reste faible pour le moment (Colloc & Vinot, 2000; Darmoni et al., 2014) . L’objectif de notre étude était de proposer un processus de conception des outils de l’IA en santé pour une intégration facilité.

Méthodes et cadre théorique
Nous nous appuyons sur les résultats d’une enquête réalisée entre Octobre 2018 et Mai 2019 auprès des médecins de la ville du Havre sur leurs usages des objets connectés et des applications de santé, leur avis sur l’utilisation de l’IA en pratique médicale et leurs perceptions sur les risques liés au big data sur la pratique médicale pour la proposition de notre processus de conception des outils (Yameogo, 2020; Yaméogo & Colloc, 2021) . Les théories utilisées étaient : a) le design thinking qui est une méthode d’intelligence collective qui place l’humain, ses usages et ses besoins au centre de la réflexion (Brown, 2008) . Il permet de définir une expérience idéale, à la croisée du désirable, pour ceux à qui s’adresse l’innovation, ce qui est techniquement réalisable et ce qui est viable économiquement par le porteur de projet. Le design thinking permet ainsi de résoudre des problèmes, fondés sur les besoins des utilisateurs et en développant des solutions pour y répondre. Ainsi, la technologie est vue comme un outil qui répond à des besoins et non comme une fin en soi (Mathieu & Hillen, 2016) . Il permet d’apporter à une problématique donnée, une solution novatrice qui répond à ces trois principes fondamentaux : la désirabilité, la faisabilité technique et organisationnelle et la viabilité (Brown, 2008; Mathieu & Hillen, 2016)  ; b) la confiance définit par Zucker (Zucker, 1986) comme « une série d’attentes sociales partagées par les personnes impliquées dans un échange économique. L’hypothèse sous-jacente à cette définition est la présence de valeurs communes pour les parties engagées dans l’échange ». Il décrit, ainsi, trois typologies de la confiance : La confiance interpersonnelle se fonde sur une relation entre les individus, perçue comme une importante
ressource sociale qui facilite la coopération (Mayer et al., 1995)  ; la confiance institutionnelle ou systémique, accordée à une autorité supérieure dans une société avec pour rôle la protection des individus contre les aléas moraux, c’est une confiance partagée entre les personnes, grâce à des construits normatifs et sociaux (Mangematin et al., 1999) , La confiance inter-organisation est la confiance accordée par les membres d’une organisation à l’organisation associée; elle implique au moins deux organismes, en tant que personnes morales (Zaheer et al., 1998) . La confiance est le fondement de la pratique médicale. La construction d’une relation de confiance entre tous les acteurs de la santé peut devenir un moyen de moyen de gouvernance (Dyer, 1997) et palier là où la loi ne peut être appliquée.

Résultats
Dans un premier temps, nous avons identifié les différents acteurs de la conception des outils d’IA et les différentes relation existant entre ces acteurs. Ce phase a permis de décrire le rôle de chaque acteur et les coopérations et interactions pouvant exister entre eux. Ensuite, nous avons appliqué les trois étapes du design thinking (inspiration, idéation et implémentation) au domaine de la santé ; une étape d’évaluation a été ajoutée. Cette étape comportait : l’essai clinique, l’évaluation technique, l’évaluation médico-économique et la certification. Le processus d’évaluation était poursuivi après la mise sur le marche dans le cadre de vigilance
sanitaire.

Conclusion
La participation de tous les acteurs aux différents processus de conception des outils dans un climat de confiance permet une meilleure acceptabilité et appropriation des outils. Elle permet également une responsabilisation et une valorisation des acteurs. Le design thinking s’apparente à une recherche-action et permet une économie importante dans la conception, un taux d’échec réduit et une accélération de mise sur le marché.

Références
Brown, T. (2008, juin 1). Design Thinking. Harvard Business Review, June 2008, 10.
Colloc, J., & Vinot, D. (2000). A Decision Support System to encode the diseases in hospital.
Proceedings of ICSSHC 2000, 55‑61.
Darmoni, S., Griffon, N., & Massari, P. (2014). Les systèmes d’aide à la décision médicale.
Annales des Mines – Realites industrielles, Novembre 2014(4), 47‑50.
Dyer, J. H. (1997). Effective interim collaboration : How firms minimize transaction costs and
maximise transaction value. Strategic Management Journal, 18(7), 535‑556.
https://doi.org/10.1002/(SICI)1097-0266(199708)18:7<535::AID-SMJ885>3.0.CO;2-
Z
Mangematin, V., Thuderoz, C., Mangematin, V., & Harrisson, D. (1999). La confiance : Un
mode de coordination dont l’utilisation dépend de ses conditions de production. In La
confiance : Approche économique et sociologiques (p. 322). Gaëtan Morin.
Mathieu, F., & Hillen, V. (2016). Le design thinking par la pratique : De la rencontre avec
l’utilisateur à la commercialisation d’un produit innovant pour les seniors. Eyrolles.
Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An Integrative Model of
Organizational Trust. The Academy of Management Review, 20(3), 709‑734.
https://doi.org/10.2307/258792
Yameogo, R. A. (2020). Risques et perspectives du big data et de l’intelligence artificielle :
Approche éthique et épistémologique [These de doctorat, Normandie].
http://www.theses.fr/2020NORMLH10
Yaméogo, R., & Colloc, J. (2021). Utilisation du big data et de l’intelligence artificielle en
pratique médicale : Enquête auprès des médecins Havrais. Intelligence artificielle et
innovation sociale, 38‑39.

Zaheer, A., McEvily, B., & Perrone, V. (1998). Does Trust Matter? Exploring the Effects of
Interorganizational and Interpersonal Trust on Performance. Organization Science,
9(2), 141‑159. https://doi.org/10.1287/orsc.9.2.141
Zucker, L. G. (1986). Production of trust : Institutional sources of economic structure,
1840–1920. Research in Organizational Behavior, 8, 53‑111.