L’utilisation de l’intelligence artificielle au service des soins de santé a franchi une nouvelle étape au pays. Nous avons récemment accueilli des leaders du secteur de la santé, des représentants d’hôpitaux, des entrepreneurs en technologie et d’autres parties prenantes lors d’un symposium sur l’IA dans le milieu de la santé canadien à Toronto.
Les discussions ont mis en évidence un changement clair dans la façon dont les organismes de soins de santé abordent l’IA. Il y a un an, les conversations tournaient autour de l’expérimentation et des cas d’utilisation. Cette année, l’attention se portait bien plus sur la mise en œuvre, la gouvernance, l’approvisionnement, la responsabilisation et l’expansion. Nous avons notamment beaucoup entendu que l’IA amorçait une nouvelle phase dans le secteur.
De l’expérimentation à l’adoption
La question n’est plus de savoir si l’IA peut être utilisée. On procède déjà à des essais, des évaluations et des déploiements un peu partout dans les milieux cliniques, opérationnels et administratifs. Ce qu’il reste à déterminer est comment les organismes de soins de santé peuvent mettre en place, gérer et optimiser ces outils de manière sécuritaire, fiable, viable et juridiquement défendable.
Pendant les 12 à 24 prochains mois, les hôpitaux, les autorités sanitaires, les entreprises du secteur, les assureurs et les fournisseurs de technologies de la santé se concentreront probablement moins sur les capacités technologiques que sur la gouvernance, la responsabilisation, l’approvisionnement, la protection de la vie privée et la rigueur dans la mise en œuvre.
L’adoption de l’IA s’accélère, mais son déploiement à grande échelle tarde à suivre
Un nombre croissant d’organismes de soins de santé canadiens envisagent de recourir à l’IA pour les aider avec tout ce qui touche la documentation, les flux de travail et de la patientèle, le triage, les diagnostics, les examens d’imagerie et la prise de décisions opérationnelles. L’IA ne se limite plus à la recherche ou à des projets pilotes isolés.
Cependant, le déploiement généralisé de cette technologie dans le système de santé tarde à se faire.
Plusieurs organismes ont cerné des cas d’utilisation prometteurs et mené des essais concluants. Par contre, ils sont bien moins nombreux à avoir intégré complètement l’IA dans leurs activités quotidiennes d’une manière évolutive, reproductible et qui inspire confiance au personnel médical, à la patientèle et à la direction.
Cet écart est en train de devenir l’un des principaux défis auxquels sont confrontés les organismes de soins de santé. Les obstacles sont rarement d’ordre purement technique. Le plus souvent, les organisations sont confrontées à des défis liés aux structures de gouvernance, aux modèles d’approvisionnement, aux obligations de protection de la vie privée, aux cadres de responsabilisation, à la planification de la mise en œuvre et à la préparation organisationnelle.
Les organismes de soins de santé ne se demandent donc plus forcément si l’IA fonctionne, mais plutôt s’ils peuvent la mettre en œuvre en toute confiance dans le contexte actuel.
Pourquoi est-ce important maintenant?
L’état du réseau de la santé en ce moment rend la conversation sur l’IA plus pertinente que jamais.
Partout au Canada, les organismes de soins de santé continuent de faire face à d’importantes pressions sur leurs effectifs, à un lourd fardeau administratif, à l’épuisement professionnel de leur personnel et à des défis d’accès aux soins. Ainsi, plusieurs organismes considèrent l’IA non pas comme une initiative technologique, mais comme une occasion susceptible de leur permettre de surmonter une foule d’obstacles. Ce sentiment d’urgence est l’une des raisons qui expliquent l’importance des discussions sur la mise en œuvre, la gouvernance et la responsabilisation.
Dans ces circonstances, l’IA est vue comme un moyen de réduire la charge en matière de documentation, de faciliter les processus cliniques, d’améliorer l’efficacité opérationnelle et d’aider la prise de décision.
Cela dit, l’adoption de nouvelles technologies dans le réseau de la santé ne se fait pas aussi simplement que dans certains autres secteurs.
Le déploiement de l’IA pourrait avoir des répercussions sur les soins prodigués à la patientèle, le jugement clinique, les droits de la protection des renseignements personnels, la responsabilité des établissements et la confiance du public. Les décisions quant à la mise en œuvre ont donc des conséquences différentes de celles qu’elles pourraient avoir dans d’autres secteurs.
C’est entre autres pourquoi la gouvernance est maintenant au cœur des discussions.
La gouvernance devient une condition préalable à la croissance
Un thème récurrent tout au long du symposium était que la gouvernance ne doit plus être une arrière-pensée.
La gouvernance s’impose de plus en plus comme le lien entre des projets pilotes réussis et une mise en œuvre durable.
Les organismes de soins de santé doivent répondre à une série de questions fondamentales :
- Qui approuve la mise en place d’un système d’IA?
- Quelles données probantes faut-il fournir avant la mise en œuvre?
- Qui est responsable lorsque des problèmes surviennent?
- Comment les systèmes seront-ils surveillés au fil du temps?
- Dans quels cas faut-il suspendre, réentraîner, modifier ou abandonner un système?
- Comment faut-il consigner et gérer les incidents, les presque exemples et les résultats imprévus?
La gouvernance porte donc de moins en moins sur l’élaboration de politiques et de plus en plus sur la mise en place de structures opérationnelles qui favorisent une utilisation responsable de l’IA tout au long du cycle de vie d’une organisation.
Les organismes qui ne parviennent pas à répondre à ces questions pourraient avoir de la difficulté à aller au-delà des cas d’utilisation isolés, quelles que soient les capacités de la technologie sous-jacente.
La protection de la vie privée et la gouvernance des données demeurent fondamentales
On ne peut aborder la question de l’IA dans les soins de santé sans parler de respect de la vie privée et de gouvernance des données. Le sujet est d’autant plus d’actualité, puisque le Canada a récemment déposé le projet de loi C-36, Loi visant à protéger la vie privée et les données des consommateurs, qui remplacerait la Loi sur la protection des renseignements personnels et les documents électroniques à titre de régime fédéral de la protection de la confidentialité dans le secteur privé; BLG a publié un guide détaillé sur les modifications proposées.
La mise en œuvre de l’IA soulève souvent des enjeux relatifs aux renseignements sur la santé, à la dépersonnalisation, au consentement, à l’accès des fournisseurs, à la cybersécurité, à l’utilisation secondaire des données et au risque de réidentification.
Les organismes de soins de santé qui explorent des solutions d’IA particulièrement complexes doivent trouver un équilibre entre leurs objectifs d’innovation, leurs obligations légales et les attentes du public.
Il est important de noter que les enjeux de gouvernance vont au-delà de la conformité. La confiance du public demeure un facteur essentiel à l’adoption réussie de l’IA. Les organismes de soins de santé doivent être capables d’expliquer comment les données sont utilisées, quelles mesures de protection sont en place et comment la responsabilité est répartie tout au long du déploiement.
La confiance n’est pas simplement une question de communication; il s’agit d’une exigence opérationnelle.
La discussion sur les normes de diligence commence
L’une des discussions les plus intéressantes de tout le symposium a porté sur l’évolution de la relation entre l’IA et les normes de diligence.
Par le passé, les préoccupations ont principalement porté sur les risques associés à une dépendance excessive aux résultats générés par l’IA. Évidemment, le personnel médical demeure responsable de l’exercice de son jugement professionnel et de ses décisions cliniques.
Une autre question pourrait se poser maintenant que l’adoption de l’IA se généralise.
Si plusieurs outils gagnent en précision et en fiabilité et qu’ils deviennent plus généralement acceptés dans la pratique clinique, le fait de ne pas tenir compte de certains outils d’IA déjà largement reconnus ne crée-t-il pas une catégorie de risque distincte?
Même si la législation canadienne n’a pas encore offert de réponses définitives, les organisations devraient s’attendre à ce qu’une attention accrue soit accordée aux interactions entre l’IA et les obligations professionnelles, la prise de décision clinique et la gestion des risques institutionnels.
Cette question revêtira assurément une importance croissante à mesure que l’IA passe du stade expérimental à celui d’une adoption à plus grande échelle.
Les achats et les contrats se rapportant à l’IA deviennent des enjeux stratégiques
Un autre point à retenir du symposium est que bon nombre de risques liés à l’IA sont, en fin de compte, gérés ou créés par le biais d’ententes contractuelles.
Les organismes de soins de santé accordent souvent la priorité à la fonctionnalité d’un outil proposé. Les modalités régissant la mise en œuvre, la maintenance, la mise à jour, la surveillance et le soutien de ce dernier au fil du temps sont toutefois tout aussi importantes.
Les organisations devraient examiner attentivement les éléments suivants :
- répartition des responsabilités;
- obligations de respect de la vie privée et de sécurité;
- propriété des données et utilisations autorisées;
- responsabilité de mise en œuvre;
- attentes de rendement;
- droits d’audit et de signalement;
- obligations relatives à la mise à jour des modèles, aux fonctionnalités et au réentraînement;
- interruptions de service et interventions en cas d’incident;
- exigences de gouvernance et de surveillance.
L’évolution des systèmes d’IA fait en sorte que les ententes d’approvisionnement, plutôt que de se limiter à l’acquisition de logiciels, doivent également prendre en considération la gestion du cycle de vie.
La conclusion de contrat est donc un aspect stratégique de la gouvernance de l’IA, pas simplement une tâche administrative.
Cinq questions pratiques pour les organismes de soins de santé
Alors que les organismes de soins de santé évaluent leurs projets d’IA, les équipes de direction devraient se poser les questions suivantes :
- Quel problème voulons-nous régler?
- Quelle structure de gouvernance supervisera la mise en œuvre et l’utilisation à long terme?
- Comment les risques ayant trait à la protection de la vie privée, la gouvernance des données et la cybersécurité seront-ils pris en compte?
- Quelles mesures de protection contractuelles sont nécessaires pour gérer les risques de manière appropriée?
- Comment l’organisation évaluera-t-elle le rendement, assurera-t-elle le suivi des résultats et réagira-t-elle aux problèmes après le déploiement?
Les organismes capables d’apporter des réponses pertinentes à ces questions seront bien positionnés pour passer de la phase d’expérimentation à une mise en œuvre durable.
Une approche multidisciplinaire est essentielle
Les enjeux entourant l’IA dans le réseau de la santé relèvent rarement d’une seule discipline juridique ou opérationnelle.
Ils touchent souvent simultanément au droit de la santé, à la protection de la vie privée, à la cybersécurité, à l’approvisionnement en technologies, à la conformité réglementaire, à la gouvernance, à l’assurance, aux risques de litiges et à la gestion des risques d’entreprise.
Au lieu d’aborder un seul enjeu de façon isolée, les organisations ont besoin de conseils englobant différents points de vue.
Chez BLG, nos équipes Droit de la santé, Cybersécurité et respect de la vie privée, Technologies, Droit des sociétés et droit commercial, Réglementation en matière de santé et Litiges travaillent ensemble pour aider les organismes de soins de santé à analyser leurs projets d’IA sous différents angles, qu’il s’agisse d’évaluer les cadres de gouvernance, de négocier des ententes d’approvisionnement, d’examiner les obligations de protection des renseignements personnels, d’élaborer des politiques de mise en œuvre ou de gérer les risques opérationnels et cliniques.
Regard vers l’avenir
S’il y a bien une chose à retenir du symposium de BLG sur l’IA dans le milieu de la santé canadien, c’est que cette technologie est passée de l’abstrait au concret.
Les organisations qui réussiront au cours des 12 à 24 prochains mois ne seront pas nécessairement celles qui adopteront l’IA en premier, mais plutôt celles qui parviendront à la gérer, à l’expliquer, à en assurer la surveillance et à en assumer la responsabilité une fois qu’elle fera partie intégrante des activités quotidiennes, en plus de collaborer efficacement avec des tiers.
À mesure que les organismes de soins de santé passent de l’étape de l’expérimentation à celle du déploiement, la capacité à encadrer, à surveiller et à gérer l’IA fera la différence entre les initiatives couronnées de succès et celles qui échouent. BLG continuera de collaborer avec les hôpitaux, les organismes de soins de santé, les entreprises de technologie et les autres acteurs du secteur pour les aider à relever les défis juridiques, réglementaires, opérationnels et de gouvernance qui accompagnent cette nouvelle phase d’adoption de l’IA.
Communiquer avec les personnes qui ont rédigé le présent article ou l’une des personnes-ressources dont le nom figure ci-après pour discuter de l’incidence que pourraient avoir sur votre organisation les enjeux de gouvernance de l’IA, d’approvisionnement et de respect de la vie privée ou les risques cliniques.
Nous vous invitons également à vous abonner à notre bulletin sur l’IA et les soins de santé (en anglais seulement).
