Une lacune dans le cadre réglementaire canadien pour les solutions d’intelligence artificielle liées à la santé

Publié le: septembre 2023Catégories: Série éditoriale 2023, Éditoriaux, Thème 3 : ChatGPT

Auteurs):

Jacob Hutton

La Faculté de médecine de l’UBC participe au BC Resuscitation Research Collaborative

Doctorant

Centre pour l'avancement de la santé et grappe de recherche en science des données et en santé

stagiaire de recherche

Tête d'un homme blanc portant un pull bleu à fermeture éclair
Clause de non-responsabilité : La version française de cet éditorial a été auto-traduite et n’a pas été approuvée par l’auteur.

Dans le secteur de la santé, les réglementations existantes peuvent ne pas s’appliquer aux solutions d’IA axées sur la prestation de services de santé, et c’est probablement là que les avantages et les risques sont les plus importants.

Chat GPT et les technologies associées constituent un test de résistance pour les décideurs politiques canadiens confrontés à un certain nombre de pressions et d'incitations croisées. D'une part, de nombreuses entités du secteur public au Canada sont confrontées à des crises de ressources humaines, demande croissanteet une infrastructure héritée, ce qui entraîne un déficit dans la prestation des services et des difficultés à tenir les promesses politiques visant à améliorer les services aux Canadiens. D’un autre côté, l’essor récent des technologies d’intelligence artificielle (IA) s’accompagne de la promesse de solutions basées sur l’IA pour de nombreux problèmes du secteur public, utilisant des méthodes de pointe pour accroître l’efficacité et la qualité de nombreux services du secteur public. 

Le secteur où les pressions sont les plus fortes est peut-être celui des soins de santé, ce qui a amené l'Association médicale canadienne à publier un déclaration l'année dernière, sur le besoin crucial de ressources supplémentaires pour faire face à l'augmentation des temps d'attente et de l'accès aux soins ; mettant en avant les technologies de l’IA comme une solution potentielle à cette crise. 

Alors que l’innovation dans le secteur de l’IA progresse régulièrement au cours de la dernière décennie, l’impact de Chat GPT sur le débat public est sans précédent. En conséquence, il y a eu une ruée vers l’or d’entreprises existantes et de nouvelles startups cherchant à appliquer ces technologies à des problèmes sociétaux urgents et à récolter les fruits requis, les soins de santé représentant un objectif majeur de ces efforts. Les technologies basées sur le langage telles que Chat GPT sont bien adaptées pour être intégrées dans des solutions qui augmentent l'efficacité de la prestation des soins, par exemple en améliorant l'efficacité des processus de routine tels que la création de dossiers, et des chatbots visant à aider les patients à naviguer dans leur parcours de recherche de soins. Les petites entreprises comme Verre Santé et des méga-acteurs tels que Microsoft intègrent les LLM dans les processus de cartographie des cliniciens et prétendent libérer des heures par jour de temps de clinicien. Des entreprises telles que Géant équiper les systèmes de santé d’assistants virtuels basés sur l’IA visant à améliorer le parcours du patient dans l’accès aux soins. Il est inévitable que de telles solutions frappent bientôt aux portes des systèmes de santé canadiens, promettant des solutions à nos besoins identifiés liés à l’efficacité des soins et à l’accès aux soins. Lorsqu’ils le feront, comment les décideurs canadiens évalueront-ils leurs allégations d’efficacité ? 

Il existe au Canada un solide système de réglementation des technologies de la santé qui traite des interventions pharmaceutiques, des dispositifs médicaux et de certains logiciels médicaux. Dans ce cadre, les logiciels utilisés pour des applications médicales directes sont réglementés comme un produit de santé, mais il n'est pas clair si des technologies comme ChatGPT entrent dans cette catégorie. Orientation de Santé Canada Documents pour Software as a Medical Device (SaMD) indique que si un logiciel est «n'est pas destiné à acquérir, traiter ou analyser une image ou un signal médical », « est destiné à afficher, analyser ou imprimer des informations médicales sur un patient ou d'autres informations médicales », est « uniquement destiné à soutenir » la prise de décision du prestataire, et « n'est pas destiné à remplacer… le jugement clinique », alors le logiciel ne serait pas classé comme instrument médical et, à ce titre, ne nécessiterait pas d'évaluation par Santé Canada. Outre un projet supplémentaire publié conjointement document intitulé : « Bonnes pratiques d'apprentissage automatique pour le développement de dispositifs médicaux : principes directeurs », publié avec la Food and Drug Administration (FDA) des États-Unis et l'Agence britannique de réglementation des médicaments et des produits de santé (MHRA), il n'existe aucune directive spécifique sur l'évaluation des produits d'IA pour la santé. Canada.

Parallèlement à cette réglementation spécifique sanitaire, Le Canada a un système de réglementation fédéral programme qui décrit les étapes à suivre pour une utilisation responsable de l’IA pour un usage général. Il y a un nouveau marché fédéral processus et un cadre d'évaluation d'impact spécifiquement pour les produits d'IA qui signifie que le gouvernement fédéral reconnaît la nécessité de processus spécifiques pour évaluer les solutions d'IA. Cependant, ce cadre n'a pas la rigueur du type de cadre fourni par Santé Canada pour les produits médicaux et place l'essentiel de la responsabilité sur le fournisseur de logiciels pour le respect d'un ensemble de principes d'IA responsable. Cela crée une situation dans laquelle les solutions adjacentes aux soins axées sur l'application de l'IA pour accroître l'efficacité des soins peuvent être soumises à une évaluation préalable à la mise en œuvre moins rigoureuse que les produits qui relèvent explicitement de la compétence de Santé Canada.

En médecine, la fourniture d’un traitement ou d’une procédure ne représente qu’une fraction de ce qui constitue l’expérience du patient. Des facteurs plus larges tels que l’accès aux soins, la prestation en temps opportun des services et le temps passé par le clinicien jouent tous un rôle dans la qualité des soins de santé, la satisfaction des patients et les soins fondés sur la valeur. Des technologies telles que Chat GPT représentent une opportunité unique de rationaliser bon nombre de ces processus. L'amélioration de ces processus peut améliorer l'expérience du patient, mais peut également nuire au système de santé canadien et créer des difficultés pour les patients et les prestataires si ces processus sont mis en œuvre avant d'être soumis à une évaluation rigoureuse, comme c'est la norme pour les interventions médicales traditionnelles. Même si de telles solutions ne relèvent peut-être pas du cadre réglementaire actuel de Santé Canada, leurs risques et avantages potentiels pour la qualité et l'efficacité de la prestation des soins soulignent la nécessité d'un ensemble d'exigences plus strictes avant d'investir des fonds publics dans leur mise en œuvre, ce qui pourrait exiger des éclaircissements ou des modifications aux politiques existantes de Santé Canada.