Gouvernance dans le domaine de la santé et des soins
Il s'agit d'un superposition sectorielle, qui ne remplace pas le cours de base. Il applique les huit modules de gouvernance aux contextes dans lesquels les organismes de santé et de soins mènent effectivement leurs délibérations — conseils de santé, comités de gouvernance clinique, comités d'éthique et prestataires de soins. Commencez par étudier les huit modules principaux, puis revenez ici et utilisez les indications ci-dessous pour adapter chacun d'entre eux à vos propres salles de commission. Cette adaptation est délibérément rédigée dans un langage propre aux instances dirigeantes et avec rigueur : elle concerne le bilan en matière de gouvernance concernant les décisions en matière de santé, et ne constitue en aucun cas un avis clinique ni une recommandation relative aux soins prodigués aux patients.
Comment utiliser ce calque : Suivez les huit modules fondamentaux et le projet de fin de formation, puis mettez en œuvre les recommandations spécifiques à votre secteur présentées ici avec votre conseil d’administration, votre comité d’éthique ou votre comité de gouvernance clinique. Parcours fondamental : Module 1 · Module 2 · Module 3 · Module 4 · Module 5 · Module 6 · Module 7 · Module 8 · Projet de fin d'études.
Où se manifeste le risque dans la gouvernance de la santé ?
La gouvernance dans le domaine de la santé et des soins donne lieu à certains des comptes rendus de délibérations les plus sensibles qu’un conseil d’administration puisse avoir à gérer. Le risque réside rarement dans la décision principale ; il réside plutôt dans comment la manière dont la décision a été prise, qui a pu consulter les documents de travail, où ceux-ci ont été traités, et si une enquête ultérieure permettra de reconstituer fidèlement le raisonnement. Les points sensibles qui reviennent régulièrement sont les suivants :
Points d'exposition récurrents
- Délibérations du comité d'éthique — les motifs, les opinions dissidentes, les alternatives envisagées puis rejetées. C'est dans ce dossier que réside la validité d'une décision éthique.
- Le consentement et ses limites — ce qui a été accepté, dans quel but, et la limite exacte au-delà de laquelle le consentement cesse. Tout écart par rapport à cette limite relève d’un échec de gouvernance, et non d’une simple erreur administrative.
- Conception de programmes liés à la santé — les programmes de bien-être, de dépistage, de sensibilisation et de coordination des soins qui traitent des données de santé sans pour autant constituer des services cliniques.
- Données sensibles du point de vue communautaire — les données relatives à la population, au whānau ou à une cohorte, où les intérêts collectifs et les obligations culturelles coexistent avec le droit à la vie privée de chacun.
- Analyses d'incidents et discussions sur la morbidité et la mortalité — une réflexion approfondie et décisive, dont la valeur repose sur un compte rendu complet et vérifiable.
- Triage ou synthèse, assistés par l'IA, de cas sensibles — où un modèle s'interpose entre les données sources et les décideurs, et peut discrètement influencer la perception du comité.
Si l'on se réfère aux cinq catégories de risque définies dans le programme, deux d'entre elles se démarquent nettement dans ce secteur :
Risque lié à la compétence juridictionnelle (particulièrement marqué dans ce cas) : Le traitement transfrontalier des données de santé transfère les dossiers les plus sensibles que vous détenez vers un autre régime juridique — où un régime de divulgation étranger, un pouvoir d'accès légal ou une modification des conditions générales d'un prestataire peuvent exposer des informations que vos adhérents n'auraient jamais imaginé voir sortir de la juridiction.
Risque lié à la réutilisation de l'IA (aigu dans ce cas précis) : Les données sensibles relatives aux cas intégrées dans les modèles peuvent être conservées, utilisées à des fins d'apprentissage ou divulguées de manière opaque. Dès qu'une discussion sur la morbidité ou un résumé de cas permettant l'identification d'une personne entre dans un pipeline de modèles sans limites, le conseil d'administration perd toute possibilité de retracer son parcours.
Les trois autres restent valables : le risque lié à la provenance (pouvez-vous prouver qui est l'auteur du document et qui l'a modifié ?), le risque lié aux limites (pouvez-vous prouver ce qui a franchi quelle limite, et à quel moment ?) et le risque lié à la continuité (la version faisant autorité est-elle préservée en cas de changement de fournisseur ?). Le module 3 aborde ces cinq risques.
Exemples détaillés
Trois situations qui transforment un bilan ordinaire en matière de gouvernance sanitaire en un bilan contesté. Considérez chacune d’entre elles comme une question concernant la propriétés de l'enregistrement, et non le bien-fondé clinique de cette décision.
1 · Une évaluation éthique remise en cause à la suite d'un résultat insatisfaisant. Un comité a approuvé une ligne de conduite ; les résultats se sont avérés médiocres ; la décision fait désormais l'objet d'un réexamen. La validité de la décision du comité repose entièrement sur sa capacité à démontrer comment celle-ci a été prise : les alternatives ont été pesées, les opinions divergentes ont été consignées, les limites du consentement ont été comprises. Si ces délibérations ont été consignées uniquement dans des fils de discussion par e-mail et sur un disque dur contrôlé par un fournisseur, le comité ne peut pas prouver que son raisonnement était solide, mais seulement l'affirmer.
2 · Un résumé généré par l'IA d'un dossier sensible qui s'éloigne du texte source. Une commission reçoit un résumé généré automatiquement concernant un dossier sensible. Une réserve importante — ou un avis clinique divergent — est atténuée ou supprimée. La commission délibère sur le résumé, et non sur la source. En l’absence de lien vérifiable entre le résumé et la source, et sans contrôle humain sur les éléments sur lesquels la commission se fonde, cette dérive reste invisible jusqu’à ce qu’elle soit remise en cause.
3 · Une demande de communication de documents liés à la santé émanant d'une autre juridiction. Une entité externe, régie par un droit étranger, sollicite des données liées à la santé qui sont traitées à l'étranger par un prestataire. La question n'est plus seulement « devons-nous divulguer ces données ? », mais « le prestataire peut-il être contraint de les divulguer quelle que soit notre réponse, et en serions-nous même informés ? ». C'est le lieu où se trouvent les données qui détermine qui contrôle leur divulgation.
Quels modules privilégier ?
Les huit modules fondamentaux s'appliquent tous. En matière de gouvernance de la santé et des soins, trois d'entre eux ont le plus de poids.
Modules prioritaires pour ce secteur
- Module 3 — Les cinq catégories de risques pour tri des données sensibles. Utilisez ces cinq catégories comme liste de contrôle systématique chaque fois qu’un enregistrement contient des données identifiables, sensibles sur le plan communautaire ou liées à la santé. La juridiction compétente et le risque lié à la réutilisation par l’IA doivent être clairement indiqués pour chaque enregistrement de ce type.
- Module 5 — Vérification de type « Guardian » et autorité humaine pour L'IA dans le secteur des soins. Tout triage ou résumé réalisé à l'aide de l'IA doit pouvoir être vérifié par rapport à sa source, et un être humain identifié doit détenir le pouvoir de décision quant aux mesures que le comité prendra. Le modèle apporte son aide ; il ne prend jamais de décision et ne fait jamais office de référence officielle.
- Module 8 — Préparation et projet pilote pour a fonction de gouvernance clinique délimitée. Ne commencez pas par l'ensemble de l'organisation. Menez une expérimentation de la délibération souveraine au sein d'une fonction bien délimitée — un comité d'éthique, une commission d'examen des incidents — où les données sont sensibles, les limites clairement définies et les résultats mesurables.
Lectures complémentaires
Lectures complémentaires
- ENISA — Ingénierie de la protection des données — les pratiques d'ingénierie visant à intégrer les principes de protection des données dans les systèmes traitant des données sensibles, notamment dans le domaine de la santé.
- Contrôleur européen de la protection des données — TechDispatch : la blockchain et la protection des données — établit une distinction entre les propriétés relatives à l'intégrité des comptes rendus et les obligations en matière de gouvernance des données, ce qui s'avère utile lors de l'évaluation de comptes rendus de délibérations vérifiables.
Sujets de discussion
Sujets de discussion axés sur la santé
- Si l'une de nos décisions en matière d'éthique venait à être contestée à la suite d'un résultat défavorable, serions-nous en mesure de prouver — et pas seulement d'affirmer — la manière dont le comité l'a élaborée, y compris les opinions dissidentes et les alternatives que nous avons rejetées ?
- Pour chaque résumé généré par l'IA sur lequel nos comités se prononcent, une personne désignée est-elle en mesure d'en retracer la source et de confirmer qu'aucun élément important n'a été édulcoré ou omis ? Qui détient cette autorité aujourd'hui ?
- Quels sont, parmi nos dossiers les plus sensibles liés à la santé, ceux qui sont traités en dehors de notre juridiction, et que se passerait-il si une autorité étrangère chargée de la divulgation d'informations y avait accès par l'intermédiaire de notre prestataire ?
- Si nous devions mener une expérimentation de délibération souveraine sur une fonction bien délimitée — par exemple, notre comité d'examen des incidents ou notre comité d'éthique —, laquelle nous apporterait le plus d'enseignements tout en présentant le moins de risques ?