L’OMS (Organisation mondiale de la santé) publie son premier rapport sur l’intelligence artificielle (IA) appliquée à la santé (165 pages en anglais) et six principes directeurs relatifs à sa conception et à son utilisation. L’OMS considère le recours croissant à l’IA dans la santé est un défi pour les gouvernements, les prestataires et les communautés. L’OMS voit l’IA comme un grand espoir pour améliorer les soins et la médecine. Il demande cependant de placer l’éthique et les droits humains au cœur de sa conception, de son déploiement et de son utilisation.
Attention aux effets préjudiciables de l’IA
Le rapport publié le 28 juin est consacré à l’éthique et à la gouvernance de l’intelligence artificielle dans le domaine de la santé (intitulé en anglais : « Ethics and governance of artificial intelligence for health »). C’est le résultat de 2 ans de consultations menées par des experts internationaux nommés par l’OMS. « Il peut être fait mauvais usage de l’intelligence artificielle et elle peut entraîner des effets préjudiciables » s’inquiète Tedros Adhanom Ghebreyesus, directeur général de l’OMS.
L’OMS reconnaît que l’IA peut déjà servir dans certains pays riches à améliorer la rapidité et la précision du diagnostic et du dépistage des maladies, à faciliter les soins cliniques, à renforcer la recherche et la mise au point de médicaments, ainsi qu’à soutenir la surveillance des maladies, la riposte aux flambées épidémiques et la gestion des systèmes de santé. Pour l’OMS, l’IA pourrait également permettre aux patients de mieux maîtriser leurs soins de santé. Elle pourrait faciliter l’accès aux services de santé dans les pays disposant de peu de ressources, où les patients peinent à accéder au personnel médical.
Les entreprises technologiques peuvent prendre le pouvoir sur les patients
Toutefois, le rapport de l’OMS demande de ne pas surestimer les avantages de l’IA, en particulier lorsqu’elle supplante des investissements de base nécessaires pour parvenir à la couverture sanitaire universelle. Le rapport souligne également des risques, notamment une utilisation contraire à l’éthique de données relatives à la santé, les biais introduits dans les algorithmes et les risques pour la sécurité des patients, la cyber-sécurité et l’environnement.
L’OMS craint que l’utilisation non réglementée de l’IA subordonne les droits et les intérêts des patients aux intérêts commerciaux puissants des entreprises technologiques ou à des gouvernements pour de la surveillance et du contrôle social. Le rapport attire l’attention sur le fait que les systèmes entraînés à partir de données recueillies auprès d’individus vivant dans des pays à revenu élevé risquent de ne pas bien fonctionner pour les populations des pays à revenu faible ou intermédiaire.
Les droits humains comme boussole pour l’OMS
Les millions d’agents de santé vont voir leurs rôles et leurs fonctions être automatisés et cela leur demandera d’acquérir des connaissances numériques ou de les perfectionner. Ils devront gérer des machines susceptibles de remettre en question la prise de décision et l’autonomie des prestataires et des patients. L’OMS demande aux gouvernements, aux prestataires et aux concepteurs d’IA d’être guidés par les droits humains, et de collaborer à chaque étape de la conception, du développement et du déploiement d’une technologie s’appuyant sur l’IA.
6 principes de l’OMS pour que l’IA agisse dans l’intérêt public dans le domaine de la santé
L’OMS propose que la réglementation de l’IA utilisée dans la santé repose sur 6 principes.
Protéger l’autonomie de l’être humain. Les individus doivent rester maîtres des systèmes de soins de santé et des décisions médicales. La vie privée et la confidentialité doivent être protégées. Les patients doivent donner un consentement éclairé au moyen de cadres juridiques appropriés.
Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public. Les concepteurs d’IA doivent respecter les obligations réglementaires relatives à la sécurité, à la précision et à l’efficacité de l’IA pour des utilisations bien définies. Il faut contrôler la qualité et l’amélioration de la qualité dans l’utilisation de l’IA.
Garantir la transparence, la clarté et l’intelligibilité. Des informations suffisantes doivent être publiées avant la conception ou le déploiement d’une IA. Ces informations doivent être facilement accessibles et permettre un débat public constructif.
Encourager la responsabilité et l’obligation de rendre des comptes. Il incombe aux parties prenantes de veiller à ce que l’IA soit utilisée dans des conditions appropriées et par des personnes formées. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.
Garantir l’inclusion et l’équité. L’IA doit être conçue de manière à encourager un accès équitable le plus large possible, indépendamment de l’âge, du sexe, du genre, des revenus, de la race, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes relatifs aux droits humains.
Promouvoir une IA réactive et durable. Les concepteurs, les développeurs et les utilisateurs devraient évaluer de manière continue et transparente les applications de l’IA en situation réelle afin de s’assurer qu’elles répondent de manière appropriée aux besoins. Les systèmes d’IA devraient être conçus de sorte à réduire leurs conséquences environnementales et à accroître leur efficacité énergétique. Les gouvernements et les entreprises devraient anticiper les bouleversements qui seront occasionnés au niveau du travail, notamment la formation des agents de santé qui devront se familiariser avec l’utilisation des systèmes d’IA, et les pertes d’emploi que le recours à des systèmes automatisés est susceptible d’engendrer.
Ces 6 principes guideront les travaux futurs de l’OMS en vue de garantir que le plein potentiel de l’IA en matière de soins de santé et de santé publique sera mis au service du bien de tous.