Le biais dans le domaine de la santé

Introduction

L’intelligence artificielle influence de nombreux aspects de notre vie professionnelle et privée. On lui confie de plus en plus de problématiques et pour des raisons d’efficacité ou de rapidité d’exécution, nous lui laissons analyser nos informations, les interpréter et prendre des décisions. Comme nous l’avons vu, il devient nécessaire de se poser la question des risques d’une telle dépendance au regard de l’aura d’objectivité et d’infaillibilité que notre culture attribue aujourd’hui à l’IA. En effet, les algorithmes développés sont considérés comme déterministes, impartiaux, neutres et incorruptibles et sont rarement remis en cause.

Pourtant, et nous le verrons plus précisément dans ce chapitre, la réalité est différente. Les algorithmes d’intelligence artificielle apprennent à partir des données qui leur sont fournies et en déduisent des modèles qui leur permettront de fournir des résultats. On comprend donc l’importance de la validité de ce que l’on donne à l’IA si l’on veut garantir le résultat obtenu, que ce soient des données, de l’information, de l’éducation, de la formation, de l’expertise, des conseils, des avis.

La santé...

Qu’appelle-t-on « biais » ?

Le biais qui vient du latin populaire biaxius signifie qui a deux axes, c’est-à-dire qu’il peut avoir deux sens. Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive.

Comme les humains, les intelligences artificielles qui utilisent les données, suivent des processus et des méthodes et sont basés sur des algorithmes, sont sujets aux biais. Des décisions peuvent être prises avec des informations imparfaites, incomplètes, erronées ou s’appuyant sans le savoir sur certains préjugés. Par exemple : faire plus confiance à quelqu’un s’il est une figure d’autorité, supposer le genre de quelqu’un en fonction de sa profession, s’appuyer uniquement sur des informations que l’on connaît, etc.

Il existe de nombreux types de biais, le biais cognitif et le biais algorithmique sont les deux qui nous intéressent dans le cadre des intelligences artificielles et ce sont ceux que nous allons considérer dans la suite de ce chapitre. Chacun de ces deux biais possédant leur propre sous-ensemble de biais.

Le biais dans le domaine de la santé

Pour une vue plus complète des biais liés à l’intelligence artificielle, je vous renvoie à mon précédent ouvrage cité dans les sources de ce chapitre.

Dans le domaine de la santé, les biais suivants sont fréquemment rencontrés :

La prévention

La prévention des biais nécessite une approche proactive de la recherche des biais. Réagir face à des problèmes plus ou moins graves engendrés par des biais est essentiel, voire obligatoire, mais prévenir ceux-ci, est plus efficace et beaucoup moins impactant pour l’entreprise.

En intelligence artificielle, où l’apprentissage automatique des machines est fréquent, les problèmes engendrés par les biais de codes ou de données peuvent ne pas être vus facilement et générer, comme nous l’avons vu plus avant, des risques et des conséquences importants pour l’organisme qui a mis l’IA en place.

La méthode que j’ai élaborée et qui est décrite en détail dans mon ouvrage Intelligence artificielle - Impact sur les entreprises et le business (2e édition), s’appuie sur trois phases séquentielles majeures dans la prévention des biais :

Les trois phases de la prévention des biais

Ces trois phases n’ont pas la même fréquence d’exécution :

En conclusion

Comme nous l’avons vu dans ce chapitre, les biais sont naturels chez l’humain et, même s’ils ne sont pas nécessairement négatifs, l’humain a des préjugés et fait des raccourcis qui mènent à des raisonnements incomplets qui peuvent générer des problèmes plus ou moins graves.

Dans le domaine de la santé, les biais, qu’ils soient médicaux, psychologiques ou sociaux, représentent un défi majeur pour la prestation de soins de santé, adéquats, équitables et de haute qualité. Ces biais peuvent influencer les diagnostics, les traitements recommandés et les résultats des soignés.

En adoptant une approche proactive pour identifier et remédier aux biais, nous pouvons progresser vers un système de santé plus juste, plus humain et plus efficace, où chaque individu a accès à des soins de qualité et à des opportunités de bien-être optimal. C’est essentiel pour promouvoir des soins de santé inclusifs, respectueux et efficaces pour tous les individus, indépendamment de leur identité ou de leur contexte social.

Comme nous le verrons dans cet ouvrage, cela nécessite un engagement continu à sensibiliser les professionnels de santé et les patients, à diversifier les perspectives dans...

Sources et références