Biais : définition, exemples et techniques de lutte

Le biais est un processus utilisé dans le cadre de méthodes data scientist. Il s'agit d'un enjeu clé de l'IA, notamment pour les process d'analyse avancée ou les techniques de machine learning. Selon les usages, on parle de biais cognitif, de biais algorithmique ou de biais discriminatoire.

Un biais cognitif, c’est quoi ?

Dans le domaine de l’intelligence artificielle, le biais cognitif s’avance comme un véritable enjeu, car il sous-tend un traitement de données subjectif. Contrairement à un biais de traitement standard, il ne se contente pas de se baser sur une représentativité ou une proportionnalité dans les informations ciblées. Il s’appuie sur un schéma de pensée partial qui ne prend pas en compte l’intégralité des données sur un sujet spécifique. D’où la dénomination qui suggère un caractère biaisé, bien avant la mise en place et le déploiement d’un modèle analytique.

Pour illustrer ce propos, le biais cognitif peut mettre en avant la récurrence d’un phénomène sociétal chez un groupe ethnique, tout en occultant les faits qui viennent le contredire. Autrement dit, le processus se base sur des a priori et des incertitudes, non sur des faits. Tout comme notre environnement physique, le biais offre une perception tendancieuse d’un écosystème numérique. S’ils constituent une aide décisionnelle pratique en certaines circonstances, les biais sont susceptibles d’altérer l’efficacité de l’IA suite à une intervention ou implication humaine dans le processus.

Quels sont les principaux biais en IA ?

En considérant les champs d’application et les fonctions des systèmes concernés, l’IA (intelligence artificielle) permet de développer différents biais informatiques :

  • Le biais de confirmation : il s’agit d’un biais cognitif qui sous-tend une programmation subjective et partiale.
  • Le biais statistique : l’algorithme est susceptible de comprendre des variables d’omission ou de sélection sur la base d’un profil de recherche spécifique.
  • Le biais économique : un système d’incitation qui s’inscrit essentiellement dans une démarche commerciale ou marketing, en vue de favoriser une cible plutôt qu’une autre. Par exemple, pour une campagne publicitaire.

On distingue de nombreuses sous-catégories, notamment les biais de jugement, les biais attentionnels, les biais mnésiques (appel à la mémoire), les biais de raisonnement, sans oublier les biais dits de personnalité.

Comment lutter contre les biais qui peuvent émerger de l’IA ?

Le biais constitue donc un enjeu d’éthique et d’équité en ce qui concerne le domaine de l’intelligence artificielle. De par sa nature, mais surtout son usage, il présente un caractère discriminatoire. Il existe cependant des solutions et des moyens pour contrer les biais cognitifs et de sélection :

  • Utiliser des sources d’information fiables et communes.
  • Posséder une connaissance initiale du sujet.
  • Elaborer une définition précise des besoins réels.
  • Effectuer une communication sensibilisatrice avec les interlocuteurs concernés.
  • Privilégier les équipes et les profils pluridisciplinaires.
  • Contrôler la cohérence des variables.
  • Identifier les biais à l’aide d’outils numériques spécialisés.

Dictionnaire de l'intelligence artificielle