Joy Buolamwini était chercheuse au MIT lorsqu’elle s’est rendue compte que les systèmes de reconnaissance faciale sur lesquels elle travaillait fonctionnaient moins bien avec elle qu’avec ses collègues. La différence ? Leur couleur de peau, celle de Mme Buolamwini étant noire. La chercheuse a alors mis en exergue des statistiques édifiantes : le taux de réussite aux tests de reconnaissance faciale des algorithmes étudiés étaient 34% plus faibles pour des images de femmes noires que pour des images d’hommes blancs.

L’un des grands enjeux de la décennie

Au-delà des titres racoleurs parlant d’intelligences artificielles “racistes“, il est nécessaire de traiter le problème à ses sources, parmi lesquelles les données ayant servi à l’apprentissage machine sont une première étape. En l’espèce, les bases de données utilisées pour la création de modèles de reconnaissance faciales sont profondément disproportionnées : elles contiennent bien plus de photos d’hommes blancs que de femmes noires, et l’algorithme manque donc d’entrainement pour ces dernières images. Il s’agit ici d’un problème facilement soluble : il suffit de prendre des photos de femmes noires. Plus intéressant, et plus difficile à résoudre : pourquoi y avait-il moins de photos de femmes noires que d’hommes blancs ? Et surtout, toutes les bases de données souffrent-elles de tels biais ?

Il est peu risqué d’affirmer que l’enjeu de la reproduction de nos propres biais par des intelligences artificielles est un des enjeux majeurs des prochaines années, tant il est certain que l’IA va nous servir à effectuer de plus en plus de tâches. Il est donc primordial de trouver des méthodes pour détecter ces biais, à la fois lorsqu’ils sont mis en œuvre par les machines, mais aussi et surtout en amont, lors de l’élaboration des bases de données et des modèles algorithmiques.

Tout est relatif, même les biais

De manière assez intéressante, une nouvelle population se sent désormais victime de biais : l’électorat conservateur aux États-Unis. Le fait que la Silicon Valley est principalement progressiste et de gauche (pour les États-Unis) est un secret de polichinelle. Cette tendance a poussé un nombre croissant d’élus du parti Républicain à remettre en cause les algorithmes de sélection de contenus des plateformes de la Silicon Valley, arguant qu’elles avaient tendance à censurer la parole conservatrice. Le monde de la tech, qui célèbre la diversité et lutte contre les discriminations, serait ainsi lui-même profondément biaisé à l’encontre d’un certain type de discours politique.

Ce que ces tensions politiques mettent en valeur, c’est bien la relativité et l’ubiquité des biais : nous en sommes tous plus ou moins vecteurs, plus ou moins consciemment, et ceux-ci se retrouvent dans les données que nous produisons. Il est désormais notoire que les juges sont plus cléments après le déjeuner : ce biais très impactant pourrait avoir des répercussions si l’on fait de la donnée sur les décisions de justice, et donc être reproduit par un éventuel algorithme d’aide à la décision. Se posent donc de très nombreuses questions : comment lutter contre ces biais en amont, afin de les éviter ? Comment corriger les données produites ? Et faut-il seulement le faire ? Le biais est-il inhérent à l’humain ? La notion de biais est-elle universelle ? Peut-on même lutter contre les biais ? On vous pose les questions, mais n’oserons donner de réponses, de peur d’être biaisés.