Unbias, la startup qui lutte contre les biais pour une IA plus juste

Lorsqu'on évoque l'intelligence artificielle (IA), l'accent est souvent mis sur ses prouesses, sa rapidité d'exécution ou son potentiel disruptif. Ses biais sont aussi dénoncés, mais peu se penchent sur des solutions concrètes pour les identifier et les contrôler. C'est précisément ce combat qu'a choisi de mener Unbias, une startup fondée en 2021 par Daphné Marnat et Benoît Dal Zotto.

Le parcours de Daphné Marnat avant Unbias est atypique dans la tech : anthropologue, elle s’est spécialisée dans l’innovation pour étudier la manière dont les technologies transforment la société. En 2012, elle crée Twisting, une agence de conseil qui applique les principes de la recherche anthropologique aux études qualitatives et au design thinking. "Mon métier a toujours été d’étudier comment les technologies sont perçues et utilisées par les individus. Je travaille à l’interface entre ingénieurs et utilisateurs, pour comprendre comment une technologie peut être adoptée et quels en sont les effets collatéraux", explique-t-elle pour PôlePole Sociétés.

C’est en collaborant avec des équipes tech qu’elle réalise que les algorithmes de langage sont loin d’être neutres. "J’ai découvert que l’IA ne fait que reproduire et amplifier les biais présents dans les données qu’on lui fournit. Certains stéréotypes, invisibles au premier abord, se multiplient de manière exponentielle", raconte-t-elle. Daphné, forte de son expérience en sciences humaines, sait combien ces biais influencent nos décisions et nos perceptions. “Il y avait donc un enjeu majeur à traiter : comment garantir que l'IA ne renforce pas les stéréotypes ?", surtout lorsqu’on sait que les systèmes algorithmiques alimentent désormais de nombreux secteurs, de la banque au recrutement.

Elle s’associe alors à Benoît Dal Zotto, data scientist, pour fonder Unbias en 2021 et développer des outils capables de détecter et corriger ces dérives avant qu’elles ne deviennent systémiques.

Quand l’IA amplifie les biais

L’IA ne réfléchit pas, elle calcule. Elle s’appuie sur des probabilités pour générer du contenu. "Le problème, c’est qu’elle va toujours chercher le plus probable, et non le plus juste.” L’IA apprend à partir de corpus de textes issus du monde réel, qui portent en eux des stéréotypes bien ancrés : "Si certains biais de genre sont utilisés, elles vont donc les reproduire à très large échelle, de l’ordre de milliards, ce qui va engendrer encore plus de biais de langage sexistes", souligne la cofondatrice.

Un exemple ? Les IA de traduction. "Si vous traduisez 'The nurse' en français, cela devient toujours 'l’infirmière', et 'The surgeon' sera systématiquement traduit par 'le chirurgien', même si le contexte indique qu’il s’agit d’une femme. Ces biais implicites façonnent notre perception des rôles sociaux."

Autre exemple frappant : l’administration. "Lorsque j’ai voulu ouvrir un compte bancaire pour Unbias, bien que j’en sois la fondatrice et détentrice majoritaire, tous les documents ont été édités par la machine au nom de mon associé masculin. Ce n’est pas une volonté consciente de discriminer, mais un biais systémique profondément enraciné."

Unbias : une IA qui corrige les IA

Face à ces dérives, Unbias développe une technologie capable d’identifier et de corriger les biais dans le langage des IA. "Nous avons mis en place un algorithme qui intercepte les éléments de langage problématiques et les reformule de manière plus neutre", explique Daphné Marnat. Plutôt que de masquer les stéréotypes, Unbias revalorise les formes sous-représentées en rééquilibrant la balance. "La seule manière de retrouver l’équilibre, c’est de surpondérer au féminin", affirme-t-elle, en prônant une forme de discrimination positive appliquée aux données.

Si la question des biais est souvent débattue, les réponses concrètes sont rares, et Unbias a rapidement perçu que l'industrie de l'IA ne faisait pas de la lutte contre les biais une de ses priorités. "Certains grands acteurs nous ont dit qu'ils avaient déjà des solutions. Or, en testant leurs modèles, on voit bien que les stéréotypes sont toujours prégnants."

L’outil d’Unbias s'intègre directement aux architectures des IA dans les entreprises pour faciliter l’intégration. "Nous avons voulu proposer un outil concret, car il y a beaucoup de théories sur le sujet, mais très peu de solutions applicables sur le terrain", affirme Daphné Marnat.

Frugalité et impact environnemental

La startup s'attaque également à un autre problème majeur de l'IA : son coût énergétique exorbitant. En optimisant les algorithmes et en réduisant la consommation de ressources informatiques, la startup développe des solutions de frugalité qui permettent de limiter l'empreinte carbone des modèles d'IA. "Nous nous sommes rendus compte que non seulement c'était un impératif environnemental, mais aussi un véritable verrou commercial : le coût énergétique des IA est aujourd'hui un frein pour de nombreuses entreprises", souligne Daphné Marnat.

L'indépendance d'Unbias est aussi une leçon en soi. Dans un secteur dominé par des géants aux financements colossaux, la startup a fait le choix du bootstrapping, se développant sans lever de fonds pour garder le contrôle de sa vision. "Nous voulions rester maîtres de notre projet et ne pas avoir à faire de compromis sur nos valeurs. Cela demande des sacrifices, mais c'est aussi une vraie satisfaction", déclare-t-elle.

Un combat qui dépasse le sexisme

Si Unbias s’attaque en priorité aux biais sexistes, l’ambition est plus large. "Demain, nous voulons traiter les problèmes de racisme, de xénophobie et d’homophobie dans les modèles de langage et d’image". À terme, la startup veut fournir aux entreprises et aux institutions des outils capables de détecter et corriger tous les types de discriminations technologiques.

Daphné Marnat est formelle : "On vit l’équité dans notre réalité, la loi contre les discriminations existe en France. À nous d’aider les machines quand les humains n’y arrivent pas malgré une volonté affichée."

Avec Unbias, la technologie ne dicte plus la norme : elle s’adapte à une société en pleine mutation. En agissant dès la conception des modèles, la startup ouvre la voie à une intelligence artificielle plus inclusive, débarrassée des biais invisibles qui façonnent insidieusement nos interactions numériques. Un combat essentiel, et plus actuel que jamais.