Cet article est republié à partir de The Conversation France
Avez-vous remarqué que les assistants virtuels se prénomment Alexa (Google), Siri (Apple) ou Cortana (Microsoft) ? Et que la version initiale de Siri répondait "I’d blush if I could" ( "je rougirais si je le pouvais" ) quand la question ne pouvait être interprétée. Connaissez-vous Eliza ? Une pionnière, l’IA ancêtre des agents conversationnels ou chatbots capable de "dialoguer" avec les humains dès 1964. Avez-vous entendu parler de Sophia de Hanson Robotics, annoncée comme l’humanoïde la plus avancée et réputée figurer le futur de l’IA ? Dotée d’un visage (quasi) humain, elle est invitée sur les plateaux de télé pour partager son quotidien, et a même été faite citoyenne d’Arabie saoudite.
Alors que dans l’industrie et dans l’armée les robots portent plutôt des noms masculins (Syrano, Barakuda), les IA de type "assistant personnel" , comme les GPS, parées d’attributs féminins, rendent service, sont à l’écoute, répondent poliment. Y aurait-il un lien entre ces représentations stéréotypées et le manque d’égalité aujourd’hui dans le secteur de l’IA ?
De nombreux acteurs se penchent sur la question de l’égalité femmes-hommes dans le numérique, par exemple l’Assemblée Nationale, la Commission Européenne ou l’UNESCO. C’est également une préoccupation forte des Instituts interdisciplinaires de l’intelligence artificielle créés en 2019, qui ont notamment organisé une table ronde commune le 8 mars 2021 afin de sensibiliser les communautés de l’IA (universitaires et industriels) à ces questions, en dressant un état des lieux des inégalités femmes-hommes et un panorama des initiatives menées au sein de ces instituts interdisciplinaires.
L’intelligence artificielle, une technologie à l'usage de tous les domaines sociétaux, et pourtant à dominante masculine
L’IA cherche à reproduire le fonctionnement du cerveau humain. On peut la définir comme "un ensemble d’algorithmes conférant à une machine des capacités d’analyse et de décision lui permettant de s’adapter intelligemment aux situations en faisant des prédictions à partir de données déjà acquises" . L’IA n’est pas un métier en soi, mais une technologie utilisée dans différents domaines – santé, communication, bâtiment, marketing, industrie, juridique – et qui fait appel à plusieurs spécialités – mathématiques, informatique, sciences cognitives notamment.
Dresser un tableau exact de la situation comparée des femmes et des hommes en IA n’est pas aisé. Toutefois, on peut citer la moyenne de 20 % de femmes dans les écoles d’ingénieurs et les métiers du numérique, ainsi que les 29 % de femmes dans les métiers de la data science et de l’IA, ainsi qu’un taux de femmes inférieur à 20 % parmi les spécialistes de l’IA au niveau mondial en 2019. En 2018, les femmes représentaient environ 10 % des effectifs de Google et Facebook aux postes techniques et scientifiques.
Les bénéfices associés à l’égalité femmes-hommes dans les équipes de développement de l’IA
Une IA égalitaire, développée par des équipes mixtes, pourrait se révéler un levier fondamental pour la mixité. Une IA égalitaire qui serait utilisée pour le recrutement proposerait indifféremment des femmes et des hommes pour les postes à responsabilités. Elle enseignerait en se comportant de la même manière avec les garçons et les filles et proposerait des livres de cuisine ou des jeux de réflexion sans cibler un genre en particulier. Les outils dotés d’une IA égalitaire contribueraient à lever les biais de genre et au respect des droits de toutes et tous à tous les moments de la vie : de l’école à l’entreprise, à la banque, chez le médecin comme face à un site Internet.
Or, il est aujourd’hui reconnu que les IA véhiculent les stéréotypes et reproduisent la discrimination, que ce soit par exemple par la reconnaissance faciale, la reconnaissance vocale ou encore la communication ciblée, du fait principalement des données utilisées pour entraîner ces IA. Par exemple, les systèmes de reconnaissance faciale sont plus performants sur des visages à peau blanche que sur des visages à la peau plus sombre, et sur des visages d’hommes que de femmes, car les données d’apprentissage contiennent essentiellement des visages d’hommes à peau blanche. De même, les moteurs de reconnaissance faciale chinois ont d’excellentes performances sur les visages de leurs compatriotes uniquement. Ces exemples soulignent l’importance cruciale des bases d’apprentissage, sur lesquelles ces systèmes "apprennent" en termes de qualité, d’exhaustivité et de représentativité.
Intégrer des femmes dans les équipes de développement pourrait permettre l’inclusion de données et de points de vue propres aux femmes en raison des effets de l’ "appartenance groupale" sur les émotions et les comportements. En effet, il est démontré depuis plus de 50 ans que l’appartenance groupale induit des biais positifs au sein du groupe et sur la discrimination intergroupe.
De même, plus les "fabricants de l’IA" seront diversifiés, sur le plan de l’origine ethnique, culturelle, du niveau ou type d’étude, plus de points de vue différents pourront être pris en compte, ce qui favorisera la création de bases d’apprentissage plus représentatives de la société, et permettra ainsi de mieux garantir la bonne robustesse et fiabilité des algorithmes d’IA.
Ainsi, la mixité et la diversité au sens large des équipes pourraient conduire à une IA plus inclusive et plus égalitaire, en plus des bénéfices connus de la mixité des équipes, que sont une meilleure performance et une productivité et une créativité accrues.
Les filles sont les grandes absentes des filières du numérique
Depuis la réforme du baccalauréat, 3,7 % d’élèves de première ont choisi la spécialité NSI ( " Numérique et Science informatique" ), parmi lesquels à peine 10 % de filles. Après le bac, moins de 15 % d’étudiants ingénieurs en informatique sont des étudiantes, à comparer avec les 40 % et plus de femmes dans les années 70. Ce mouvement de désintérêt des filles pour les carrières scientifiques en général et du numérique en particulier, amorcé dans les années 80, perdure malgré des initiatives menées par un grand nombre d’acteurs.
La création de la spécialité NSI a mené à la création d’un CAPES et d’une agrégation d’informatique. Ces débouchés potentiels pourraient rendre les filières informatiques plus attractives pour les filles. La multiplicité des métiers impactés par l’IA doit aussi être une opportunité pour faire connaître les approches "métiers" qui en découleront, en termes de défis citoyens, sociétaux, inclusifs, éthiques et exemplaires en termes de protection des données, de la vie privée et des libertés.
Une raison de ce désintérêt pourrait être les stéréotypes de genre. Véhiculés par tous les acteurs de la société, française et européenne en général, ces stéréotypes (comme "les filles ne sont pas faites pour les maths" ) sont acquis et acceptés par les filles dès l’école élémentaire. À cet égard, les contre-exemples de certains pays, comme Oman ou la Malaisie, où respectivement 75 % et 62 % des diplômés en sciences sont des femmes, montrent bien que non seulement il s’agit bien de préjugés ancrés dans la société et non de caractère essentialiste, mais aussi qu’il est possible d’œuvrer pour inciter les filles à se tourner vers les métiers scientifiques et numériques.
Favoriser l’égalité entre les sexes face aux sciences numériques à tous les âges de la vie
L’éducation pourrait contribuer à améliorer la féminisation du numérique. À l’école primaire, les Partenaires scientifiques pour la classe organisent par exemple des interventions en classe réunissant élèves, professeurs et scientifiques autour de la pratique scientifique et technologique, éveillant ainsi l’intérêt de tous les enfants, filles et garçons, pour la démarche d’investigation et les métiers liés.
Pour les enseignants et enseignantes, l’Institut Interdisciplinaire d’IA de Toulouse propose un dispositif centré sur l’IA pour leur permettre de réaliser des ateliers de sensibilisation auprès de leurs classes. Par ailleurs, les Maisons pour la science, qui contribuent au développement professionnel des professeurs des écoles et des collèges, proposent des formations spécifiques en lien avec l’IA ou sur les stéréotypes de genre. Des expositions comme la Science taille XXelles, visant le grand public, les parents et les enfants, dressent le portrait de ces femmes scientifiques et permettent non seulement d’afficher la mixité de tous les métiers, mais aussi à des jeunes filles de s’identifier à ces rôles modèles.
L’IA hérite de la situation d’inégalité et de discrimination du domaine numérique et des formations et métiers de l’informatique. L’égalité femmes-hommes est un des objectifs parmi les 17 Objectifs Développement Durables de l’ONU. Au-delà de l’équilibre des genres, la responsabilité sociétale démontre la nécessité de considérer la question de l’inclusion en luttant contre les inégalités sociales, les discriminations. L’IA, domaine de compétence nouveau, en pleine maturation, doit s’emparer de ce défi en devenant inclusive.
Cet article a été coécrit par Marjorie Allain-Moulet, responsable R&D IA et data chez CS GROUP, et Coordinatrice industrielle du 3IA de Toulouse ANITI. 
Agnès Helme-Guizon, Professeure des Universités, Marketing social, Université Grenoble Alpes (UGA); Céline Ternon, Maitresse de Conférences, Grenoble INP, Université Grenoble Alpes (UGA) et Florence Sèdes, Professeure des Universités en Informatique - Vice Présidente en charge de la Responsabilité Sociétale de l'Université, Université de Toulouse III – Paul Sabatier
