Les systèmes d’intelligence artificielle connaissent une évolution très rapide, marquée par l’émergence de modèles de plus en plus complexes : LLM, modèles multimodaux et, plus récemment, de systèmes d’IA agentiques capables d’interactions complexes. Ces avancées s’accompagnent d’une augmentation significative de la complexité des architectures et des processus d’entraînement, rendant les modèles plus difficiles à interpréter, à analyser et à auditer de manière systématique.

Cette perte relative de transparence soulève des défis méthodologiques importants pour l’étude des propriétés des modèles, en particulier lorsqu’il s’agit d’identifier et de caractériser des biais. Dans un contexte où, en 2025, les inégalités entre femmes et hommes persistent dans l’ensemble de la société, et en particulier dans les formations et les métiers du numérique, ces questions prennent une importance particulière. Parmi les biais étudiés, les biais de genre occupent ainsi une place centrale : ils sont à la fois profondément ancrés dans les données d’apprentissage, qui reflètent ces déséquilibres structurels, et susceptibles d’être amplifiés ou transformés par les mécanismes internes des modèles.

Dans les architectures contemporaines, les biais de genre peuvent se manifester à différents niveaux, des représentations latentes aux sorties générées, en passant par les stratégies d’interaction dans les systèmes agentiques. L’opacité des modèles rend alors difficile la compréhension des processus par lesquels ces biais émergent, se propagent et influencent les prédictions. 

Ces enjeux sont d’autant plus critiques que ces systèmes d’IA peuvent se retrouver intégrés dans des contextes sensibles (orientation académique, recrutement, santé, …), où les biais de genre peuvent avoir des effets cumulatifs et structurants. Dans ce cadre, l’absence de transparence ne constitue pas seulement un obstacle scientifique, mais également un défi pour l’évaluation, la régulation et la conception de systèmes équitables.

Cet atelier vise à rassembler chercheuses, chercheurs, expert·es et professionnel·les autour des biais de genre dans les systèmes d’IA. Il propose un espace interdisciplinaire de discussion et de partage, permettant de confronter approches, méthodes, résultats et retours d’expérience, et de faire émerger des perspectives communes sur les enjeux, les verrous scientifiques et les pistes méthodologiques liés aux biais de genre dans les systèmes d’IA de nouvelle génération.