{"id":444,"date":"2023-12-01T12:28:00","date_gmt":"2023-12-01T11:28:00","guid":{"rendered":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/?p=444"},"modified":"2025-05-13T09:47:33","modified_gmt":"2025-05-13T07:47:33","slug":"audit-biais-algorithmiques","status":"publish","type":"post","link":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/audit-biais-algorithmiques\/","title":{"rendered":"L’audit de biais algorithmiques"},"content":{"rendered":"\n
\"\"<\/a>
\u00a9 Inria – Philippe Aran<\/center><\/em><\/figcaption><\/figure><\/div>\n\n\n\n

Tout comme leurs concepteurs humains, les algorithmes ne sont pas aussi neutres <\/strong>qu’on le pense.<\/strong><\/p>\n

Prenons un exemple. Saviez-vous qu\u2019en 2010, un algorithme a \u00e9t\u00e9 cr\u00e9\u00e9 pour anticiper et emp\u00eacher les futurs crimes \u00e0 Chicago ? Plus qu\u2019une boule de cristal, PredPol<\/em> a \u00e9t\u00e9 con\u00e7u pour pr\u00e9dire les zones dans lesquelles la criminalit\u00e9 \u00e9tait susceptible de se produire. Ainsi, les forces de l’ordre pouvaient d\u00e9ployer des ressources de mani\u00e8re pr\u00e9ventive et \u00e9viter les crimes.<\/p>\n

Pas mal, hein ? <\/em><\/p>\n

Cependant, cet algorithme<\/strong> a \u00e9t\u00e9 critiqu\u00e9 au fil du temps en raison de son possible biais racial. Des chercheurs se sont rendu compte que l\u2019algorithme orientait trop fr\u00e9quemment ses pr\u00e9dictions vers des quartiers d\u00e9j\u00e0 d\u00e9favoris\u00e9s.<\/p>\n

Pas malin\u2026<\/em><\/p>\n

Il existe tout un tas d\u2019exemples de biais algorithmiques. On peut parler notamment des pr\u00e9jug\u00e9s sexistes dans les recommandations d’emploi. Et oui ! Les algorithmes de recrutement ont \u00e9t\u00e9 critiqu\u00e9s parce qu\u2019ils favorisaient les hommes.<\/p>\n

Est-ce que \u00e7a vous \u00e9tonne ? <\/em><\/p>\n

Comme l\u2019algorithme a \u00e9t\u00e9 entra\u00een\u00e9 sur des donn\u00e9es r\u00e9elles remplies de st\u00e9r\u00e9otypes de genres, il les a reproduits. On peut donc dire que les algorithmes sont le reflet d\u2019une r\u00e9alit\u00e9 d\u00e9j\u00e0 biais\u00e9e<\/strong>.<\/p>\n

C’est dans l\u2019optique de lutter contre ces discriminations<\/strong> que des lois1<\/sup><\/em> sont propos\u00e9es en Europe et \u00e0 l’\u00e9chelle mondiale pour forcer les algorithmes en ligne \u00e0 \u00eatre plus responsables. Mais il est imp\u00e9ratif de reconna\u00eetre que l’adoption de lois n\u2019est qu\u2019une premi\u00e8re \u00e9tape ! Il faut ensuite v\u00e9rifier et appliquer ces lois. C’est pr\u00e9cis\u00e9ment \u00e0 ce stade qu’intervient mon sujet de th\u00e8se portant sur l’audit algorithmique.<\/p>\n

L’audit algorithmique consiste \u00e0 s\u2019assurer qu\u2019un algorithme d\u2019apprentissage n\u2019est pas biais\u00e9. \u201cComment ?<\/em>\u201d, me demandez-vous. Eh bien, l\u2019une des fa\u00e7ons de faire, c\u2019est de cr\u00e9er des profils fictifs de clients qu\u2019un enqu\u00eateur envoie ensuite \u00e0 l\u2019algorithme qu\u2019il souhaite tester. L\u2019enqu\u00eateur r\u00e9colte toutes les donn\u00e9es de l\u2019algorithme et en d\u00e9duit les biais potentiels<\/strong> dans le processus de prise de d\u00e9cision. Est-ce que les femmes ont les m\u00eames offres d\u2019emploi que les hommes ? Est-ce que les policiers seront aussi envoy\u00e9s dans les quartiers favoris\u00e9s de Chicago ?<\/p>\n

Finalement, c’est un peu comme si vous, cher lecteur, \u00e9tiez un critique culinaire ! Le guide Michelin vous envoie, ainsi que plusieurs critiques culinaires, commander diff\u00e9rents plats dans un restaurant pour \u00e9valuer sa qualit\u00e9. Tout comme vous ne connaissez pas les recettes de cuisine et le fonctionnement interne du restaurant, l\u2019enqu\u00eateur ne conna\u00eet pas la logique interne de l\u2019algorithme qu\u2019il \u00e9tudie. On parle d\u2019audit en bo\u00eete noire<\/strong> : l\u2019enqu\u00eateur ne peut d\u00e9duire les biais algorithmiques qu\u2019\u00e0 partir des donn\u00e9es issues de l\u2019algorithme. Est-ce que les l\u00e9gumes sont bien assaisonn\u00e9s ? Seules des papilles confirm\u00e9es comme les v\u00f4tres peuvent r\u00e9pondre \u00e0 cette question sans savoir la dose exact de sel dans le plat.<\/p>\n

Plusieurs d\u00e9fis surgissent lors de l’audit d’algorithmes pour d\u00e9tecter d’\u00e9ventuelles discriminations. En premier lieu, la r\u00e9glementation impose une limitation du nombre de requ\u00eates pouvant \u00eatre soumises \u00e0 la plateforme. Vous ne pouvez pas commander tous les plats qui sont \u00e0 la carte du restaurant\u00a0: vous vous feriez tout de suite d\u00e9tecter par le serveur ! Cette contrainte accentue l’importance du choix strat\u00e9gique <\/strong>des requ\u00eates afin de maximiser l’efficacit\u00e9 de l’audit.<\/p>\n

De plus, il est souvent difficile de d\u00e9terminer pourquoi une certaine partie de la population est discrimin\u00e9e par un algorithme sp\u00e9cifique. Est-ce que le restaurant est r\u00e9put\u00e9 pour rater ses desserts parce que le c\u0153ur du g\u00e2teau au chocolat n\u2019est pas coulant ou c\u2019est plut\u00f4t parce que la cr\u00e8me anglaise qui l\u2019accompagne est trop sucr\u00e9e ? Ou encore l\u2019intersection de ses deux crit\u00e8res\u2026<\/p>\n

\u00c0 vous de juger !<\/em><\/p>\n

En bref, l’audit algorithmique<\/strong> devient essentiel pour s’assurer de la conformit\u00e9 aux lois et directives anti-discrimination. Cela contribue \u00e0 identifier les biais potentiels dans les syst\u00e8mes automatis\u00e9s. Mais pour cela, l’audit doit \u00eatre minutieusement planifi\u00e9, ce qui est tr\u00e8s difficile pour l\u2019instant.<\/p>\n

\u00a0<\/p>\n

1<\/sup> Digital Service Act, IA Act<\/em><\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n\n
<\/div>\n\n\n\n
\"\"<\/figure>
\n

Jade Garcia Bourr\u00e9e<\/p>\n\n\n\n

\u00c9quipe de recherche Inria : WIDE<\/a><\/p>\n\n\n\n

Sujet de th\u00e8se<\/strong> : \u00ab\u00a0Faire confiance mais v\u00e9rifier\u00a0\u00bb : audits de syst\u00e8mes d’Intelligence Artificielle pilot\u00e9s par des robots<\/em><\/em><\/p>\n\n\n\n

Outre l’informatique, mes passions dans la vie sont la litt\u00e9rature de science-fiction, fantasy <\/em>et fantastique (SFFF) ainsi que la danse sous toutes ses formes !<\/p><\/blockquote>\n<\/div><\/div>\n","protected":false},"excerpt":{"rendered":"

Tout comme leurs concepteurs humains, les algorithmes ne sont pas aussi neutres qu’on le pense. Prenons un exemple. Saviez-vous qu\u2019en\u2026<\/p>\n

Lire la suite<\/span><\/i><\/a> <\/p>\n","protected":false},"author":2288,"featured_media":671,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_members_access_role":[],"_members_access_error":""},"categories":[19],"tags":[],"class_list":["post-444","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-edition-2023"],"_links":{"self":[{"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/posts\/444","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/users\/2288"}],"replies":[{"embeddable":true,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/comments?post=444"}],"version-history":[{"count":50,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/posts\/444\/revisions"}],"predecessor-version":[{"id":705,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/posts\/444\/revisions\/705"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/media\/671"}],"wp:attachment":[{"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/media?parent=444"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/categories?post=444"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/project.inria.fr\/matheseunesacreehistoire\/wp-json\/wp\/v2\/tags?post=444"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}