Porteurs : Christophe Lecoutre (Univ. Artois) – René Mandiau (UPHF)
Le WP 1 visera à établir les bases théoriques vers une IA responsable et durable. Les thèmes suivants seront abordés en explorant à la fois des approches symboliques et numériques :
Explicabilité, Traçabilité et Interprétabilité : Développer des modèles de raisonnement, de décision et d’apprentissage lisibles, transparents et interprétables par le citoyen et lui fournir des explications précises sur le résultat d’un algorithme.
Confiance : Garantir et quantifier formellement les incertitudes, les erreurs, la sensibilité des algorithmes.
Équité : Assurer que les résultats produits par les algorithmes respectent une équité de traitement pour différentes personnes ou catégories de personnes.
Transparence : Fournir des explications précises sur la raison pour laquelle un algorithme a produit tel résultat.
Intégration de connaissances et contraintes : Assurer que le résultat d’un algorithme respecte des connaissances et contraintes du domaine (de nature physique ou temporelle par exemple).
Respect de la vie privée : Garantir que la conception et l’utilisation des algorithmes ne révèlent pas de données à caractère privé et personnel.
Sécurité et Robustesse aux attaques : Contrôler que les modèles et algorithmes (en particulier d’apprentissage) ne puissent pas être détournés par des utilisateurs malveillants
