![\"Logo](\"https:\/\/project.inria.fr\/saif\/files\/2024\/09\/Logo-PEPR-IA-115px.png\"){kind=logo}
<\/p>\n\n\n\n<\/p>\n\n\n\n
Il n\u2019est plus consid\u00e9r\u00e9 comme hypoth\u00e9tique que l’intelligence artificielle (IA), en particulier avec ses r\u00e9cents progr\u00e8s en apprentissage automatique (ML), puisse \u201caugmenter\u201d un large \u00e9ventail d’applications dans notre soci\u00e9t\u00e9, y compris dans des syst\u00e8mes critiques tels que la sant\u00e9, l’\u00e9nergie et les transports. La r\u00e9volution du ML a chang\u00e9 la fa\u00e7on dont les logiciels sont d\u00e9velopp\u00e9s, offrant des performances au-del\u00e0 de la programmation explicite traditionnelle. Bien qu’il y ait des avantages ind\u00e9niables \u00e0 tirer de l’IA, les chercheurs ont identifi\u00e9 plusieurs lacunes concernant sa fiabilit\u00e9 et son explicabilit\u00e9, qui doivent \u00eatre r\u00e9solues avant qu\u2019elle ne puisse \u00eatre largement accept\u00e9e. En effet, il est crucial d’investir des efforts dans le d\u00e9veloppement d’outils et de m\u00e9thodes visant des syst\u00e8mes bas\u00e9s sur l’IA plus s\u00fbrs et plus transparents.<\/p>\n\n\n\n
Assurer la fiabilit\u00e9 des logiciels n’est pas un objectif nouveau : plusieurs approches statistiques et des m\u00e9thodes formelles (FM) ont \u00e9t\u00e9 d\u00e9velopp\u00e9es au fil des d\u00e9cennies pour traiter de ces probl\u00e8mes. La communaut\u00e9 FM a pass\u00e9 ce temps \u00e0 construire les fondations math\u00e9matiques et logiques pour des outils logiciels efficaces qui peuvent intervenir \u00e0 toutes les \u00e9tapes du cycle de vie des logiciels, de la sp\u00e9cification et du d\u00e9veloppement au d\u00e9ploiement et la maintenance. En fournissant des outils pour atteindre des normes de fiabilit\u00e9 plus \u00e9lev\u00e9es, la communaut\u00e9 FM a rendu le monde plus s\u00fbr, comme en t\u00e9moigne le nombre croissant de normes qui exigent l’utilisation de FM dans le d\u00e9veloppement de logiciels critiques.<\/p>\n\n\n\n
Cependant, les approches FM traditionnelles parviennent peu \u00e0 r\u00e9pondre aux d\u00e9fis pos\u00e9s par les r\u00e9cents progr\u00e8s de l’IA. La plupart des d\u00e9fis li\u00e9s \u00e0 l’utilisation de FM pour les syst\u00e8mes bas\u00e9s sur l’apprentissage automatique (ML) d\u00e9coulent de leur nature stochastique et incertaine, de leur grande taille, de la difficult\u00e9 de leur sp\u00e9cification, de leur nature monolithique, de leur manque d’interpr\u00e9tabilit\u00e9 et de la profusion de diff\u00e9rentes architectures qui cr\u00e9ent un champ d’IA toujours plus large.<\/p>\n\n\n\n
Pour relever ces d\u00e9fis, SAIF est organis\u00e9 autour de trois objectifs, articul\u00e9s le long de trois des principales \u00e9tapes du cycle de vie traditionnel du d\u00e9veloppement de logiciels : la sp\u00e9cification, la conception et la validation des syst\u00e8mes bas\u00e9s sur le ML. Chacun de ces objectifs comporte ses propres sous-objectifs, naturellement interconnect\u00e9s entre eux. Ces sous-objectifs visent \u00e0 pousser l’actuel \u00e9tat de l’art, par exemple \u00e0 travers les artefacts d’IA trait\u00e9s (en particulier des architectures complexes telles que les r\u00e9seaux de neurones graphiques et r\u00e9currents, peu explor\u00e9s aujourd\u2019hui), \u00e0 travers les domaines d’application (en \u00e9tendant aux types de donn\u00e9es non-images tels que les s\u00e9ries temporelles et la spectrom\u00e9trie) et \u00e0 travers les m\u00e9thodes sous-jacentes aux outils d’am\u00e9lioration de la fiabilit\u00e9 cibl\u00e9s (comme les alg\u00e8bres tropicales).<\/p>\n\n\n\n
L’IA a d\u00e9j\u00e0 montr\u00e9 un grand potentiel pour notre soci\u00e9t\u00e9, mais pour r\u00e9aliser pleinement son impact positif, il est essentiel de garantir rigoureusement sa s\u00fbret\u00e9. Cela n\u00e9cessite un changement significatif dans la fa\u00e7on dont nous utilisons les FM pour traiter les probl\u00e8mes modernes de l’IA. L’objectif de SAIF est d’utiliser la vaste connaissance accumul\u00e9e au fil des d\u00e9cennies dans les FM pour les repenser et aborder les nouvelles pr\u00e9occupations en mati\u00e8re de fiabilit\u00e9 soulev\u00e9es par le renouveau de l’IA. Gr\u00e2ce \u00e0 la synergie d’un consortium diversifi\u00e9 avec une expertise compl\u00e9mentaire, nous visons \u00e0 aider la soci\u00e9t\u00e9 \u00e0 se rapprocher d’un \u00e9tat o\u00f9 elle peut b\u00e9n\u00e9ficier des r\u00e9alisations de l’IA sans en subir de f\u00e2cheuses cons\u00e9quences.<\/p>","protected":false},"excerpt":{"rendered":"
Il n\u2019est plus consid\u00e9r\u00e9 comme hypoth\u00e9tique que l’intelligence artificielle (IA), en particulier avec ses r\u00e9cents progr\u00e8s en apprentissage automatique (ML), puisse \u201caugmenter\u201d un large \u00e9ventail d’applications dans notre soci\u00e9t\u00e9, y compris dans des syst\u00e8mes critiques tels que la sant\u00e9, l’\u00e9nergie et les transports. La r\u00e9volution du ML a chang\u00e9 la\u2026<\/p>\n