© Inria / illu. Philippe Aran
Sauf si vous êtes un moine en exil dans l’Antarctique ou un aventurier perdu dans le fin fond
de la jungle, vous avez du remarquer qu’on vous balance aujourd’hui de l’intelligence
artificielle à toutes les sauces. Pourquoi apprendre à bien écrire ou à coder, quand ChatGPT
le fait à votre place ? Pourquoi apprendre à dessiner comme un pro, un bon prompt sur
MidJourney ça vaut bien un artiste non ?
Pourtant, derrière les beaux discours des « IA Bros » cachant leur dédain envers certaines
professions, les vrais connaisseurs parlent de machine learning, des systèmes informatiques
qui vont apprendre sur des tonnes de données. Et que, derrière la vitrine blindée du
marketing, se trouve moult applications utiles : médecine de pointe, meilleure prédiction des
itinéraires, analyses des lois de la physique… Bref, au-delà du gadget et des cours en bourse
des fabricants de puce, de vrais progrès utiles.
Néanmoins, ces deux aspects ont des soucis majeurs et communs, loin d’être anodins. En
effet, qu’importe son utilisation, le machine learning a besoin d’apprendre, ce qui peut être
très long et surtout très gourmand en énergie, et tout le monde ne tourne pas à l’hydraulique
ou au nucléaire de qualité. Aussi, mal utilisés ces outils deviennent dangereux pour nombre
de personnes mal informées. Fake News, vols de propriété intellectuelle, remplacement de
certaines professions par des serveurs et algorithmes pourtant très perfectibles, la liste est
longue. Ça ne laisse pas indifférent !
Rajoutons à ça la notion de données en grande quantité, basée sur vos informations plus ou
moins personnelles et voici le cocktail fatal de la cybersécurité : quelque chose à voler qui,
indirectement, vous ouvre des portes. Bon, on pourrait partir en paranoïa facilement avec ça.
Imaginez, avec un exemple totalement pris au hasard, que toutes les données de sécurité
sociale partent sur la toile ! Imaginez le fiasco si ça arriv… Oh attendez, on me dit à l’oreillette
que c’est arrivé.
Parce que telle une banque dans le Jour de Paie (2ème du nom), le machine learning devient
intéressant à voler : longs et coûteux à entraîner, les réseaux de neurones (le cerveau de ces
systèmes) exploitent parfois des données très sensibles. Toutes les raisons nécessaires pour
comprendre leur fonctionnement. Objectif : récupérer leurs modèles et comment ils
fonctionnent. Par ingénierie inverse, un bon pirate saura ensuite en déduire en temps réel ce
qui rentre dans cette machine et ce qui en ressort, ou la recopier afin de se faire de l’argent
sur le dos de votre création.
Pourtant, ce tableau n’est pas si noir en réalité : le machine learning a permis de nombreux
progrès visibles en sciences, et il permet d’accélérer grandement des domaines scientifiques
bloqués jusqu’à présent par nos méthodes de calcul plus « classiques ». Loin d’être des
systèmes intelligents, ces outils sont toutefois très utiles, si utilisés judicieusement. Ils
permettent de traiter et de généraliser de grands volumes d’informations, des atouts
nécessaires pour la recherche scientifique
Ironie du sort, c’est justement ce comportement qui amène aujourd’hui à trouver le talon
d’Achille du machine learning : lui-même. Épatant, n’est-ce pas ? Car oui, quoi de mieux
contre le cancer qu’un autre cancer ? En analysant le comportement des réseaux de neurones
et surtout des machines où ils sont implémentés, le tout en exploitant cette généralisation
des calculs, et paf, on obtient des Chocapics ! Ces nouvelles IA finissent par servir à… Voler
les autres IA, tout simplement. De quoi se dire que Skynet est encore loin, ou tout du moins
restera contrôlable pendant un certain temps, on peut donc souffler. Jusqu’à ce qu’ensuite
une autre IA serve à se prémunir de cette attaque, et qu’une autre contourne la sécurité, puis
qu’une autre…
Bref, j’essaie d’attaquer les IA.
Guillaume Lomet
Équipe de recherche : TARAN
Sujet de thèse : Physical Side Channel Attacks on Machine Learning accelerators based on Cloud FPGA
Je suis passionné d’histoire, d’artisanat et de hard rock, un combo bizarre qui m’a amené à vouloir pas mal mettre les mains dans le cambouis (électronique, arboriculture, conception d’alcool…). Cependant, plutôt que de répéter des méthodes ancestrales et très souvent fantasmées, je préfère y apporter des réponses scientifiques et de le faire avancer, un mélange entre les savoir d’avant et nos connaissances d’aujourd’hui. Ce qui forge ma passion pour la vulgarisation et la médiation, c’est le fait que je bidouille des PC et mes amplis de guitare depuis l’adolescence, et que je suis un grand fan de jeux de science-fiction et de heavy métal des années 80. Dès que j’en ai l’occasion, je parle de science: que ce soit à des proches ou en missions de médiations.
