Implantée à Rennes, l’entreprise Skyld sécurise les algorithmes d’Intelligence Artificielle embarqués dans les téléphones et autres objets connectés. Après un an de maturation dans le Startup Studio d’Inria, le projet vient d’être retenu par SkyDeck, l’accélérateur de l’université de Berkeley, en Californie, un des plus sélectifs du genre aux États-Unis. Comme l’explique Marie Paindavoine, fondatrice de Skyld, l’accès à ce programme de renommée internationale va accélérer la mise sur le marché d’une technologie de protection dont les éditeurs d’IA ont urgemment besoin.
En raison de leur taille, les algorithmes d’apprentissage profond sont restés longtemps l’apanage du cloud computing. Ils fonctionnaient à l’abri sur des serveurs bien protégés. Puis, au fil du temps, ces algorithmes se sont allégés. L’IA a entamé alors une migration vers les téléphones mobiles et l’Internet des objets. Ce qui fait surgir un risque nouveau : désormais des personnes mal intentionnées peuvent accéder physiquement à l’appareil hébergeant l’application. Donc tenter d’effectuer de la rétro-ingénierie, d’extraire le modèle d’apprentissage et de réutiliser l’IA pour leur propre compte.
Autrement dit : un vol pur et simple de propriété intellectuelle. Et pour les victimes, le montant du préjudice ne se limite pas aux sommes initialement investies dans l’entraînement du modèle. Les entreprises lésées risquent aussi de perdre leur avance technologique face à des concurrents sans scrupules. D’où le besoin de protéger les algorithmes d’IA dans ces environnements non sécurisés. Et telle est précisément la raison d’être de Skyld.
Fondée par Marie Paindavoine, scientifique en cryptographie, la startup conçoit des méthodes innovantes pour le masquage du code source des modèles d’apprentissage profond mais aussi l’obfuscation durant l’exécution par le processeur. Pendant un an, ce projet a été muri au sein du Startup Studio d’Inria, un programme qui aide chercheurs et ingénieurs à créer de nouvelles entreprises appuyées sur des résultats de recherche.
Marie Paindavoine, fondatrice et CEO de Skyld
Extraire automatiquement les modèles d’IA
En juin dernier, Skyld a effectué une présentation très remarquée durant la dernière édition de SSTIC, une conférence sur la cybersécurité qui se déroule chaque année à Rennes. Marie Paindavoine et deux collaborateurs ont dévoilé ModelHunter : un prototype de recherche capable d’analyser les applications Android trouvées sur le PlayStore pour en extraire automatiquement les modèles d’apprentissage profond. Cette démonstration a ouvert les yeux à plus d’un participant.
La plupart des entreprises savent se protéger contre les attaques statiques. En revanche, elle ne sont pas à l’abri d’une extraction du modèle par attaque dynamique. Et c’est justement ce que nous entendions illustrer.
Cette présentation s’appuyait sur un article de recherche publié dans les actes de la conférence*. Une partie de ce travail, cependant, n’a pas été divulguée en raison de la sensibilité du sujet et des risques de voir un tel outil tomber entre de mauvaises mains.
Direction : la Silicon Valley
Entre temps, Skyld vient aussi d’être sélectionnée pour intégrer le segment européen de SkyDeck, l’accélérateur de startup de l’université de Berkeley, en Californie. “C’est un programme très sélectif. Sur 1800 candidatures, seulement 33 ont été retenues,” résume Marie Paindavoine. La chef d’entreprise revient de la Silicon Valley où elle a passé un mois sur les chapeaux de roue. “J’ai probablement rencontré près de 150 conseillers, mentors et investisseurs au rythme d’une session de ‘meet and greet’ toutes les 20 minutes.” Pour l’anecdote, l’entrepreneuse a même eu l’occasion d’effectuer le légendaire ‘pitch de l’ascenseur’. “En théorie, c’est un speech d’une minute durant lequel on présente un projet à quelqu’un, le temps d’un déplacement dans l’ascenseur. Et bien, cela m’est vraiment arrivé, une fois, en montant au 13ème étage du bâtiment de SkyDeck.”
La deuxième partie de cet accompagnement doit se dérouler à Milan. Le programme comprend par ailleurs un financement de 145 000 euros en contrepartie duquel SkyDeck prendra une participation au capital. “Techniquement, il s’agit d’un BSA-Air ou ce que l’on appelle un SAFE* aux États-Unis.” Ce bon de souscription d’actions est un accord d’investissement rapide qui donne à l’investisseur la possibilité de convertir son apport en parts sociales lors de la prochaine capitalisation.
Parallèlement, Skyld vient aussi de décrocher son premier client. HopeValley AI est une autre startup maturée par Inria. Elle élabore une Intelligence Artificielle qui permettra une détection précoce du cancer du sein à partir de signaux faibles. D’autres contrats pourraient suivre prochainement. En particulier “un grand nom de l’édition logicielle.”
- Lire : Your Mind is Mine: How to Automatically Steal DL Models From Android Apps, par Maxence Despres, Marie Paindavoine et Mohamed Sabt, dans SSTIC 2023, p. 231.
- SAFE : Simple Agreement for Future Equity.
