Workshop Machine Learning Security : Adversarial Threats on Real Life Learning Systems
Publié le
Crédits : Kassem Kallas
Le 17 septembre 2025 s’est tenu à Paris (SCAI, Campus Pierre et Marie Curie, Sorbonne Université) le Workshop on Machine Learning Security consacré aux vulnérabilités et défenses des systèmes d’apprentissage automatique.
Organisé par Cédric Gouy-Pailler (CEA) et Rafaël Pinot (Sorbonne Université), l’événement a réuni près de 35 participants.
La journée a débuté par la keynote de Kassem Kallas (INSERM), qui a présenté un panorama des menaces sur les systèmes d’IA, des attaques par empoisonnement et par évasion jusqu’aux portes dérobées. Il a mis en lumière leurs impacts dans des domaines critiques et les risques émergents dans les modèles de langage et multimodaux. Sa présentation a également souligné ses travaux sur les défenses en environnement boîte noire, l’apport de la théorie des jeux et le tatouage robuste pour la protection de la propriété intellectuelle, avant de conclure sur les enjeux plus larges liés aux logiciels, aux systèmes agentiques et à l’usage de l’IA en cybersécurité.
L’après-midi a mis en avant les contributions du PEPR Cybersécurité, avec la keynote de Benjamin Negrevergne (Université Paris-Dauphine, PEPR Cyber / COMPROMIS) consacrée aux attaques adversariales et à leurs contre-mesures. Son intervention a insisté sur les évolutions des attaques dans le cadre de l’explosion de l’utilisation des modèles de langage : alors que les attaques ne se limitent plus à de simples perturbations imperceptibles, les modèles multimodaux et les modèles de langage ouvrent de nouveaux vecteurs d’attaque, notamment dans les phases d’alignement et la manipulation de prompts. Cette keynote a souligné la nécessité de défenses qui combinent robustesse par construction des modèles et protection de leurs usages interactifs.
En soutenant ce workshop, le PEPR Cybersécurité, en lien avec le PEPR Intelligence Artificielle, illustre la volonté du programme France 2030 de fédérer deux communautés complémentaires : celle de la cybersécurité et celle de l’intelligence artificielle. Ensemble, elles travaillent à bâtir un socle scientifique et technologique commun pour une Intelligence Artificielle au service de la sécurité des systèmes critiques et des données sensibles.
Autres Événements
