Atelier IPoP 2024 : Les Audits de l’IA
Publié le
Le projet IPoP a choisi de dédier son atelier annuel à la thématique des Audits de l’IA. Soutenue par le PEPR Cybersécurité, la journée s’est déroulée le 13 mai 2024 au Campus Cyber de la Défense et à distance.
Récemment adopté, le règlement européen relatif à l’intelligence artificielle (AI Act) ne cesse de faire réagir, qu’il s’agisse de louer ses qualités, et notamment son approche transversale, ou ses défauts, à l’image des besoins de clarté quant aux notions phares retenues. Néanmoins ce texte constitue une initiative réglementaire hors-norme pour encadrer l’IA qui s’appuie largement sur des mécanismes bien connus en droit européen à savoir le marquage CE pour la mise sur le marché des systèmes d’IA, impliquant une mise en conformité avec les règles prévues par le AI Act mais aussi avec des normes et autres standards techniques dont la rédaction est en cours. Ainsi, l’AI Act tout juste adopté se trouve de nouveau en question au travers des normes qui seront mobilisées pour le décliner ainsi que des modalités de leur évaluation. Face à ce constat, le projet IPoP a choisi de dédier son atelier annuel à la thématique des Audits de l’IA. Soutenue par le PEPR Cybersécurité, la journée s’est déroulée le 13 mai 2024 au Campus Cyber de la Défense et à distance.
Comme rappelé par Margo Bernelin (DCS, CNRS) en introduction de la journée, les audits de l’IA peuvent être variés et porter par exemple sur la performance de la tâche d’apprentissage, sur la capacité à expliquer la décision produite, ou sur les risques « cyber » incluant toutes les attaques auxquelles un système d’IA peut faire face. Dans ce cadre, les objectifs des audits sont eux aussi multiples et interconnectés : mise sur le marché d’un produit ou service, prévention des risques, protection des individus et en particulier des consommateurs ou encore pour assurer une certaine transparence face aux risques induits.
Ainsi, auditer l’IA n’est pas chose aisée et cela se traduit par des discussions, déjà menées ou en cours, sur les métriques et les méthodes les plus efficaces et les moins coûteuses pour évaluer l’IA, sur les organismes qui s’en chargent, sur les éléments à fournir, les moments propices dans le cycle de vie du système, etc…
L’organisation d’une journée pluridisciplinaire sur le sujet semblait ainsi appropriée pour s’emparer d’un sujet aussi vaste.
La journée s’est déroulée en deux sessions, chacune composée de présentations et d’une table ronde permettant la discussion entre les intervenants mais aussi avec le public. La première, animée par Nicolas Berkouk (CNIL) portait sur les enjeux et les perspectives des audits de l’IA. La seconde session, animée par Antoine Boutet (Insa-Lyon, Inria, coordinateur du projet IPoP), a interrogé la mise en pratique des audits de l’IA. Une session poster a également été organisée pour favoriser les échanges durant le déjeuner.
Plus d’informations sur le programme et les sujets abordés lors de ces demi-journées sur le site du projet IPoP.
Autres Événements
