Toutes nos formations

Biais dans les algorithmes IA : du diagnostic à la réparation

Module état de l'art
Maîtrisez l'art de détecter et corriger les biais en IA, des données à la discrimination algorithmique, avec une approche théorique et pratique adaptée à vos cas d'usage métier pour une intelligence artificielle plus équitable et performante. (c) Inria - collection personnelle

Session:

Aucune session disponible actuellement.

Contactez-nous !

Objectifs

Ambition : appréhender les techniques et méthodes de détections et de réparation des biais dans les algorithmes en IA. Les biais ne sont pas uniquement provoqués par les données d’entraînement, ils peuvent arriver par la segmentation propre aux algorithmes; il faut donc se poser la question de l’identification des biais sans prérequis. Le module intègre une partie théorique pour appréhender ensuite les questions à se poser en partant des cas d’usages de l’entreprise.

Mots-clés : IA, biais.

Connaissances acquises : des méthodes et métriques pour analyser et réparer des biais dans les algorithmes en IA

Pré-requis

une connaissance générale des biais, de l’AI Act et des principes éthiques ;
savoir programmer en Python.

Programme

Partie 1 : Théorie

Principes sur les métriques des biais (par exemple : métriques contrefactuelles) et provenances possibles des biais (labellisation, algorithmes, données)
Impacts de l’IA Act (juriste ou cellule veille de l’entreprise)
Détection : comment identifier des sous populations de façons automatiques, impact sur les organisations
Méthodes de réparations : amélioration des jeux de données, régularisation de l’algorithme, corrections post-algorithme

Partie 2 : Atelier d’échange sur cas pratiques

Présentations des usages et parcours client du système décisionnel (responsables et développeurs de projets de l’entreprise)
Sélection d’un cas d’usage et canevas pour un diagnostic amont
Atelier red teaming : mise en situation d’audit avec deux équipes

Conclusions : intégrant des éléments de gouvernance

Intervenant(s)

Jean-Michel Loubes

Directeur de recherche Inria

Jean Michel Loubes est professeur de Mathématiques Appliquées à l’Institut de Mathématiques de Toulouse, porteur de la Chaire “Fair and Robust Learning” au sein de l’Institut d’Intelligence Naturelle et Artificielle de Toulouse (ANITI).. Il a dirigé l’équipe de Statistique et Probabilités de 2008 à 2012. Il a travaillé sur les méthodes d’estimation et les vitesses optimales en Machine Learning. Ses recherches actuelles portent sur l’application de la théorie du transport optimal en Machine Learning et sur les problématiques de “fairness” et de robustesse de l’Intelligence Artificielle.

Il a été responsable régional de 2012 à 2017 de l’Agence de Valorisation des Mathématiques du CNRS et siège depuis 2019 au Comité Scientifique de l’Institut des Sciences Mathématiques et de leur Interaction (INSMI) du CNRS.

1 j

750 / pers.

Methodes pédagogiques

La formation intègre une partie théorique avec des exercices pratiques
Les participants testent leur niveau avec des quizz après la formation
Le matériel et les ressources nécessaires seront fournis afin de favoriser l’apprentissage autonome après le cours

Public visé

Développeurs informatiques, ingénieurs, scientifiques et analystes des données.

Informations pratiques

Tarif : 750 € par participant ;
Tarifs dégressifs à partir de 5 personnes (-10% de 5 à 9 inscrits, -20% plus de 10 inscrits) ;
Partenariat avec pôle Aktantis : les entreprises membres du pôle bénéficient d’un tarif privilégié de 500 € ;
Durée : 5 heures intégrant le déjeuner 10h -15h
Lieu : uniquement en présentiel ;
Nombre de participants : jusqu’à 12 personnes ;
Privatisation : La privatisation de cette formation est possible au sein d’une même entreprise à partir de dix participants.
Langue : la formation peut être délivrée en français ou en anglais en fonction du groupe d’apprenants ;
Évaluation des apprenants : Le formateur évalue la progression pédagogique du participant tout au long de la formation au moyen de QCM, mises en situation, travaux pratiques…
Le participant complète également un test de positionnement en aval pour valider les compétences acquises.

Demander plus d'informations