Toutes nos formations

Biais dans les algorithmes IA : du diagnostic à la réparation

Module état de l'art
Maîtrisez l'art de détecter et corriger les biais en IA, des données à la discrimination algorithmique, avec une approche théorique et pratique adaptée à vos cas d'usage métier pour une intelligence artificielle plus équitable et performante. (c) Inria - collection personnelle

Session:

Aucune session disponible actuellement.

Contactez-nous !

Objectifs

Ambition : appréhender les techniques et méthodes de détections et de réparation des biais dans les algorithmes en IA. Les biais ne sont pas uniquement provoqués par les données d’entraînement, ils peuvent arriver par la segmentation propre aux algorithmes; il faut donc se poser la question de l’identification des biais sans prérequis. Le module intègre une partie théorique pour appréhender ensuite les questions à se poser en partant des cas d’usages de l’entreprise.

Mots-clés : IA, biais.

A l’issu de ce cours les participants seront en mesure de

utiliser des méthodes et métriques pour analyser et réparer des biais dans les algorithmes en IA

Public cible : développeurs informatiques, ingénieurs, scientifiques et analystes des données.

Pré-requis

une connaissance générale des biais, de l’AI Act et des principes éthiques ;
savoir programmer en Python.

Programme

Partie 1 : Théorie

Principes sur les métriques des biais (par exemple : métriques contrefactuelles) et provenances possibles des biais (labellisation, algorithmes, données)
Impacts de l’IA Act (juriste ou cellule veille de l’entreprise)
Détection : comment identifier des sous populations de façons automatiques, impact sur les organisations
Méthodes de réparations : amélioration des jeux de données, régularisation de l’algorithme, corrections post-algorithme

Partie 2 : Atelier d’échange sur cas pratiques

Présentations des usages et parcours client du système décisionnel (responsables et développeurs de projets de l’entreprise)
Sélection d’un cas d’usage et canevas pour un diagnostic amont
Atelier red teaming : mise en situation d’audit avec deux équipes

Conclusions : intégrant des éléments de gouvernance

Intervenant(s)

Jean-Michel Loubes

Directeur de recherche Inria

Jean Michel Loubes est professeur de Mathématiques Appliquées à l’Institut de Mathématiques de Toulouse, porteur de la Chaire “Fair and Robust Learning” au sein de l’Institut d’Intelligence Naturelle et Artificielle de Toulouse (ANITI).. Il a dirigé l’équipe de Statistique et Probabilités de 2008 à 2012. Il a travaillé sur les méthodes d’estimation et les vitesses optimales en Machine Learning. Ses recherches actuelles portent sur l’application de la théorie du transport optimal en Machine Learning et sur les problématiques de “fairness” et de robustesse de l’Intelligence Artificielle.

Il a été responsable régional de 2012 à 2017 de l’Agence de Valorisation des Mathématiques du CNRS et siège depuis 2019 au Comité Scientifique de l’Institut des Sciences Mathématiques et de leur Interaction (INSMI) du CNRS.

1 j

750 / pers.

Informations pratiques

Durée : 5h intégrant le déjeuner
Horaires : 10h -15h.
Délais d’accès : les inscriptions s’arrêtent 15 jours avant la date affichée.
Informations sur l’admission : l’admission au cours fait l’objet d’une sélection préalable. Le candidat doit répondre aux critères des pré-requis indiqués ci-dessus.
Format : toutes les sessions en dehors de l’intra-entreprise se déroulent en distanciel.
Modalités pédagogiques : la formation est délivrée uniquement en présentiel, en langue française avec les supports en français. La taille du groupe : 12 personnes maximum.
Privatisation du module (session intra-entreprise) : à partir de 5 personnes. Nous contacter via le formulaire de contact.
Moyens pédagogiques : la formation intègre une partie théorique avec des exercices pratiques. Les participants testent leur niveau avec des quizz après la formation. Le matériel et les ressources nécessaires seront fournis afin de favoriser l’apprentissage autonome après le cours.
Modalités d’évaluation et de suivi : le formateur évalue la progression pédagogique du participant tout au long de la formation au moyen de QCM, mises en situation, travaux pratiques. Le participant complète également un test de positionnement en aval pour valider les compétences acquises.
Accessibilité – handicap : Inria s’engage à garantir l’accessibilité de ses formations à distance et en présentiel aux personnes en situation de handicap. Plus de détails

A propos des tarifs

Tarif : 750 € par participant.
Tarifs dégressifs à partir de 5 personnes (-10% de 5 à 9 inscrits, -20% plus de 10 inscrits).
Partenariat avec pôle Aktantis : les entreprises membres du pôle bénéficient d’une remise de 20%.
Modalités de financement : fonds propres

Demander plus d'informations