Formation Introduction à l’IA Responsable
“Responsible AI”, “Explainable AI”, “AI Fairness”, “Ethical AI”, etc. Tous ces termes prennent de plus en plus d’ampleur dans les discussions mais aussi dans les investissements des entreprises qui créent des produits incorporant de l’Intelligence Artificielle.
Si le potentiel incroyable de l’Intelligence Artificielle est maintenant compris et exploité depuis plusieurs années, son impact - voire sa dangerosité - sur nos vies, nos sociétés et notre environnement est de plus en plus scruté et débattu.
L’objectif de cette formation est de démystifier ce qu’il se cache derrière l’IA Responsable pour pouvoir en mesurer toute son étendue et sa complexité. Nous y aborderons des thématiques comme l’interprétabilité des modèles de Machine Learning, la place de l’humain dans les prises de décision à base d’IA, la gouvernance autour du ML, l’éthique, les biais présents à chaque étape du workflow du ML, la privacité et la sécurité.
Objectifs
Vous aurez acquis les bases essentielles autour de l’IA Responsable et serez en mesure de comprendre quelles sont les bonnes pratiques, tant techniques qu’organisationnelles, à mettre en place de manière pragmatique dans votre entreprise.
Public cible
- Data Scientists
- ML Engineers
- Leads de communautés Data
- Data Tribe Leaders
Programme détaillé
Différents piliers de l’IA Responsable mis en avant
- Quelles définitions pour l’IA Responsable ?
- Comment les principaux acteurs structurent leurs actions autour d’IA Responsable ?
- Les principaux enjeux de l’IA Responsable
Interprétabilité et Confiance
- Les techniques d’interprétabilité remettent en cause le tradeoff interprétabilité vs performance
- Une demande croissante de transparence de la part des utilisateurs
Équité
- Principe du “Discrimation In, Discrimination Out”
- Un sujet qui touche à des notions allant bien au-delà du Machine Learning, comme la culture, l’histoire, la politique, l’éthique et bien d’autres encore
- Le sujet de l’équité remet en question l’ensemble de la chaîne de valeur autour de la data
IA centrée sur l’humain
- Des incidents causés par des produits à base d’IA de plus en plus nombreux
- S’assurer que les humains soient bien dans la boucle de prise de décision
- Avoir une réflexion dès les phases initiales d’un projet IA sur les impacts négatifs que pourraient avoir des prédictions erronées ou biaisées
Sécurité
- Manipulations des données d’entraînement des modèles
- Manipulations des prédictions des modèles
- Extraction de la logique interne des modèles ou bien des données d’entraînement
- Chevaux de troie cachés dans les logiciels de ML, les modèles ou les données.
Conformité et Gouvernance
- Définir clairement les rôles et les processus internes afin de s’assurer de la bonne traçabilité et gestion de la donnée
- Définir les responsabilités pour les risques liés au ML, pour son audit et pour la gestion de ses incidents
Confidentialité
- Des problématiques aussi bien légales que techniques
- Differential Privacy
- Federated Learning
Reproductibilité et Résilience dans le workflow de ML
- Le testing : un produit à base de Machine Learning est avant tout un logiciel
- Monitoring en live de modèles de Machine Learning
- Mesurer et alerter de toute potentielle dérive du modèle dans le temps
- Reproductibilité des entraînements et des résultats
Responsabilité Sociale et Environnementale
- Penser dès le début à l’impact que peut avoir un produit à base d’IA sur les comportements et sur la confirmation de certains biais ou stéréotypes
- Le rôle des acteurs de l’IA dans la gestion des craintes d’autres collaborateurs sur l’impact que peut avoir l’IA sur l’avenir de leur emploi
- Intelligence Articielle et responsabilité environnementale
L’IA Responsable ouvre de nouvelles opportunités
- Prise de décisions éclairées
- Utiliser le Machine Learning pour nous mettre face à nos propres incohérences et nos propres biais
Formateur(s)
Photos
Financer votre formation par un OPCO
Sur le même sujet
Articles du blog
Vidéos
Explicabilité et IA de confiance chez Floa Bank
L'IA éthique by design chez Brut
Café Data avec Gaël Varoquaux
Ces formations pourrait aussi vous intéressez
Formation IA Act
La Fresque de la Data et de l'IA
Formation Generative AI & LLM
Nous vous accompagnons dans vos projets Data & IA
Les prochains événements Hymaïa
Forward Data Conference
