1

Pourquoi l’explicabilité est essentielle

• Définitions : interprétabilité vs explicabilité.
• Spécificités des modèles génératifs et des LLM.
• Cas d’usage critiques : juridique, médical, RH, finance.
• Risques liés à l’absence d’explication : confiance, adoption, conformité.

2

Explicabilité des LLMs, limites et leviers

• Comment fonctionnent les LLM : boîtes noires ou systèmes réductibles ?
• Prompts, mémoire, outputs : où sont les biais ?
• Limitations structurelles : instabilité, hallucination, manque de traçabilité.
• Reproductibilité : challenge ou mirage ?

3

Méthodes d’explicabilité dans le contexte GenAI

• Prompt engineering orienté interprétabilité.
• Approches « chain of thought », step-by-step reasoning.
• Justification générée vs preuve calculée.
• Éléments observables dans LangChain : logs, agents, tools.

4

Tracer, comprendre et expliquer via LangChain

• Composants traçables dans LangChain : agents, tools, chain logs.
• Logging, callback handlers, prompt templates explicites.
• Introduction à TruLens, PromptLayer, Helicone, LangSmith.
• Création d’un pipeline traçable.

5

Utiliser les ontologies et graphes pour expliquer

• Structurer le savoir pour mieux l’expliquer.
• Graphes de connaissance + LLM = contexte interprétable.
• Ontologies métiers : support d’explication intelligible pour l’utilisateur.
• Dialogue entre agent LLM et graphe structuré.

6

Explicabilité et cadre réglementaire

• Ce que demandent le RGPD et l’IA Act (droit à l’explication, transparence).
• Obligation de documentation, logs, reproductibilité.
• Interfaces explicables : comment afficher une justification intelligible.
• Le rôle de l’explicabilité dans les DPIA et les évaluations de risque.

7

Méthodes d’audit des systèmes GenAI

• Créer un log explicatif : prompt + contexte + sources + raisonnement.
• Contrôle qualité des réponses générées (hallucination, cohérence, biais).
• Inclusion d’agents « critique » ou de score d’explication.
• Évaluation humaine des raisonnements.