En juillet 2018, je continue ma série sur l’IA en entreprise avec un thème que ma formation rend de plus en plus central: l’explicabilité. Une IA qui sort une réponse, c’est une chose. Une IA qui peut expliquer pourquoi elle a répondu ça, c’en est une autre — pis c’est ça, le vrai banc d’essai pour passer de la démo à la décision. Pour mes dealers, un modèle qui ne s’explique pas est un modèle difficile à adopter pour vrai.

Le scénario qui rend ça concret: un modèle prédit qu’un client risque de partir. Mon directeur des ventes demande « pourquoi lui? ». Si ma seule réponse est « le modèle l’a dit », je viens de perdre toute crédibilité. Une décision d’affaires a besoin d’un pourquoi qu’on peut comprendre pis défendre.

Décider, pas démontrer

La différence entre une démo pis une décision réelle, c’est l’enjeu. Dans une démo, un résultat impressionnant suffit. Dans une décision qui touche un vrai client ou un vrai budget, il faut pouvoir justifier. Pis c’est là que beaucoup de modèles puissants déçoivent.

flowchart TD
    A[Le modele predit X] --> B{Peut-on expliquer<br/>pourquoi?}
    B -->|Oui, facteurs clairs| C[Decision defendable]
    B -->|Non, boite noire| D[Le modele l'a dit]
    C --> E[Adoptee, on agit avec confiance]
    D --> F[Personne ne fait confiance]
    F --> G[Beau modele, jamais utilise]

C’est le paradoxe que j’observe en 2018: les modèles les plus puissants sont souvent les moins explicables. Un modèle simple, un peu moins précis, mais dont on comprend les facteurs, sera adopté pis utilisé. Un modèle ultra-performant mais opaque restera sur la tablette parce que personne ne lui fait confiance. Pour mes dealers, je préfère souvent le modèle qu’on peut expliquer à celui qui impressionne mais qu’on ne comprend pas.

L’explicabilité, condition d’adoption

Mon banc d’essai pour un projet d’IA, c’est donc autant l’explicabilité que la performance. Est-ce qu’on peut montrer quels facteurs ont pesé dans une prédiction? Est-ce qu’un humain peut suivre le raisonnement, au moins en gros? Sans ça, le modèle ne franchira jamais l’étape de la confiance.

Une réponse trop confiante mais inexplicable peut briller en démonstration pis mourir en production. Voilà le risque que je veux nommer. L’explicabilité n’est pas un luxe académique — c’est la condition pour qu’une IA soit adoptée pis utilisée dans les vraies décisions. Un modèle qu’on ne peut pas expliquer est un modèle qu’on ne peut pas défendre, donc qu’on n’utilisera pas.

Ce que je retiens

En juillet 2018, le vrai banc d’essai de l’IA en entreprise, c’est l’explicabilité. Passer de la démo à la décision exige de pouvoir répondre à la question « pourquoi? ». Un modèle qui ne s’explique pas reste une curiosité, pas un outil.

Pour mes dealers, ma posture est claire: je préfère souvent un modèle un peu moins précis mais dont on comprend les facteurs à un modèle opaque qui impressionne. Parce que la précision sans confiance ne sert à personne. Ma formation me confirme que l’explicabilité est un des grands chantiers de l’IA — pis sur le terrain, c’est la condition d’adoption. Une IA utile, c’est une IA qu’on comprend assez pour oser s’en servir dans les vraies décisions.