L'explicabilité, condition d'adoption : pourquoi un résultat doit se justifier

On imagine parfois que la qualité d'un système se mesure à la justesse de ses résultats. C'est nécessaire, mais insuffisant. Un résultat juste que personne ne comprend reste lettre morte : il n'est ni utilisé, ni assumé, ni discuté. L'explicabilité — la capacité à justifier une sortie — n'est pas un ornement final. C'est ce qui décide qu'un système est adopté ou abandonné.

Le rejet de la boîte noire

Placez-vous du côté du professionnel. On lui présente un résultat — une correspondance, une orientation, une priorité — sans lui dire pourquoi. Deux issues, également mauvaises : soit il fait aveuglément confiance, et engage sa responsabilité sur un calcul qu'il ne maîtrise pas ; soit il se méfie, et refait tout à la main. Dans les deux cas, le système a échoué. Une boîte noire ne s'adopte pas ; elle se subit ou se contourne.

Ce qu'« expliquer » veut dire

Expliquer, ce n'est pas afficher un score. C'est montrer le raisonnement :

• Sur quoi repose le résultat : les éléments qui fondent une correspondance ou une priorité.
• Ce qui mérite vigilance : les points à vérifier, les zones d'incertitude que le calcul ne tranche pas.
• Ce que le système ne voit pas : les limites de ce qu'il a pu prendre en compte.

Un résultat ainsi restitué n'est plus un verdict à croire, mais un argument à examiner.

Explicabilité et responsabilité

Dans la plupart des métiers, la décision engage quelqu'un devant un tiers — un client, un candidat, une institution. Or on ne peut assumer que ce qu'on peut expliquer. Un professionnel a besoin de pouvoir dire « voici pourquoi », pas « la machine l'a décidé ». L'explicabilité est ce qui lui permet de rester responsable de sa décision, même lorsqu'un système l'a préparée. Sans elle, on lui demande d'endosser l'inexplicable.

Expliquer, c'est aussi pouvoir corriger

Un résultat justifié se discute — donc s'améliore. Quand on voit sur quoi un système s'appuie, on peut repérer ce qu'il surévalue, ce qu'il néglige, ce qu'il faut ajuster. L'explicabilité ouvre une boucle de correction entre l'outil et le professionnel ; l'opacité la ferme. Un système qu'on ne peut pas interroger est aussi un système qu'on ne peut pas faire progresser.

Pourquoi c'est un étage à part entière

C'est parce que l'adoption en dépend que « expliquer » n'est pas un habillage ajouté à la fin, mais l'une des fonctions du socle, au même titre qu'analyser ou rapprocher. Restituer l'essentiel de façon lisible et argumentée fait partie du travail du système — pas d'une couche cosmétique. Un moteur qui calcule sans expliquer n'est qu'à moitié terminé.