Des outils existent déjà pour expliquer un modèle de façon « globale ». PDP, ou partial dependance plots, est peut-être le plus répandu.
La librairie SHAP (qui implémente les valeurs additives de Shapley, de la théorie des jeux) a introduit l’explication locale.
Globale ou locale, ces approches ne sont pas « à la bonne maille » selon nous. Seule une approche intermédiaire, ou régionale, permet une compréhension par le métier des corrélations révélées par le modèle :
Validée lors du tech sprint de l’ACPR sur l’explicabilité (les 3 lauréats dont nous faisions partie ont proposé une telle approche régionale), cette conviction fut le point de départ du développement de notre produit AntakIA : substituer sur des régions le modèle d’origine par des modèles plus simples, explicables et frugaux :
Ainsi nous remplaçons la boîte noire par une mosaïque de modèles plus simples. Cette image de la mosaïque a donné son nom à notre produit : la ville antique d’Antioche était célèbre pour ses mosaïques – le nom moderne de cette ville désormais turque est AntakIA 🙂
Et c’est aussi l’acronyme en anglais de « A New Tool To Acquire Knowledge from AI« .
A noter que notre approche s’inscrit parfaitement dans la méthodologie que Descartes formalisait dès 1637 dans son « Discours de la méthode » !
