Vous utilisez actuellement des modèles de machine learning pour certaines applications : octroi de crédit ? détection d’anomalies ? tarification d’assurances ? probabilités de résiliation ? etc.
Le prochain règlement européen de « l’AI Act » s’appliquera d’ici 2 ans, et avec lui les exigences sectorielles subséquentes qui seront décidées par la BCE. Vous serez ainsi contraints d’expliquer le fonctionnement de certains algorithmes « boîte noire » sur les cas d’usage à hauts risques.
Pour aider les entreprises à relever ce défi, AI-vidence développe un produit d’explicabilité de modèles IA : AntakIA.
Cette solution d’explication « régionale » associe les data-scientists, les experts métier et les responsables de la conformité.
Notre approche (lauréate du TechSprint de l’ACPR en juillet 2021, et de l’initiative Confiance.AI en 2022) est unique sur le marché et s’appuie en partie sur des travaux de la recherche publique. Elle vise à résoudre les problèmes opérationnels liés à l’explicabilité des boîtes noires : contextualiser les explications, pour favoriser l’adoption par les collaborateurs et les clients finaux; améliorer la performance dans le temps et la robustesse des modèles, pour les exigences des régulateurs sectoriels.
Pour cela, nous tirons partie techniquement d’un nouvel espace de description des explications des modèles. Nous partitionnons les observations d’apprentissage en « régions », dans lesquelles les observations ET les explications des prédictions sont également homogènes. Cette méthode exploratoire et collaborative permet in fine de remplacer une boîte noire en plusieurs « boîtes blanches » chacune s’appuyant sur un modèle plus simple, explicable, supervisable et frugal.
Pour finaliser le développement de notre solution, nous recherchons des partenaires tels que vous pour nous aider à valider notre technologie grâce à vos cas d’usage, vos données et votre expertise. En échange, nous contribuons à vous aider dans votre préparation à ces nouvelles exigences d’explicabilité, nous vous proposons un nouvel éclairage de vos données grâce à notre technologie, et vous proposerons un tarif préférentiel sur notre produit à venir.
Ce document (cliquer sur l’image ci-dessus) présente plus en détail notre solution et décrit la méthodologie que nous vous proposons pour cette expérimentation commune.