Beaucoup de structures sont engagées dans une transformation numérique. Ceci correspond généralement à :
L’exploitation d’IA de confiance, avec ses spécificités, s’insère dans ce contexte plus global.
De nombreuses études récentes montrent que les principaux freins au déploiement réussi de nouveaux outils plus numériques dans les entreprises sont essentiellement humains. Ce qui obère les promesses de gain en performance opérationnelle à court ou moyen termes.
Pour une vision plus générique et projective de l’impact pour la structuration data des grands groupes, on pourra conseiller le très bon document : Structuration des filières data dans les grands groupes, de la French Tech Corporate Community, auquel AI-vidence a eu le plaisir d’apporter une (très modeste) contribution.
Spécifiquement pour les introductions de modèles d’IA, des contraintes nouvelles, externes se font jour. Elles se concrétisent dans de nombreux corpus réglementaires trans-sectoriels, dont l’AI Act, actuellement en « discussions trilogues » entre Commission Européenne, Parlement et Conseil des ministres de l’Union. Ce texte devrait être voté au plus tard début 2024, et devenir pleinement coercitif en 2026 (période de « grâce » anticipée comme pour l’introduction du RGPD).
Les changements de travail sont d’abord plus ou moins sensibles, selon que l’on parle de dématérialisation, nomadisme ou utilisation intensive des données :
Toutes nécessitent une adaptation sensible, mais la toute dernière a ceci de spécifique qu’elle fait intervenir des compétences :
Ce qui rend particulièrement difficile leur implémentation, et pose la question de leur acceptation par l’ensemble des équipes.
Ceci pose des défis majeurs aux organisations :
Opérationnellement, ce sont ces derniers points qui sont très souvent retenus dans les enquêtes comme principal frein à l’utilisation des IA.
Le retour d’expérience des fondateurs d’AI-vidence, en ligne avec bon nombre d’acteurs du métier, est qu’il est nécessaire de veiller principalement à deux actions clefs :
Il est en effet extrêmement précieux de pouvoir faire se compléter de façon productive (et apaisée) les regards et expertises dès la phase de conception des modèles de data science, et tout au long du cycle de vie des projets.
Cela évite :
AI-vidence travaille explicitement pour cela à apporter des explications des modèles d’IA, afin de gagner en adoption par les équipes, et en robustesse des modèles, via prise en compte constructive des compétences humaines expertes existantes.
Ces transformations s’accompagnent d’évolutions miroir des cadres réglementaires. On notera en plus du RGPD le DMA, DSA, DGA et AI act, en provenance de l’Union Européenne.
Le respect de ce nouvelles contraintes ne pourra faire l’impasse d’au minimum une transparence sur les traitements, mais également très souvent d’une explicabilité des traitements (intentionnalité pour le RGDP, équité et non-discrimination pour l’AI act, etc.)
Plus de nouvelles sur le blog AI-vidence très bientôt… N’hésitez pas à vous inscrire à notre infolettre pour être tenu au courant des évolutions réglementaires à venir, et de nos analyses (et solutions 🙂 )
Structuration des filières Data dans les grands groupes, de la French Tech Corporate Community
The AI act newsletter – The future of life Institute
