Dans des secteurs sensibles comme l’aéronautique, l’automobile ou la santé, chaque prise de décision est lourde de conséquences. Aussi, de plus en plus d’acteurs, qu’il s’agisse d’industriels, de médecins, d’assureurs ou de gestionnaires de risques, imposent de comprendre le raisonnement d’un modèle d’IA avant de l’adopter en pratique.
Ahlame Douzal, chercheuse au LIG, a pris conscience du problème en 2018 alors qu’elle travaillait avec des médecins sur des modèles de prédiction de l’agressivité des cancers de la prostate. Pourtant bluffés par les performances atteintes par les modèles qu’elle présentait, les praticiens se sont montrés réticents à adopter la technologie sans la comprendre. Elle a donc mis au point un outil logiciel permettant de développer des modèles de Deep Learning (qui figurent parmi les plus puissants en IA) transparents par conception, et dont les prises de décisions sont explicables de façon compréhensible.
Baptisée XPDeep, son invention a donné naissance en 2023 à la start-up du même nom, laquelle devient lauréate du concours d'innovation i-Lab la même année. Sur le plan technique, XPDeep est ce que l’on appelle un framework, c’est-à-dire un outil permettant de générer des modèles d’IA. « XPDeep est le premier framework généraliste en Europe, permettant aux entreprises de ne plus dépendre des outils de géants comme Meta et Google, se félicite Stanislas Chesnais, co-fondateur de la start-up. Contrairement aux modèles deep classiques dits "boîtes noires" de ces entreprises, qui sont souvent incompréhensibles, le framework de XPDeep est conçu pour générer des modèles de Deep Learning (DL) transparents par nature. Cette transparence est essentielle pour instaurer la confiance chez les utilisateurs, tout en garantissant la conformité avec des réglementations strictes comme l'IA Act et le RGPD. »
La technologie de XPDeep est déjà déployée dans divers domaines. Elle a par exemple permis d’optimiser la conception de composants essentiels dans le secteur automobile, entraînant des réductions de coûts significatives par rapport aux standards actuels, en augmentant la précision des modèles. De tels résultats sont essentiels dans un contexte où la souveraineté technologique devient un facteur stratégique pour l’Europe.
À partir de janvier 2025, XPDeep proposera sa solution sous forme de service cloud, permettant un accès facilité pour les entreprises. Avec cette offre, la start-up ambitionne de devenir un acteur central de l’IA en Europe, proposant des solutions à la fois performantes et en accord avec les exigences de transparence. Cette approche marque le début d’une nouvelle ère où la compréhension des modèles d'IA et la confiance des utilisateurs sont primordiales dans le processus de décision.
*CNRS / Inria / UGA / Grenoble INP - UGA
