En février 2026, la start-up Guide Labs, issue de l'accélérateur Y Combinator, a publié en open source Steerling-8B, un modèle de langage de 8 milliards de paramètres conçu pour être interprétable (TechCrunch). C'est un modèle de recherche, pas un outil prêt à l'emploi pour une PME. Mais il touche une résistance fréquente des dirigeants face à l'IA : la difficulté de comprendre comment une recommandation ou une analyse a été produite.
La problématique dépasse la simple curiosité intellectuelle. Dans un contexte où les entreprises automatisent progressivement leurs processus de décision, la traçabilité devient un enjeu de gouvernance. Comment justifier une réallocation budgétaire recommandée par l'IA devant un conseil d'administration ? Comment auditer une décision de crédit client générée automatiquement ?
L'explicabilité, une condition de l'adoption en entreprise
Les modèles de langage traditionnels fonctionnent comme des boîtes noires sophistiquées. Vous posez une question, obtenez une réponse pertinente, mais ignorez totalement le raisonnement sous-jacent. Cette opacité génère une défiance légitime chez les décideurs qui doivent assumer la responsabilité de choix stratégiques basés sur des recommandations algorithmiques.
L'approche de Guide Labs est différente de l'analyse après coup d'un modèle existant. Le modèle intègre dès sa conception un module de « concepts » compréhensibles par un humain, par lequel passe chaque prédiction (présentation technique de Guide Labs). D'après la présentation relayée par TechCrunch, chaque élément produit peut ainsi être relié à son origine dans les données d'entraînement, et un développeur peut contrôler l'usage d'un concept (par exemple empêcher un modèle d'évaluation de demandes de prêt de tenir compte de l'origine ethnique). L'entreprise annonce environ 90 % des capacités des modèles existants, avec moins de données d'entraînement.
Ce type de transparence change la relation entre le dirigeant et l'outil : au lieu de recevoir une recommandation, il peut évaluer d'où elle vient.
Ce que révèle cette innovation sur les limites actuelles de l'IA d'entreprise
Le manque de confiance dans le fonctionnement des modèles est un frein souvent cité à l'adoption de l'IA, à côté des questions de coût et de compétences.
Cette réticence est forte dans les secteurs régulés (finance, santé, industrie), où la traçabilité des décisions est souvent une obligation. Elle concerne aussi tous les domaines où l'automatisation touche des enjeux stratégiques : allocation des ressources, gestion des risques, pilotage commercial.
Des modèles plus transparents permettent de positionner l'IA comme un assistant dont on peut vérifier le travail, plutôt que comme un décideur autonome. Le dirigeant garde la décision et dispose d'éléments pour juger la recommandation.
Implications concrètes pour les PME et ETI
Sans attendre des modèles interprétables de ce type, une PME peut déjà exiger de ses outils IA qu'ils expliquent leurs résultats. Trois exemples :
Pilotage financier : une prévision de trésorerie générée automatiquement devrait être livrée avec ses hypothèses, les variables jugées critiques et les scénarios écartés. Vous pouvez alors l'ajuster selon votre connaissance du terrain.
Analyse stratégique : quand un outil signale une opportunité de marché, il devrait citer ses sources d'information et sa méthode. Vous évaluez la pertinence du raisonnement avant de décider.
Gestion des risques : une alerte sur un risque client devrait détailler les indicateurs qui la déclenchent et son niveau de certitude.
C'est le principe appliqué dans le moteur commercial IA que Lumivi utilise pour ses propres prospects : chaque décision proposée est journalisée avec treize champs, dont l'action, l'intention, la confiance, la justification et le signal qui l'a déclenchée.
Les défis de mise en œuvre que les entreprises vont rencontrer
L'IA explicable ne résout pas automatiquement tous les enjeux d'adoption. Elle en crée même de nouveaux qu'il faut anticiper.
La complexité d'interprétation augmente significativement. Comprendre le raisonnement d'un LLM demande un niveau de littératie technique que tous les décideurs ne possèdent pas. Les entreprises devront investir dans la formation de leurs équipes pour exploiter pleinement ces capacités.
La performance peut également en pâtir. Produire des explications détaillées peut demander des calculs supplémentaires, et les organisations devront parfois arbitrer entre vitesse d'exécution et niveau de transparence selon leurs priorités métier.
La responsabilité juridique reste à clarifier. Si vous validez une décision après avoir analysé son raisonnement, assumez-vous la même responsabilité que si vous l'aviez prise directement ? Pour les systèmes classés à haut risque par l'AI Act (annexe III, qui couvre par exemple l'évaluation de la solvabilité des personnes physiques), les obligations de transparence et de contrôle humain s'appliqueront à partir du 2 décembre 2027, date fixée par le règlement (UE) 2026/1744.
Par où commencer dans une PME
La question à trancher processus par processus est simple : où acceptez-vous un résultat sans explication, et où exigez-vous de pouvoir le vérifier ? Pour les processus du second groupe :
- Exigez de chaque outil IA qu'il cite ses sources ou les données utilisées pour chaque résultat.
- Journalisez les recommandations et les décisions prises, avec leur justification.
- Gardez une validation humaine sur toute décision qui engage un client, un salarié ou un montant important.
Le service audit IA aide à classer vos processus selon ce critère. Pour un premier échange sur vos cas d'usage, le diagnostic gratuit est le point de départ.
Article rédigé par Loïc Mabilon, cofondateur de Lumivi.
