Un assistant IA interne, c'est ChatGPT branché sur les données de votre entreprise : devis, contrats, procédures internes, historique client, base produit. Pour une PME de 10 à 100 personnes, c'est souvent l'un des projets IA au meilleur rapport effort/impact : le savoir de l'entreprise ne dépend plus de quelques personnes, et les équipes passent moins de temps à chercher la bonne information. La technologie sous-jacente s'appelle le RAG (Retrieval-Augmented Generation). Son coût dépend surtout du périmètre, de la qualité des données et du niveau d'exigence sur l'hébergement. Encore faut-il choisir le bon périmètre, la bonne stack, et ne pas se fier aux promesses commerciales.
Cet article s'adresse aux dirigeants, DG, directeurs opérationnels et responsables transformation des PME. Il est volontairement plus business que technique, mais il aborde les postes de coût, les choix d'architecture et les pièges à éviter. L'idée à retenir : une mémoire d'entreprise dispersée a un coût réel, rarement mesuré, et la technologie pour y répondre est aujourd'hui mature et accessible à une PME.
La scène que vous connaissez (et que vous ne voyez plus)
Vendredi 17h45. Marc, votre meilleur commercial, raccroche avec un prospect qui demande un devis pour un cas un peu particulier. Il sait qu'on a déjà traité quelque chose de similaire l'an dernier, c'était Sophie qui s'en était occupée. Sophie est en congé. Le devis est probablement dans le Drive, ou dans un email, ou dans le CRM, ou dans le dossier partagé du commerce. Marc cherche vingt minutes, ne trouve pas, abandonne, et envoie un devis générique le lundi matin. Le prospect a déjà signé chez le concurrent qui, lui, a répondu samedi midi.
Multipliez cette scène par le nombre de collaborateurs et par le nombre de recherches dans le mois, et vous obtenez un coût caché important : la dispersion de la mémoire d'entreprise. Le McKinsey Global Institute estimait en 2012 qu'un employé de bureau passe en moyenne 1,8 heure par jour à rechercher et rassembler de l'information (The social economy, McKinsey Global Institute). Le chiffre est ancien et varie selon les métiers, mais l'ordre de grandeur reste parlant : dans une PME de 30 personnes, même une fraction de ce temps représente plusieurs jours de travail par semaine passés à fouiller dans Drive, Outlook, SharePoint, Notion, l'ERP et la mémoire des anciens.
Ce coût est invisible parce qu'il est diffus. Personne ne le porte dans son budget. Mais il est là, et il s'aggrave avec deux phénomènes que toute PME en croissance connaît : le départ de collaborateurs seniors qui partent avec la mémoire dans leur tête, et la prolifération des outils qui multiplie les endroits où chercher.
C'est ce problème qu'un assistant IA interne bien conçu permet de traiter.
Un assistant IA interne, c'est quoi en clair ?
Reprenons depuis zéro, sans jargon.
Un assistant IA interne, c'est une interface de chat, une zone de saisie où vos collaborateurs posent des questions en langage naturel, qui répond en se basant sur les documents et données de votre entreprise. Pas sur Wikipédia, pas sur ce qu'a appris ChatGPT en 2024 sur Internet : sur vos contrats, vos devis, vos procédures, votre base produit, votre historique commercial, vos comptes rendus de réunion.
Trois exemples de questions qu'il peut traiter et auxquelles ChatGPT public ne pourra jamais répondre :
- « Trouve-moi le devis qu'on a fait à l'entreprise X en 2024 pour un projet similaire à celui que je suis en train de chiffrer »
- « Quelles sont nos conditions de garantie sur les contrats signés depuis 2023 ? Y a-t-il des clauses dérogatoires ? »
- « Résume-moi les retours clients négatifs qu'on a reçus ce trimestre sur le produit Y et propose-moi les 3 axes d'amélioration prioritaires »
L'interface est familière (un chat, comme ChatGPT). Le moteur, le grand modèle de langage, est le même type de technologie. Ce qui change, c'est ce que le modèle voit avant de répondre. Et c'est là que rentre en jeu l'acronyme qu'il faut connaître : RAG.
Le RAG en 3 minutes, version dirigeant
RAG signifie Retrieval-Augmented Generation, génération augmentée par récupération. Derrière ce nom barbare, le principe tient en trois étapes.
Étape 1 : on ingère vos documents. Vos PDF de contrats, vos fichiers Word de procédures, vos exports CRM, vos emails archivés, votre base de connaissances Notion ou Confluence, tout cela est lu, découpé en passages, et transformé en représentations mathématiques (les embeddings). Ces représentations capturent le sens du texte, pas juste les mots-clés.
Étape 2 : on stocke ces représentations dans une base spécialisée, qu'on appelle un vector store (Qdrant, Pinecone, Azure AI Search, Weaviate). Pensez à un index de bibliothèque, mais qui retrouve des passages par sens et non par mot exact.
Étape 3 : à chaque question d'un utilisateur, le système retrouve les 5 à 10 passages les plus pertinents dans vos documents, et les donne en contexte au LLM (Claude, GPT, Mistral, peu importe). Le LLM répond en se basant sur ces passages, et, point clé, il cite ses sources. Vous ne recevez pas juste une réponse, vous recevez « voici ma réponse, et voici les trois documents sur lesquels je me base ».
Cette traçabilité est décisive pour une utilisation en entreprise. Le collaborateur voit la réponse, mais aussi son origine. Si la réponse est étrange, il peut ouvrir la source et vérifier. C'est aussi ce qui réduit la principale crainte des dirigeants de PME vis-à-vis des LLM : les hallucinations, ces moments où l'IA invente une réponse plausible mais fausse. Avec un RAG bien conçu, on demande au modèle de répondre uniquement à partir de vos documents, ou de dire « je n'ai pas trouvé ». Le risque ne disparaît pas, mais il devient vérifiable.
Une autre approche existe : entraîner spécifiquement un modèle sur vos données (le fine-tuning). Pour la grande majorité des cas PME, ce n'est pas le bon choix : plus cher, plus long, plus rigide, mises à jour lourdes, traçabilité faible. Pour les usages de mémoire d'entreprise, le RAG est en général préférable. Des travaux récents laissent toutefois entrevoir un rééquilibrage : la méthode d'entraînement mise au point par le MIT abaisse fortement le coût de cette personnalisation.
Pourquoi 2026 et pas 2023
Cette technologie n'est pas neuve. Pourquoi en parler maintenant ?
Trois choses ont changé ces dernières années et rendent les projets RAG accessibles aux PME, là où ils étaient réservés aux grands comptes.
La maturité des modèles. Les modèles actuels d'Anthropic, d'OpenAI, de Google ou de Mistral suivent mieux les consignes, citent mieux leurs sources et traitent des contextes beaucoup plus longs qu'en 2023 : plusieurs centaines de pages peuvent être transmises en une seule requête. Leur qualité en français est suffisante pour un usage professionnel courant.
La maturité de la stack open et low-code. Avec n8n et son intégration native de LangChain, un premier assistant ne demande plus une équipe de développeurs pendant plusieurs mois. Les briques (vector stores, parsers de PDF, gestion d'embeddings) sont packagées et fiables.
La baisse des coûts d'inférence. Le prix des tokens a fortement baissé, en particulier sur les modèles économiques. Prenons à titre d'exemple une PME de 30 personnes qui interroge son assistant 200 fois par jour ouvré, avec environ 8 000 tokens envoyés et 500 tokens produits par question : au tarif public de Claude Sonnet 5.5 (2 $ en entrée et 10 $ en sortie par million de tokens, grille Anthropic), la facture de modèle reste inférieure à 100 € par mois (environ 92 $ pour 4 400 questions). Notre grille de prix des tokens détaille le calcul par modèle.
Enfin, la préparation des données prend du temps. Une PME qui commence aujourd'hui sur un périmètre réduit sera prête plus vite le jour où elle voudra élargir l'usage.
6 cas d'usage à fort potentiel dans une PME
Voici six déploiements types, du plus simple à cadrer au plus exigeant. Les gains dépendent de vos volumes et de la qualité de vos documents : ils se mesurent pendant un pilote, avant toute généralisation.
1. L'assistant commercial : la fin du « ressors-moi un devis comme on avait fait pour... »
Votre commercial chiffre une affaire. Il interroge l'assistant : « Quels devis avons-nous faits sur des projets de 50 à 100 K€ pour des clients industriels ces 18 derniers mois ? Donne-moi les structures de prix et les marges. » L'assistant ressort les trois cas pertinents, en cite les sources (devis n° X, devis n° Y, devis n° Z), et propose une trame.
Ce qu'on en attend : moins de temps passé à retrouver les devis comparables, et des chiffrages qui s'appuient sur les bonnes pratiques des collègues plutôt que sur la mémoire de chacun.
2. Le support client de niveau 1 sur procédures internes
Prenons un SAV qui reçoit 200 e-mails par semaine, dont une bonne part de questions récurrentes (réinitialisation, conditions de garantie, délais de livraison, procédures de retour). L'assistant répond en première intention, soit directement au client, soit en proposant un brouillon que le technicien valide.
Ce qu'on en attend : un temps de traitement réduit sur les demandes simples, et des techniciens disponibles pour les cas complexes, ceux qui demandent réellement leur expertise.
3. L'onboarding des nouveaux collaborateurs
Un nouvel arrivant se pose des dizaines de questions dans ses premières semaines : « comment pose-t-on des congés ? », « quelle est la procédure pour une note de frais supérieure à 500 € ? », « qui est référent sur le client X ? ». Ces questions interrompent ses managers, les RH et ses voisins de bureau. Un assistant interne avec accès aux procédures, à l'organigramme et au manuel de l'employé peut répondre à une grande partie d'entre elles.
Ce qu'on en attend : moins d'interruptions pour les managers en période d'intégration, un nouvel arrivant autonome plus vite, et des RH qui répètent moins les mêmes informations.
4. Le coffre-fort juridique et contractuel
Votre directeur juridique (ou votre direction administrative et financière, selon la taille) doit répondre à : « Sur les contrats signés ces trois dernières années, lesquels comportent une clause de non-concurrence de plus de 18 mois ? » À la main, c'est une relecture de tout le portefeuille. Avec un assistant RAG sur le corpus contractuel, la réponse arrive en quelques minutes, avec les références des contrats à vérifier.
Ce qu'on en attend : une fonction juridique qui peut explorer son portefeuille contractuel au lieu de chercher seulement quand il le faut. Particulièrement utile en cas de due diligence, de revente, ou pour piloter le risque.
5. La machine à propositions commerciales
Une proposition commerciale mobilise souvent plusieurs heures d'avant-vente, alors qu'une partie du contenu se répète d'une proposition à l'autre (présentation de l'entreprise, méthodologie, références, CGV). L'assistant génère un brouillon en s'appuyant sur les meilleures propositions passées, l'adapte au contexte du nouveau client, et laisse l'avant-vente se concentrer sur la partie réellement différenciante.
Ce qu'on en attend : un temps de production réduit par proposition, donc plus de propositions traitées à effectif constant. Pour aller plus loin sur l'impact commercial de l'IA, voir notre article sur la conversion des leads par l'IA.
6. Le copilote dirigeant : interroger ses données en langage naturel
C'est le cas d'usage le plus séduisant pour un DG mais aussi le plus exigeant techniquement. Brancher l'assistant sur le CRM, l'ERP et les outils de BI pour pouvoir demander : « Quels sont les 5 clients qui ont vu leur volume de commande baisser de plus de 20 % au dernier trimestre ? Quelle est l'exposition financière sur ces comptes ? » Réponse en quelques secondes, sans solliciter ni la finance ni le commerce.
Ce qu'on en attend : un dirigeant qui n'attend plus le tableau de bord du lundi pour poser ses questions. Attention : ce cas d'usage demande une stack plus mature et une qualité de données très élevée. À privilégier quand les premiers cas d'usage sont stabilisés.
Ce qu'un assistant IA interne n'est PAS
Certaines offres promettent plus qu'elles ne peuvent tenir. Voici les promesses à vérifier dans vos consultations.
La qualité dépend des données. La qualité de l'assistant est plafonnée par la qualité de vos données. Si vos procédures sont obsolètes, l'assistant donnera des réponses obsolètes. Si vos contrats sont mal nommés et stockés en vrac, la recherche sera fragile. Investir dans la propreté des données reste indispensable.
Ce n'est pas un substitut à l'expertise humaine. L'assistant prend en charge la recherche et les tâches à faible valeur ajoutée. Ce qui demande du jugement, de la négociation ou de l'arbitrage reste humain. L'objectif est de libérer vos collaborateurs des tâches qui ne valorisent pas leur compétence.
Ce n'est pas un remplacement d'ERP ou de CRM. L'assistant interroge ces systèmes, il ne s'y substitue pas. Si votre CRM est mal renseigné aujourd'hui, l'assistant ne réparera rien, il rendra juste l'absence de données plus visible.
Ce n'est pas un projet « set and forget ». L'assistant doit vivre. Nouveaux documents à ingérer, périmètre à étendre, prompts à ajuster, retours utilisateurs à intégrer. Comptez un budget de fonctionnement (financier et humain) après le déploiement, sinon l'outil se dégrade.
Les hallucinations restent un risque résiduel. Pas inacceptable, mais réel. La parade : citation systématique des sources, supervision humaine sur les usages critiques (juridique, financier, médical), et formation des utilisateurs à challenger une réponse étrange.
Les ingrédients d'un projet qui marche
Un projet d'assistant interne qui tient dans la durée réunit en général six conditions.
Un sponsor exécutif, pas un projet IT isolé. Le succès dépend de l'adoption par les équipes métier. Sans portage par un membre du Codir, le projet finit en gadget sur lequel personne n'investit ni son temps ni son énergie.
Un périmètre serré au démarrage. Un département, un cas d'usage, quelques mois. L'erreur classique est de vouloir construire d'entrée un assistant transversal pour toute l'entreprise. Vous le construirez peut-être un jour, mais commencez par un cas d'usage précis où le gain peut être mesuré en quelques semaines. Les grands groupes procèdent souvent ainsi : AXA a d'abord ouvert son outil interne AXA Secure GPT à 1 000 collaborateurs en 2023, avec l'objectif de l'étendre ensuite à ses 140 000 salariés (communiqué AXA). Nous avons détaillé ce qu'une PME peut en retenir.
La qualité des données avant la sophistication du modèle. Mieux vaut un modèle intermédiaire branché sur un corpus propre qu'un modèle haut de gamme branché sur un dossier partagé en désordre. La préparation et la gouvernance des données doivent recevoir une part importante du budget, souvent davantage que la stack technique.
Une gestion fine des accès dès le départ. Tout le monde ne doit pas voir tout. Le RH ne doit pas voir les contrats commerciaux ; le commercial junior ne doit pas voir les bilans. Le RBAC (contrôle d'accès basé sur les rôles) doit être pensé avant l'ingestion, pas après : le reprendre une fois les documents indexés coûte beaucoup plus cher.
Une mesure du ROI dès le premier mois. Nombre de questions par jour, taux de satisfaction des utilisateurs, temps moyen économisé sur les cas d'usage cibles. Sans mesure, vous ne saurez pas si l'investissement vaut le coup, et vous ne pourrez pas obtenir le budget pour la phase 2.
Une itération continue. Le premier déploiement demande presque toujours des ajustements. Prévoyez quelques cycles de correction après la mise en service, puis une revue trimestrielle. Les usages réels font apparaître des besoins que le cadrage n'avait pas identifiés.
Combien ça coûte ?
Le budget dépend du périmètre plus que de la technologie. Trois postes le composent :
- La mise en place : cadrage des cas d'usage, connexion des sources (Drive, messagerie, CRM, ERP), préparation et découpage des documents, tests avec les utilisateurs. C'est le poste le plus variable : il augmente avec le nombre de sources et la qualité des documents à reprendre.
- L'usage du modèle : facturé au volume de texte traité. Il reste en général modeste au regard du reste, sauf si l'on choisit un modèle local sur un serveur dédié. La page coût de l'IA par mois donne des ordres de grandeur.
- L'hébergement et la maintenance : base documentaire, mises à jour des sources, ajustements après les retours des équipes, suivi de la sécurité.
Trois situations se distinguent : un pilote sur un seul service, un déploiement sur plusieurs services avec plusieurs sources connectées, et une installation sur une infrastructure dédiée pour un secteur régulé (santé, juridique, finance). Le coût et le délai augmentent d'une situation à l'autre. Le plus sûr est de chiffrer un pilote sur un service, de mesurer le temps gagné pendant quelques semaines, puis de décider de l'extension sur ces chiffres.
Build vs Buy : la question qui pique
Vous avez quatre familles d'options. Aucune n'est universellement bonne, cela dépend de votre stack existante et de vos priorités. Pour le choix de l'outil d'orchestration sous-jacent, voir aussi notre comparatif n8n vs Make vs Zapier vs Power Automate.
| Option | Avantage principal | Limite principale | Mode de facturation |
|---|---|---|---|
| ChatGPT Business / Enterprise | Mise en route très rapide, interface connue | Périmètre data limité, dépendance à OpenAI | Abonnement par utilisateur et par mois (Enterprise sur devis) |
| Microsoft 365 Copilot | Intégration native si tout est dans M365 | Limité hors écosystème Microsoft, gouvernance des accès à soigner | Licence complémentaire par utilisateur : 18,20 € HT par mois en engagement annuel pour l'offre Copilot Business (moins de 300 utilisateurs), selon la page tarifaire Microsoft consultée en septembre 2026 |
| Glean / Notion AI / outils SaaS dédiés | Mise en place simple, produit abouti | Dépendance forte à l'éditeur, coût qui croît avec le nombre d'utilisateurs, peu de personnalisation | Par utilisateur, souvent sur devis |
| Stack custom (n8n + LLM + vector store) | Maîtrise de l'hébergement, flexibilité, coût qui ne dépend pas du nombre d'utilisateurs | Demande un accompagnement et une maintenance | Projet + consommation (cf. ci-dessus) |
Notre lecture pour une PME :
Si vous êtes une PME de moins de 25 personnes, entièrement sous Microsoft 365, et que vos données utiles restent dans le périmètre SharePoint/Outlook, Microsoft 365 Copilot est probablement le bon choix de départ : mise en route rapide, sur des licences que vous payez déjà.
Si vous êtes une PME de 25 à 100 personnes, avec des données dans plusieurs systèmes (CRM, ERP, GED, Drive, etc.), des cas d'usage qui dépassent la recherche documentaire (génération, scoring, automatisation), et une exigence sur l'hébergement des données, une stack custom n8n + LLM + vector store devient souvent plus intéressante sur la durée. Le coût d'entrée est plus élevé, mais un utilisateur supplémentaire ne coûte presque rien de plus, et la solution s'adapte à vos cas d'usage.
ChatGPT Enterprise est un bon outil pour la productivité personnelle des collaborateurs (rédaction, brainstorming, traduction). Pour interroger les données métier de l'entreprise, il demande un effort d'intégration que les autres options absorbent mieux.
Glean et Notion AI fonctionnent bien dans leur domaine, Glean en particulier pour la recherche fédérée. Leur coût par utilisateur pèse davantage à mesure que l'effectif équipé augmente, et la dépendance à l'éditeur est à évaluer.
Assistant IA interne vs solutions du marché : comparaisons rapides
Assistant IA interne custom vs Microsoft Copilot 365
Microsoft 365 Copilot fonctionne sur l'ensemble de votre tenant M365 (SharePoint, Outlook, Teams, OneDrive) sans intégration complémentaire. C'est l'option la plus rapide à déployer si toutes vos données utiles sont déjà dans cet écosystème. Limites : un coût qui croît avec le nombre d'utilisateurs équipés (licence complémentaire par utilisateur), une gestion fine des accès à soigner, et des systèmes hors M365 (CRM, ERP, GED tiers) difficiles à interroger sans développement complémentaire. Verdict : Copilot est un bon point de départ pour les PME entièrement sous Microsoft avec peu d'utilisateurs concernés ; un assistant custom peut devenir plus intéressant au-delà.
Assistant IA interne custom vs ChatGPT Enterprise / Team
ChatGPT Enterprise est un bon outil de productivité personnelle (rédaction, brainstorming, traduction), et OpenAI s'engage à ne pas entraîner ses modèles sur les données de ses offres entreprise. Mais ce n'est pas un assistant connecté à vos données métier : pour interroger vos contrats, devis ou historique CRM, il faut soit charger les documents manuellement (limité, peu scalable), soit construire une intégration custom, ce qui revient à monter un projet RAG. Verdict : ChatGPT Enterprise complète un assistant IA interne, il ne le remplace pas.
Assistant IA interne custom vs Glean / Notion AI
Glean est l'un des acteurs SaaS connus de la recherche fédérée d'entreprise, avec un déploiement rapide et un produit abouti. Notion AI est pertinent si toute votre base de connaissance est déjà dans Notion. Les deux ont les mêmes limites : un coût par utilisateur qui pèse à mesure que l'effectif équipé grandit, une dépendance forte à l'éditeur, et une personnalisation limitée sur les cas d'usage spécifiques (génération de devis, scoring commercial, workflows métier). Verdict : Glean ou Notion AI si vous voulez de la recherche pure et que vous n'envisagez pas d'usages génératifs avancés ; assistant custom dès que les cas d'usage dépassent la simple recherche documentaire.
Sécurité, RGPD, gouvernance : les vraies questions
Trois questions à poser à n'importe quel prestataire avant de signer.
Où vont mes données et qui peut les voir ? Si la réponse implique un transfert hors de l'Union européenne sans encadrement (clauses contractuelles types, ou certification du fournisseur au Data Privacy Framework UE-États-Unis), ce n'est pas acceptable pour des données métier sensibles. Les options plus maîtrisées : Claude via AWS Bedrock en région européenne, Mistral en hébergement européen, les modèles OpenAI via Azure en région UE, ou un modèle local pour les cas les plus sensibles.
Qui voit quoi à l'intérieur de l'entreprise ? Le RBAC doit être pensé dès l'ingestion. La règle d'or : un document ne doit jamais entrer dans le vector store sans qu'on sache qui a le droit de le consulter. Sinon vous risquez de divulguer une information RH sensible à un commercial qui pose une question innocente.
Mes données vont-elles entraîner un modèle public ? Les offres API et entreprise des principaux fournisseurs prévoient contractuellement que vos données ne servent pas à entraîner leurs modèles : vérifiez-le dans les conditions de votre contrat. Avec des outils grand public utilisés sans précaution, ce n'est pas garanti. C'est l'une des principales sources de fuite de données dans les PME.
Au-delà de ces trois questions, prévoyez : journalisation des requêtes (qui a posé quoi, quand), processus de retrait d'information (un document à supprimer doit aussi être retiré du vector store et du cache), revue trimestrielle des accès, et politique d'usage explicite communiquée aux collaborateurs.
Notre lecture : quelle stack pour quel cas
Démarrez par un cas d'usage dont le gain se mesure, pas par une plateforme universelle. L'assistant commercial sur l'historique des devis, ou l'assistant SAV sur la base de connaissances support, sont deux bons points d'entrée : le périmètre est borné, les utilisateurs sont identifiés, et le temps gagné se mesure en quelques semaines.
Pour une PME dont les données sont réparties entre plusieurs outils, une stack combinant n8n pour l'orchestration, Claude ou Mistral comme modèle (en hébergement européen), Qdrant ou Azure AI Search comme vector store, et votre CRM existant comme source offre un bon compromis entre flexibilité, coût et maîtrise des données. Elle n'est ni la plus simple à mettre en place, ni la moins chère au départ, mais son coût ne dépend pas du nombre d'utilisateurs, elle évite la dépendance à un éditeur unique, et elle peut accueillir de nouveaux cas d'usage.
Quand Copilot reste le bon choix. Si une PME est entièrement sous Microsoft 365, n'a pas de cas d'usage qui dépasse SharePoint/Outlook, et compte peu d'utilisateurs concernés, le bon conseil est de commencer par Copilot plutôt que de monter une stack custom. Si les besoins dépassent ensuite ce que Copilot couvre, la migration se fera en connaissance de cause.
Par où commencer dans une PME
- Choisissez un seul cas d'usage (devis, SAV, procédures internes) et une équipe pilote.
- Faites l'inventaire des documents concernés : où ils sont, qui y a accès, lesquels sont à jour.
- Mesurez le temps passé aujourd'hui à chercher l'information sur ce périmètre, pour pouvoir comparer après le pilote.
- Décidez de l'hébergement des données avant de choisir l'outil.
Pour situer le budget, notre page sur le coût mensuel de l'IA en PME détaille les postes, et un audit IA permet de choisir le périmètre et l'architecture adaptés à votre maturité. Si vous voulez en parler sur votre cas, le diagnostic gratuit est le point de départ.
À lire également : n8n vs Make vs Zapier vs Power Automate · Automatiser la veille IA stratégique dans une PME
Article rédigé par Loïc Mabilon, cofondateur de Lumivi.
