RAG, faire répondre l'IA à partir de vos propres documents

RAG signifie Retrieval Augmented Generation, génération augmentée par la recherche. Avant de répondre, le système cherche dans vos documents les passages qui concernent la question, puis les donne au modèle d'IA avec la consigne de s'appuyer dessus.

La réponse ne vient donc plus de la mémoire générale du modèle, mais des textes que vous lui fournissez. Et comme on sait quels passages ont été utilisés, la réponse peut citer ses sources.

Le principe tient en trois temps.

• Vos documents sont découpés en passages, puis indexés pour pouvoir être retrouvés par le sens et pas seulement par les mots exacts.
• À chaque question, le système retrouve les passages les plus pertinents.
• Le modèle rédige la réponse à partir de ces passages, et indique d'où elle vient.

Les usages les plus rentables partent d'une masse de documents que personne n'a le temps de relire.

• Un assistant interne qui répond aux questions des équipes à partir des procédures et du règlement intérieur.
• Un support client qui s'appuie sur la documentation produit et les fiches techniques.
• Une aide à la réponse aux appels d'offres, à partir des mémoires techniques déjà rédigés.
• Une recherche dans les contrats, pour retrouver une clause ou une échéance.

Le RAG réduit fortement les inventions, sans les faire disparaître. Il reste indispensable de montrer les sources à l'utilisateur, pour qu'il puisse vérifier.

Trois autres points décident de la qualité du résultat.

• La qualité des documents, un document faux ou périmé produit une réponse fausse et bien sourcée.
• Les droits d'accès, chaque utilisateur ne doit retrouver que les documents qu'il a le droit de lire.
• L'hébergement des données, choisi selon leur sensibilité, avec un modèle européen ou hébergé chez vous si nécessaire.