Qu'est-ce qu'un LLM, et que peut-il faire pour une PME ?

LLM signifie Large Language Model, grand modèle de langage. C'est un modèle d'intelligence artificielle entraîné sur une quantité considérable de textes, qui a appris à prédire la suite la plus probable d'un texte. C'est ce mécanisme, répété mot après mot, qui lui permet de rédiger, de résumer, de traduire ou de classer.

Un LLM excelle dès qu'il faut manipuler du texte.

• Rédiger un premier jet, un courriel, un compte rendu, une réponse type.
• Résumer un long document ou une série d'échanges.
• Extraire des informations d'un texte libre, une date, un montant, un nom.
• Classer des demandes selon leur sujet ou leur urgence.

Un LLM produit un texte plausible, pas un texte vérifié. Quand il ne sait pas, il peut inventer une réponse avec la même assurance qu'une réponse juste. On parle d'hallucination.

La parade consiste à lui fournir les bonnes informations au moment de répondre, avec le RAG par exemple, à exiger des sources, et à garder une relecture humaine partout où une erreur coûterait cher.

Les grands modèles sont le plus souvent utilisés à distance, chez leur éditeur. Pour des données sensibles, on peut choisir une offre professionnelle qui n'entraîne pas le modèle sur vos contenus, un hébergement européen, ou un modèle à poids ouverts exécuté sur votre propre infrastructure, comme ceux que publie Mistral AI.

Le bon choix dépend de la sensibilité des données, du volume de requêtes et de la qualité attendue. Il se décide au cadrage, pas après.