LLM signifie Large Language Model, « grand modèle de langage ». « Grand » renvoie au nombre de paramètres (des milliards) et à la quantité de textes utilisés pour l’entraînement.
Modèle et assistant : deux choses différentes
Le modèle est le moteur. L’assistant est l’application avec laquelle vous discutez : il ajoute une interface, une mémoire de la conversation, parfois la recherche web, l’analyse de fichiers ou la génération d’images. Un même assistant peut utiliser plusieurs modèles.
Ce qu’il faut retenir pour l’utiliser
- Il répond à partir de ce que vous lui donnez : un bon prompt change tout.
- Il lit un nombre limité de tokens à la fois : c’est la fenêtre de contexte.
- Il peut halluciner : on vérifie ce qui compte.