Mémo — 20 termes IA essentiels expliqués simplement

Grand modèle de langage : un réseau de neurones entraîné sur des milliards de textes pour comprendre et générer du langage naturel.

Unité minimale de texte traitée par un LLM. Un token correspond approximativement à un mot court ou à 3-4 caractères en français. Les modèles facturent à l'usage en tokens.

Les "réglages internes" d'un modèle, ajustés pendant l'entraînement. Plus un modèle a de paramètres, plus il est potentiellement puissant — et coûteux.

Architecture neuronale publiée par Google en 2017 (article « Attention Is All You Need »), à la base de presque tous les LLMs modernes. Clé : le mécanisme d'attention qui permet au modèle de peser l'importance de chaque mot par rapport aux autres.

Quantité maximale de texte (en tokens) qu'un modèle peut traiter en une seule fois — incluant la question et la réponse. Au-delà de cette fenêtre, le modèle « oublie » le début de la conversation.

L'instruction ou la question que tu donnes à une IA pour obtenir une réponse. La qualité du prompt influence directement la qualité de la réponse.

Quand un LLM invente une information fausse mais la présente avec confiance, comme si c'était un fait. Les LLMs génèrent du texte statistiquement probable, pas forcément vrai.

Paramètre qui contrôle la variabilité des réponses. À 0 : réponses très prévisibles et répétables. À 1 ou plus : réponses plus créatives, mais parfois moins cohérentes.

Zero-shot : capacité d'un modèle à réaliser une tâche sans exemple donné dans le prompt. Few-shot : on fournit 2-3 exemples pour guider le modèle vers le format attendu.

La phase d'utilisation d'un modèle déjà entraîné pour générer des réponses. Distinct de l'entraînement (apprentissage). C'est ce qui se passe chaque fois que tu poses une question à ChatGPT.

Représentation numérique d'un texte, d'une image ou d'un son sous forme d'un vecteur de nombres. Les textes sémantiquement proches ont des vecteurs proches dans l'espace mathématique.

Technique qui connecte un LLM à une base de connaissances externe. Avant de répondre, le modèle récupère les documents pertinents et s'appuie dessus — ce qui réduit les hallucinations.

Réentraînement d'un modèle existant sur un jeu de données spécialisé pour l'adapter à un domaine ou un ton particulier. Plus coûteux que le prompting, mais plus précis pour des cas d'usage spécifiques.

Quand un modèle apprend trop parfaitement ses données d'entraînement et perd en capacité de généralisation sur de nouvelles données inconnues.

Interface permettant à des logiciels de communiquer entre eux. Pour l'IA : un pont qui permet à ton application d'envoyer des questions à un modèle et de recevoir les réponses.

Modèle capable de traiter et de générer plusieurs types de données : texte, images, audio, vidéo. Opposé aux modèles purement textuels.

Modèle dont les poids (et parfois le code d'entraînement) sont publiquement disponibles. On peut les télécharger et les faire tourner sur son propre matériel.

Technique d'IA générative (images, vidéos, audio) qui crée du contenu en retirant progressivement du bruit aléatoire d'un signal. Chaque étape de « débruitage » raffine l'image.

Programme autonome qui utilise un LLM pour planifier et exécuter des tâches en plusieurs étapes, en utilisant des outils (recherche web, exécution de code, lecture de fichiers) pour atteindre un objectif.

Mécanismes de sécurité intégrés dans un modèle pour empêcher la génération de contenus dangereux, illégaux ou contraires aux valeurs définies par l'entreprise. Combinaison de filtres, de fine-tuning et d'instructions système.