Ce qu'est l'IA générative, en clair

La version courte

Un modèle génératif est un système entraîne sur une très grande quantité de textes, d'images ou de sons, qui apprend la forme statistique de cette matière assez bien pour en produire de la nouvelle, de même forme. Quand vous tapez une question, il ne cherche rien. Il produit la suite qui correspond au motif de votre entrée.

Ce seul fait explique presque tous les comportements étranges rencontres. Il explique pourquoi le résultat est fluide même quand il est faux : la fluidité est précisément ce qui a été appris. Il explique pourquoi il peut être précis et assuré sur une chose inexistante : une référence plausible à la même forme qu'une vraie. Et il explique pourquoi la même question posée deux fois donne deux réponses.

Là où le vocabulaire trompe

Dire qu'un modèle sait, pense, comprend ou hallucine importe une image mentale qui ne colle pas. La plus nuisible est hallucination, car elle suggère un dysfonctionnement, un raté occasionnel dans une mémoire par ailleurs fiable. Il n'y a pas de mémoire à rater. Produire un texte conforme au motif est le fonctionnement normal, et ce fonctionnement ne distingue pas les cas où le motif rencontre la réalité de ceux où il la manque.

Une fois cela tenu, la règle pratique suit : le modèle est utile là où l'objectif est une sortie fluide et bien formée, et il demande une vérification partout où l'objectif est d'avoir factuellement raison.

Ce que veulent vraiment dire les termes

Un modèle est le système entraîne. Un prompt est votre entrée. Un token est le fragment de texte dans lequel il travaille, à peu près un mot court ou un morceau de mot. Le contexte est ce qu'il peut prendre en compte à la fois. Un agent est un modèle branche pour agir plutôt que pour seulement répondre, ce qui multiplie à la fois ce qu'il peut faire et ce qu'il peut rater.