Qu'est-ce que l'IA générative, sans le vocabulaire qui la fait passer pour magique

Voici l'essentiel en une phrase. Un modèle génératif est un système entraîne sur une quantité énorme de textes, d'images ou de sons, qui apprend la forme statistique de cette matière assez bien pour en produire de la nouvelle, de même forme.

C'est tout. Le reste en découle.

Ce qui se passe quand vous lui demandez quelque chose

Il ne consulte rien. Aucune bibliothèque de réponses n'est fouillée, et aucune étape n'établit qu'une réponse existe avant d'en proposer une.

Ce qui se passe, c'est que votre entrée pose un motif, et que le système produit la suite qui correspond le mieux à ce motif, fragment par fragment. Quand vous posez une question, ce qui correspond au motif d'une question est une réponse bien formée : c'est donc une réponse bien formée que vous obtenez.

Ce seul mécanisme explique presque tous les comportements qui surprennent.

Il explique pourquoi la sortie se lit bien même quand elle est fausse. Bien se lire est exactement ce qui a été appris, et cela a été appris indépendamment du fait d'avoir raison.

Il explique pourquoi un système peut être précis et assuré sur une chose inexistante. Une référence plausible à la même forme statistique qu'une vraie, et c'est la forme qui est produite.

Il explique pourquoi demander deux fois donne deux réponses. La génération comporte une part de hasard voulue, donc une même entrée peut suivre des chemins différents dans le même modèle.

Et il explique pourquoi reformuler une question change parfois le fond de la réponse. Une autre formulation est un autre motif, et un autre motif à une autre meilleure suite.

Là où le vocabulaire trompe

Nous parlons de ces systèmes avec des mots faits pour des esprits. Un modèle sait quelque chose, réfléchit à un problème, comprend un document, hallucine un fait. Chacun de ces mots importe une image mentale qui ne correspond pas à ce qui se produit, et ces images causent de vraies erreurs.

Le plus nuisible est hallucination. Il suggère un dysfonctionnement : un raté occasionnel dans une mémoire par ailleurs fiable, comme une personne se trompant de date. Mais il n'y a pas de mémoire à rater. Produire un texte conforme au motif est le fonctionnement normal, et ce processus ne distingue pas le cas où le motif rencontre la réalité de celui où il la manque. Les deux sont la même opération, exécutée correctement.

Une fois cela tenu, la règle pratique vient sans effort. Ces systèmes servent là où l'objectif est une sortie fluide et bien formée et où vous fournissez ou détenez déjà le contenu. Ils demandent un contrôle extérieur partout où l'objectif est d'avoir factuellement raison.

Les mots que vous croiserez

Modèle. Le système entraîne lui-même. Des modèles différents sont entraînés différemment et se comportent différemment, ce qui explique qu'un conseil valable pour l'un ne se transpose pas proprement à l'autre.

Prompt. Votre entrée. Elle pose le motif, ce qui explique que la formulation ait plus d'effet qu'il ne semblerait raisonnable.

Token. Le fragment de texte dans lequel le système travaille, à peu près un mot court ou un morceau de mot. La consommation se compte généralement en tokens plutôt qu'en mots.

Contexte. La quantité de matière prise en compte à la fois, votre prompt et sa propre production comprise. Ce qui sort du contexte n'existe pas pour cette requête.

Données d'entraînement. La matière dont il a appris la forme. Elle n'est pas stockée ni consultable dans le modèle, ce qui explique qu'il ne puisse pas dire de façon fiable d'où vient une information.

Agent. Un modèle branche pour agir plutôt que pour seulement répondre : appeler des outils, écrire des fichiers, envoyer des choses. Cela multiplie à la fois ce qu'il peut faire et ce qu'il peut rater, car une erreur a désormais des effets et non plus seulement des lecteurs.

AGI. L'intelligence artificielle générale, un système hypothétique capable de toute tâche intellectuelle humaine. Elle n'existe pas, aucun test ne fait consensus pour trancher, et affirmer qu'elle est imminente relève autant de la définition que de la technologie.

Ce que cela implique pour s'en servir

Si vous ne retenez qu'une chose, retenez la séparation entre la forme et le contenu. Ces systèmes sont excellents sur la forme : structure, formulation, registre, format, vraisemblance. Ils n'offrent aucune garantie sur le contenu.

Ils fonctionnent donc quand c'est vous qui tenez le contenu et qu'il vous faut la forme. Ils échouent quand c'est le contenu qu'il vous faut et que vous ne pouvez ni le fournir ni le vérifier. Toutes les règles pratiques du bon usage de ces outils sont des reformulations de cette seule distinction.