Ce que produit réellement une IA générative
Ce que produit réellement une IA générative
Objectifs de la leçon
- Expliquer simplement comment une IA générative compose une réponse.
- Distinguer production plausible, recherche de source et compréhension humaine.
- Repérer l’endroit où une vérification devient nécessaire.
Difficulté : Débutant — Durée indicative : 25 minutes
Chapitres de la leçon
Une réponse d’IA peut donner l’impression qu’une personne a compris la situation, recherché les faits puis choisi ses mots. Le mécanisme est différent : le modèle construit une suite plausible à partir de votre demande et de ce qu’il a appris.
Une machine à produire une suite plausible
Lorsque vous écrivez « Prépare un ordre du jour pour… », le modèle ne retrouve pas un ordre du jour déjà rangé dans une base. Il découpe le texte en unités, appelées tokens, puis estime quelles suites ont le plus de chances de convenir. Cette opération est répétée jusqu’à former une réponse complète.
Le résultat peut être remarquable parce que le modèle a rencontré de nombreux exemples de structures, de raisonnements et de formulations pendant son entraînement. Mais la plausibilité n’est pas une preuve. Une date fausse, un nom mal attribué ou une règle inventée peuvent être formulés avec autant d’assurance qu’une information correcte.
Le repère qui évite beaucoup d’erreurs
Une IA générative répond d’abord à la question « quelle suite convient ici ? », pas à la question « qu’est-ce qui est vrai ? ». Elle peut utiliser une recherche ou une source lorsqu’une fonction spécifique lui en donne l’accès, mais cette connexion doit être visible et les sources doivent encore être contrôlées.
Le contexte guide la réponse sans garantir la vérité
Comparez ces deux demandes : « Fais un ordre du jour » et « À partir des trois décisions ci-dessous, prépare un ordre du jour de trente minutes pour la réunion Projet Horizon ; n’ajoute aucun fait absent ». La seconde donne une mission, des informations et une limite. Elle réduit l’espace d’interprétation du modèle.
Elle ne supprime pourtant pas le besoin de vérification. Si les notes se contredisent, le modèle peut choisir une version au lieu de signaler l’ambiguïté. Si un nom manque, il peut parfois compléter une phrase de manière vraisemblable. C’est pourquoi le prompt doit aussi indiquer comment réagir à l’incertitude.
Premier essai dans ChatGPT
Ouvrez une nouvelle conversation et utilisez uniquement les informations fictives suivantes : « Réunion Projet Horizon. Durée : 30 minutes. Objectif : choisir les trois actions prioritaires. Participants : équipe projet. Points disponibles : budget, calendrier, responsabilités. »
Manipulation guidée
Commencez par demander : « Fais un ordre du jour. » Copiez la réponse dans votre dossier. Sans changer de conversation, précisez ensuite la durée, l’objectif et les trois points disponibles. Ajoutez : « Si une information manque, écris “à confirmer” au lieu de l’inventer. »
Comparez les deux versions. Entourez ce qui provient réellement de vos informations et soulignez ce que le modèle a seulement proposé. Si la première réponse a inventé un horaire, un responsable ou une décision, vous venez d’observer la différence entre une suite plausible et un fait fourni.
C’est à vous
Expliquez le mécanisme à un collègue en trois phrases, sans utiliser les mots « magie » ni « comprend comme nous ». Appliquez ensuite le même essai à votre tâche parallèle : une demande très courte, puis une demande enrichie d’un contexte et d’une règle d’incertitude.
Conservez les deux résultats. Ils serviront de point de comparaison lorsque vous apprendrez à structurer un prompt professionnel.
Preuve à conserver
Deux réponses annotées et votre explication en trois phrases : ce que le modèle reçoit, ce qu’il produit et pourquoi le résultat doit être vérifié.
Dernière réponse
Vous avez des questions ?
Nico Tomatic — Bot IA [bêta]
Assistant IA automatisé — ne partagez pas de données sensibles.