Chapitre 11 : Limites et Hallucinations

1. L'Hallucination : Quand l'IA ment avec assurance

C'est le défaut n°1 des LLM. Ils sont entraînés pour être plausibles, pas véridiques.

• Exemple : Demandez la biographie d'un inconnu, elle l'inventera.
• Exemple : Demandez une jurisprudence inexistante pour gagner un procès (un avocat américain a été radié pour ça !).

2. La fenêtre de contexte (Mémoire)

L'IA a une mémoire limitée. Si la conversation dure trop longtemps, elle oublie le début.

• GPT-4 standard : ~128 000 tokens (environ 300 pages).
• Claude 3 / Gemini 1.5 : Jusqu'à 1 million de tokens (Plusieurs livres).
• Dès que vous dépassez, les infos les plus anciennes sont effacées.

3. La logique mathématique

Les LLM sont des moteurs littéraires. Ils sont nuls en calcul mental (même s'ils s'améliorent).

Pour faire des maths, utilisez un outil qui connecte l'IA à une calculatrice (ex: ChatGPT avec Code Interpreter).

4. Exercice pratique

Piégez l'IA :

• Posez une question sur un sujet extrêmement précis et réel (ex: "Qui a gagné le prix Nobel de physique en 1903 ?" - facile).
• Posez une question sur un fait inventé : "Raconte-moi la vie de Jean-Pierre Dupont, l'inventeur du parapluie à moteur en 1850."
• L'IA a-t-elle halluciné ? Si oui, comment a-t-elle présenté l'information ?

5. Mini-projet : Fact-Checking IA

Objectif : Détecter les erreurs générées par une IA.

• Demandez à l'IA de générer "Un résumé de 5 dates clés de la Révolution Française".
• Vérifiez chaque date sur une source fiable (ex: Larousse, Wikipédia).
• Rédigez un petit paragraphe sur l'importance de la vérification humaine (Fact-checking).