10 règles pour ne pas finir sur AIFail
Des cas réels et des scénarios types, on a tiré dix règles simples pour utiliser une IA sans devenir la prochaine anecdote.
Vérifie chaque source citée
Jurisprudences, études, livres, paquets logiciels, fonctions d'API : une IA invente avec aplomb des références plausibles. Ouvre-les et vérifie qu'elles existent.
Ne colle jamais de secrets
Mots de passe, clés d'API, configuration complète d'un équipement, code confidentiel, données clients : ce que tu colles quitte ton entreprise.
Relis avant d’exécuter
Une commande destructrice (rm -rf, DROP TABLE, iptables -F, terraform destroy, chmod -R 777) se lit mot à mot, variables comprises.
Teste sur un environnement jetable
Staging, machine virtuelle, snapshot : jamais directement en production, et pas le vendredi à 17 h 58.
Donne le minimum de droits à un agent
Lecture seule par défaut, pas d'accès à la production, pas de clés d'administration, et un humain qui valide les actions irréversibles.
Garde une sauvegarde testée
Snapshot, sauvegarde restaurée au moins une fois, historique Git, « reload in 5 » sur les équipements réseau : prévois le retour arrière.
Ne délègue pas la décision
Santé, droit, finance, RH : l'IA propose, tu es responsable. Une réponse assurée n'est pas une réponse exacte.
Protège ton chatbot public
Limites de périmètre, tests adverses, aucun engagement contractuel, escalade vers un humain, journalisation des conversations.
Élèves : cite, vérifie, comprends
Relis ta copie, vérifie chaque source, sache expliquer ce que tu rends. Les détecteurs d'IA se trompent, mais ton professeur le verra.
Demande ses sources, puis vérifie ailleurs
Quand tu doutes, demande à l'IA d'indiquer d'où vient l'information, puis recoupe avec une source indépendante.
Questions fréquentes
Qu'est-ce qu'une hallucination d'IA ?
C'est une réponse fausse mais présentée avec assurance : un fait, une citation, une jurisprudence ou une fonction de code qui n'existe pas.
Comment éviter les erreurs d'une IA ?
Vérifie les sources, relis avant d'exécuter, teste hors production, limite les droits donnés à l'IA et garde un humain responsable de la décision.
C'est quoi AIFail ?
AIFail est un musée communautaire des pires usages de l'intelligence artificielle : des cas réels documentés, des histoires types et des fails racontés par les internautes.
Comment raconter mon fail d'IA ?
Crée un compte gratuit, clique sur « Raconter un fail », décris ce qui s'est passé et ajoute une source. Un modérateur relit le post avant publication.