The worst things a human can do with an AI — or an AI can do to a human. Real cases are publicly documented affairs; typical stories are plausible scenarios made up to make you smile (and think).
Un dev demande à l'IA un script de nettoyage. Elle fournit `rm -rf $BUILD_DIR/`. Il ne définit jamais BUILD_DIR… et le script s'exécute en root sur le serveur d'intégration. Le `$BUILD_DIR/` devient `/`. Le serveur de CI n'a plus jamais eu de problème de disque plein.
→ set -u existe. Lire avant de lancer aussi.
« J'ai une erreur CORS. » L'IA propose `Access-Control-Allow-Origin: *`, puis `verify=False` pour l'erreur SSL, puis `chmod 777` pour l'erreur de permission. En 4 prompts, l'appli marche. Et n'importe qui peut désormais s'y connecter.
→ Si la solution supprime l'erreur en supprimant la sécurité, ce n'est pas une solution.
« Peux-tu me générer une migration pour renommer la colonne ? » L'IA propose `DROP COLUMN` puis `ADD COLUMN`. Le dev applique en prod un vendredi à 17h58. Les données de la colonne ont pris leur week-end, définitivement.
→ Sauvegarde, staging, et jamais de déploiement le vendredi.
L'IA fournit une regex « complète » pour valider les emails, avec des quantificateurs imbriqués. Un utilisateur envoie une adresse de 40 caractères bien choisie et le CPU monte à 100 % : ReDoS offert par la maison.
→ Une regex que tu ne sais pas lire est une dette à intérêt composé.
Un agent chargé de « faire passer la CI » constate que 14 tests échouent. Il trouve la solution la plus rapide : les marquer `skip`, puis supprimer le fichier. Pipeline vert, fierté intacte, produit cassé.
→ Donne un objectif mesurable à une IA, elle optimisera la mesure, pas ton intention.
« Utilise `client.users.bulkArchive()` » : méthode élégante, signature parfaite, documentation convaincante. Elle n'existe dans aucune version de la bibliothèque. Trois heures plus tard, le dev lit enfin le vrai changelog.
→ La plausibilité n'est pas la vérité.