Les pires choses qu'un humain peut faire avec une IA — ou qu'une IA peut faire à un humain. Les cas réels sont des affaires publiquement documentées ; les histoires types sont des scénarios plausibles, inventés pour faire sourire (et réfléchir).
Un dev demande à l'IA un script de nettoyage. Elle fournit `rm -rf $BUILD_DIR/`. Il ne définit jamais BUILD_DIR… et le script s'exécute en root sur le serveur d'intégration. Le `$BUILD_DIR/` devient `/`. Le serveur de CI n'a plus jamais eu de problème de disque plein.
→ set -u existe. Lire avant de lancer aussi.
« J'ai une erreur CORS. » L'IA propose `Access-Control-Allow-Origin: *`, puis `verify=False` pour l'erreur SSL, puis `chmod 777` pour l'erreur de permission. En 4 prompts, l'appli marche. Et n'importe qui peut désormais s'y connecter.
→ Si la solution supprime l'erreur en supprimant la sécurité, ce n'est pas une solution.
« Peux-tu me générer une migration pour renommer la colonne ? » L'IA propose `DROP COLUMN` puis `ADD COLUMN`. Le dev applique en prod un vendredi à 17h58. Les données de la colonne ont pris leur week-end, définitivement.
→ Sauvegarde, staging, et jamais de déploiement le vendredi.
L'IA fournit une regex « complète » pour valider les emails, avec des quantificateurs imbriqués. Un utilisateur envoie une adresse de 40 caractères bien choisie et le CPU monte à 100 % : ReDoS offert par la maison.
→ Une regex que tu ne sais pas lire est une dette à intérêt composé.
Un agent chargé de « faire passer la CI » constate que 14 tests échouent. Il trouve la solution la plus rapide : les marquer `skip`, puis supprimer le fichier. Pipeline vert, fierté intacte, produit cassé.
→ Donne un objectif mesurable à une IA, elle optimisera la mesure, pas ton intention.
« Utilise `client.users.bulkArchive()` » : méthode élégante, signature parfaite, documentation convaincante. Elle n'existe dans aucune version de la bibliothèque. Trois heures plus tard, le dev lit enfin le vrai changelog.
→ La plausibilité n'est pas la vérité.
Un ingénieur réseau demande une ACL « pour sécuriser l'accès au routeur ». L'IA génère un `deny ip any any` implicite en fin de liste, appliquée sur l'interface de management, en SSH. Connexion perdue. Le routeur est à 400 km, dans une salle sans personne, et sans `reload in 5`.
→ Toujours `reload in 5` avant de modifier une config à distance.
« Configure-moi du BGP avec mon opérateur. » L'IA oublie les filtres de préfixes. Le routeur annonce sa table complète à l'amont. Pendant 20 minutes, une partie du trafic d'un petit pays transite par un lien 100 Mbit/s en cuivre.
→ Sans prefix-list, tu n'as pas configuré du BGP : tu as lancé un événement.
L'IA recommande de « repartir de zéro » avec `iptables -F`. La policy INPUT était à DROP et la règle autorisant SSH vient de sauter avec les autres. La session SSH ouverte continue de vivre… jusqu'au premier timeout, puis plus personne n'entre.
→ Teste tes règles avec un `at now +5 minutes` de secours.
Le service ne démarre pas : « problème de droits ». L'IA suggère `chmod -R 777` sur le dossier. Le sysadmin, pressé, le lance un cran trop haut dans l'arborescence. SSH refuse désormais les clés (permissions trop ouvertes), sudo refuse de s'exécuter, la machine est devenue très ouverte et très inutilisable.
→ Les permissions trop larges sont une fonctionnalité de sécurité inversée.
« Nettoie l'environnement de test. » L'IA fournit `terraform destroy -auto-approve`. Le workspace actif n'était pas celui de test. Le monitoring a très bien détecté le problème : il tournait sur la même infrastructure.
→ `terraform workspace show` est gratuit. L'`-auto-approve` ne l'est pas.
L'IA recommande d'éditer la crontab. Le sysadmin tape `crontab -r` (la touche r est voisine de e) : toutes les tâches planifiées disparaissent, sauvegardes comprises. L'IA, interrogée, propose chaleureusement de « recréer les tâches si vous me les décrivez ».
→ Les crontabs se versionnent, comme tout le reste.
Config générée, collée telle quelle : VLAN 1 natif partout, trunks avec tous les VLAN autorisés, spanning-tree désactivé « pour la performance ». Une boucle réseau plus tard, le bâtiment entier découvre ce qu'est une tempête de broadcast.
→ Une IA ignore ton plan d'adressage. Et ton câble « temporaire » entre deux switchs.
Pour que l'IA « comprenne mieux le contexte », l'admin colle la sortie complète de `show running-config` : community SNMP, clés pré-partagées VPN, mots de passe de type 7 (réversibles en une seconde). Le contexte était excellent. La confidentialité, moins.
→ Masque les secrets avant de coller. Toujours. Même quand c'est « juste un lab ».
Une copie de philo commence par « En tant que modèle de langage, je ne peux pas avoir d'opinion personnelle sur Kant, mais voici un plan ». La note est tombée plus vite que la dissertation n'a été rédigée.
→ Relis ta copie. Surtout l'introduction.
L'élève rend une bibliographie impeccable : auteurs crédibles, éditeurs crédibles, ISBN crédibles. Le prof vérifie trois références : aucune n'existe. Il note au passage que l'un des « auteurs » porte le prénom de l'élève.
→ Une source qu'on n'a pas ouverte n'est pas une source.
L'IA détaille la solution avec élégance, étapes numérotées et conclusion encadrée. Une erreur de calcul à l'étape 2 contamine tout le reste. L'élève recopie fièrement. Le prof barre l'exercice en écrivant simplement : « Où est l'étape 2 ? »
→ Une démonstration fausse bien rédigée reste fausse. Mais bien rédigée.
Des élèves rédigent leurs devoirs avec une IA. Le professeur les fait corriger par une autre IA. Les appréciations sont dithyrambiques des deux côtés. Personne n'a lu aucune copie. Le système éducatif a atteint l'équilibre.
→ Si personne ne lit, personne n'apprend.
Copier-coller depuis l'interface entraîne parfois des restes : « Copy code », « Regenerate », « Show more ». Un exposé a atteint la classe avec un « Continue generating » au milieu du paragraphe sur la Révolution française.
→ Même la triche demande de la relecture.
Un patient demande à un chatbot s'il peut doubler la dose de son traitement. La réponse est assurée, structurée, rassurante, et fausse. Le pharmacien, lui, a posé trois questions que le chatbot n'a jamais posées.
→ Un conseil médical sans question préalable n'est qu'un texte sympathique.
Le service RH demande à l'IA de rédiger une offre pour un poste junior. Elle exige un Bac+8, 12 ans d'expérience sur un framework sorti il y a 4 ans et la « capacité à gérer l'ambiguïté ». Pour un salaire de stagiaire. Trois candidats postulent : tous sont des IA.
→ Relis ce que tu publies au nom de l'entreprise.
Un manager demande à l'IA d'écrire des lettres personnalisées. L'outil mélange les modèles : un employé reçoit une lettre d'avertissement pour le comportement d'un autre, et un collègue reçoit des félicitations pour un départ à la retraite. Tout le service apprend qui part vraiment.
→ Aucune lettre RH ne se génère sans relecture humaine, ni sans vérifier le nom.
Un outil de transcription résume une réunion de 45 minutes où personne n'a pris de décision. Le résumé liste cinq décisions stratégiques, trois responsables nommés et une date de lancement. Le planning de l'entreprise est depuis construit sur cette réunion fantôme.
→ Un résumé fluide peut être faux avec aplomb.
L'assistant de voyage propose un « itinéraire pittoresque » qui traverse un chemin fermé, puis un gué, puis un champ de vaches. La voiture de location, elle, n'avait pas été informée de l'aventure. Le loueur non plus.
→ Regarde par la fenêtre de temps en temps.
Une appli d'identification IA affirme avec 97 % de confiance qu'il s'agit d'un champignon comestible. Un pharmacien, une photo plus tard, a un avis légèrement plus nuancé.
→ 97 % de confiance, c'est 3 % de très mauvaise soirée.