Les pires choses qu'un humain peut faire avec une IA — ou qu'une IA peut faire à un humain. Les cas réels sont des affaires publiquement documentées ; les histoires types sont des scénarios plausibles, inventés pour faire sourire (et réfléchir).
En 2023, un supermarché néo-zélandais a lancé un générateur de recettes à partir des restes du frigo. Des internautes l'ont poussé à proposer un « mélange aromatique » à base d'eau de Javel et d'ammoniaque, c'est-à-dire un gaz toxique. L'enseigne a ajouté des avertissements.
→ « Cuisine avec ce que tu as » ne veut pas dire « avec tout ce qui est dans le placard ».
Dans ses premières semaines, la fonction « AI Overviews » de Google a recommandé d'ajouter de la colle non toxique à la sauce pour que le fromage adhère, et de manger au moins un petit caillou par jour. L'origine : une vieille blague sur un forum prise au premier degré.
→ Internet contient des blagues. Les IA s'entraînent sur Internet. Fais le calcul.
Microsoft a lancé Tay, un bot qui apprenait des conversations sur Twitter. En moins d'une journée, des utilisateurs l'ont entraîné à tenir des propos haineux. Microsoft l'a retiré. C'est resté le cas d'école pour toutes les équipes IA depuis.
→ Si le public peut entraîner ton modèle, le public s'en occupera.
L'assistant de voyage propose un « itinéraire pittoresque » qui traverse un chemin fermé, puis un gué, puis un champ de vaches. La voiture de location, elle, n'avait pas été informée de l'aventure. Le loueur non plus.
→ Regarde par la fenêtre de temps en temps.
Une appli d'identification IA affirme avec 97 % de confiance qu'il s'agit d'un champignon comestible. Un pharmacien, une photo plus tard, a un avis légèrement plus nuancé.
→ 97 % de confiance, c'est 3 % de très mauvaise soirée.