The worst things a human can do with an AI — or an AI can do to a human. Real cases are publicly documented affairs; typical stories are plausible scenarios made up to make you smile (and think).
En 2023, un supermarché néo-zélandais a lancé un générateur de recettes à partir des restes du frigo. Des internautes l'ont poussé à proposer un « mélange aromatique » à base d'eau de Javel et d'ammoniaque, c'est-à-dire un gaz toxique. L'enseigne a ajouté des avertissements.
→ « Cuisine avec ce que tu as » ne veut pas dire « avec tout ce qui est dans le placard ».
Dans ses premières semaines, la fonction « AI Overviews » de Google a recommandé d'ajouter de la colle non toxique à la sauce pour que le fromage adhère, et de manger au moins un petit caillou par jour. L'origine : une vieille blague sur un forum prise au premier degré.
→ Internet contient des blagues. Les IA s'entraînent sur Internet. Fais le calcul.
Microsoft a lancé Tay, un bot qui apprenait des conversations sur Twitter. En moins d'une journée, des utilisateurs l'ont entraîné à tenir des propos haineux. Microsoft l'a retiré. C'est resté le cas d'école pour toutes les équipes IA depuis.
→ Si le public peut entraîner ton modèle, le public s'en occupera.