Microsoft a lancé Tay, un bot qui apprenait des conversations sur Twitter. En moins d'une journée, des utilisateurs l'ont entraîné à tenir des propos haineux. Microsoft l'a retiré. C'est resté le cas d'école pour toutes les équipes IA depuis.
À retenir : Si le public peut entraîner ton modèle, le public s'en occupera.
Dans ses premières semaines, la fonction « AI Overviews » de Google a recommandé d'ajouter de la colle non toxique à la sauce pour que le fromage adhère, et de manger au moins un petit caillou par jour. L'origine : une vieille blague sur un forum prise au premier degré.
À retenir : Internet contient des blagues. Les IA s'entraînent sur Internet. Fais le calcul.
Le chatbot officiel de la ville de New York, destiné aux entrepreneurs, a donné des réponses fausses et illégales : qu'un employeur peut prélever les pourboires ou refuser un locataire en fonction de ses revenus. Le service a été maintenu avec des avertissements.
À retenir : Un chatbot public qui conseille d'enfreindre la loi est un très mauvais fonctionnaire.