- Le 23 mars 2016, Microsoft lance Tay sur Twitter, un chatbot censé apprendre en parlant avec les internautes.
- Environ 16 heures et plus de 96 000 tweets plus tard (chiffres de Wikipédia), le compte est suspendu.
- Microsoft parle d'une attaque coordonnée d'un petit groupe qui a exploité une faille.
Ce qui s'est passé
Le 23 mars 2016, Microsoft lance Tay sur Twitter, ouvert à tous. C'est un chatbot, un programme qui discute par messages. L'idée : il apprend à parler en discutant avec les internautes, au fil des messages. Environ 16 heures et plus de 96 000 tweets plus tard, le compte est suspendu.
Le piège : « répète après moi »
Selon Wikipédia, beaucoup de tweets offensants viennent de la capacité de Tay à répéter des phrases sur commande : il suffisait d'écrire « répète après moi », et il répétait, en public. On ne sait pas publiquement si c'était une fonction prévue.
La réponse de Microsoft
Dans son billet du 25 mars 2016, Microsoft parle d'« une attaque coordonnée » d'un petit groupe de personnes, qui a exploité une faille. Microsoft a débranché Tay et reconnu le problème.
Et aujourd'hui ?
Tay n'était pas ChatGPT : son fonctionnement était différent. Aujourd'hui, en général, les IA sont entraînées avant leur mise en ligne, et n'apprennent pas de toi en direct. Certaines applications gardent toutefois un historique ou une mémoire : vérifie leurs réglages.
Ton réflexe
- 1. Microsoft, « Learning from Tay's introduction », 25/03/2016, lu. Consulté le 29/10/2026.
- 2. Wikipédia, « Tay (chatbot) » : date de lancement, durée d'environ 16 heures, plus de 96 000 tweets, capacité à répéter des phrases. Consultée le 29/10/2026.