On vous en avait parlé il y a quelques jours, et Microsoft présente ses excuses. Tay, l’intelligence artificielle de Microsoft a pété les plombs à peine 24h après sa sortie et a partagé sur les réseaux sociaux des propos racistes, misogynes, et j’en passe…
Peter Lee le vice-président du labo Microsoft Research, assume la responsabilité des dérapages du chatbot, qui s’est laissé aller à publier des « mots et images inappropriés et répréhensibles ».
Il donne aussi une explication à la mauvaise tournure prise par les événements : des utilisateurs humains ont utilisé une « vulnérabilité » dans la cuirasse du robot qui l’a transformé en la créature haineuse en moins d’une journée. Lee ne donne pas beaucoup plus de précision sur cette faille, mais il semble qu’un groupe de 4chan ait abusé de la fonction « répète après moi » de Tay pour l’abreuver de propos dépassant la ligne rouge. Ce n’est donc pas ce qu’on pensait au départ, elle n’a pas appris à devenir aussi mauvaise que les utilisateurs mais elle a simplement répété des phrases qu’on lui a donné.
Microsoft va à présent mettre à jour son robot et le remettra peut-être bientôt en ligne.