Une chaîne Youtube dédiée aux échecs a été bloquée par le programme d’intelligence artificielle (IA) de la plate-forme après que celui-ci a détecté une répétition des termes «noirs», «blancs», ou encore «attaque», des mots qui sont couramment utilisés dans l’univers du jeu de société.
Le compte du joueur croate Antonio Radic, également connu sous le nom de «Agadmator», a en effet été suspendu pour contenu «nuisible et dangereux», alors que celui-ci commentait une partie du grand maître international Hikaru Nakamura. Si la filiale de Google a rapidement débloqué sa chaîne, suivie par plus d’un million de personnes, elle n’a toutefois fourni aucune explication à l’utilisateur.
Des informaticiens de l'Université Carnegie Mellon ont indiqué que l’algorithme de Youtube a tout simplement mal interprété les commentaires, car il n’est pas en mesure de prendre en compte le contexte, rapporte L'Independent. «En s’appuyant sur l'intelligence artificielle pour détecter un langage raciste, ce type d'accident peut se produire», a déclaré le scientifique Ashiqur KhudaBukhsh.
Après avoir examiné plus de 1.000 commentaires, qui avaient été classés par l'IA comme étant des «discours de haine», ils ont constaté que 82% d'entre eux contenaient les mots «noirs», «blancs», «attaque», ou encore «menace». Pour éviter que ce type d’incident ne se reproduise à l'avenir, les experts ont ainsi suggéré à Youtube d’intégrer le lexique des échecs dans leur algorithme.