L'algorithme de TikTok favorise-t-il le partage de contenu offensant ? C'est en tout cas ce que craignent certains experts après la large diffusion sur le réseau social d'une chanson aux paroles clairement antisémites, associée à des contenus reprenant l'idéologie nazie.
«Nous allons faire un voyage dans un endroit appelé Auschwitz, c’est l’heure de la douche», pouvait-on notamment entendre au cours du morceau. Une référence directe au camp d'extermination d'Auschwitz, le plus grand complexe concentrationnaire de l'Allemagne nazie, au sein duquel plus d'un million de personnes, en majorité de confession juive, ont été exterminées.
.@tiktok_us removes videos featuring song lyrics “We’re going on a trip to a place called #Auschwitz, it’s shower time”, but only after its own algorithm meant they were viewed over 6.5 million timeshttps://t.co/7F5tvwbh4v
— Campaign Against Antisemitism (@antisemitism) July 8, 2020
Partagé une première fois le 5 juillet, ce chant a eu le temps d'être repris dans plus de 100 vidéos. Il a totalisé 6,5 millions de vues en tout avant d'être supprimé de la plate-forme. La première séquence, publiée selon les informations de la BBC par un adolescent britannique, montrait un scorpion géant affublé d'une croix gammée, attaquant et tuant des personnes.
Les vidéos suivantes étaient du même acabit, reprenant des extraits de jeux-vidéo ou même des images d'archive et de documentaires sur la Shoah.
Interrogé par la BBC, Stephen Silverman, directeur des enquêtes et de l’application de la Campagne contre l’antisémitisme s'alarme : selon lui, TikTok est devenu «l'un des vecteurs les plus rapides de transmission de mèmes se moquant de l’Holocauste».
Des accusations dont le réseau social se défend. «Nous ne tolérons aucun contenu diffusant des discours de haine, assure une porte-parole. Le son en question, ainsi que toutes les vidéos associées, ont maintenant été supprimés. [...] Nous améliorons constamment nos technologies et nos politiques pour garantir que TikTok reste un endroit sûr pour une expression créative positive».