«TikTok fonctionne comme une nouvelle arène pour les idéologies haineuses incitant à la violence.» Telle est la conclusion d’un rapport publié le 24 août par l'Institute for Strategic Dialogue (ISD), organisation de surveillance de l’extrémisme en ligne basée à Londres.  Ces contenus haineux vont des clips soutenant que l’Holocauste n’a jamais existé aux vidéos présentant les musulmans comme des terroristes, en passant par des commentaires d’utilisateurs glorifiant les tueurs de masse, à l’instar des auteurs des attaques des mosquées de Christchurch en Nouvelle-Zélande ou de la synagogue Tree of Life à Pittsburgh (USA).

Sur une période de trois mois, l'ISD a analysé un échantillon de 1030 vidéos, soit environ huit heures de contenus, et a constaté que 312 de ces clips faisaient la promotion de la suprématie blanche. Plus de 240 vidéos montraient un soutien à des organisations ou des individus liés à l'extrémisme ou au terrorisme.

L'étude montre comment les créateurs de TikTok utilisent un langage codé ainsi que les effets vidéo, la mise en page et la musique de la plateforme pour promouvoir la haine. Mais également les tactiques utilisées par les créateurs, comme la restriction des commentaires sur leurs vidéos, pour éviter d'être signalés au réseau social.

Pour l’ISD, le réseau social présente un «problème de modération du contenu» et  une «mise en application lacunaire et préoccupante». «La plateforme permet la haine ciblant les musulmans, les juifs, les Asiatiques, les Noirs, les réfugiés, les femmes et les membres de la communauté LGBTIQ+, y compris des contenus allant jusqu’à célébrer le décès de personnes au sein de ces communautés», peut-on lire dans le rapport.

Dans une déclaration fournie à l'ISD, TikTok certifie avoir utilisé les recherches de l'ISD pour supprimer certains comptes. «TikTok interdit catégoriquement l'extrémisme violent et les comportements haineux, et notre équipe dédiée supprimera tout contenu de ce type, car ils violent notre politique et nuisent à l'expérience créative et joyeuse que les gens attendent de notre plateforme», est-il encore précisé dans le rapport de l'ISD.

Sur TikTok, le soutien à la suprématie blanche prend, selon l’institut, de nombreuses formes, à commencer par l’importance de contenus promouvant les théories du complot d'extrême droite du «Grand remplacement» et du «génocide blanc», qui affirment que «les Blancs sont systématiquement remplacés». Et le rapport de relever l’exemple de clip fréquemment partagé montrant un rabbin s'exprimant sur la chaîne Russia Today au sujet de la solidarité européenne croissante entre juifs et musulmans. D’après l’ISD, ses auteurs utilisaient cet extrait vidéo pour justifier les arguments selon lesquels ces communautés étaient «contre les Européens» et que les Blancs étaient menacés d’élimination.

L’ISD relève que les créateurs de TikTok utilisent des effets vintage et rétro dans les vidéos d'extrême droite pour «évoquer le passé» et «susciter la nostalgie». «Le message voulu dans ces vidéos indique que le passé est préférable à l'époque actuelle parce qu'il y avait moins de diversité aux États-Unis et en Europe, les cultures étaient plus homogènes et la religion (en particulier les confessions chrétiennes) avait plus d'influence sur la vie quotidienne des gens», écrivent les chercheurs.

Parmi les vidéos les plus vues de l'échantillon de l'ISD, un clip présentant des images de jeux vidéo sur le camp de concentration d'Auschwitz a été utilisé pour se moquer des victimes et nier l'Holocauste. Il a été visionné 1,8 million de fois. Les chercheurs ont estimé que 153, soit 15%, des vidéos de l'échantillon promouvaient des contenus antisémites.

Les créateurs de TikTok ont également instrumentalisé des aspects de la culture juive, comme la chanson folklorique Hava Nagila pour renforcer la haine du peuple juif, rapporte le document. Dans un certain nombre de vidéos, la chanson folklorique est jouée après qu'un bébé juif a cessé de pleurer lorsqu'on lui a donné de l'argent.

Par ailleurs, l'ISD a trouvé, parmi les vidéos qu'elle a analysées, 81 promouvant l’islamophobie. Dans ces clips, la haine anti-musulmane se matérialise principalement par des contenus liés aux guerres de Yougoslavie et au meurtre de musulmans bosniaques. «Il s'agissait notamment de contenus sur le génocide de 1995 à Srebenica, de la négation de cet événement ou de la glorification de ses responsables», indique le rapport.

Des vidéos affirmaient également qu'il y avait une «islamisation systématique de l'Europe», pointent encore les chercheurs. Le rapport a révélé que 30 vidéos présentaient un soutien à Brenton Tarrant, qui a tué 51 personnes dans deux mosquées à Christchurch, en Nouvelle-Zélande. Plus de 10 de ces vidéos ont été produites par Tarrant lui-même. Certains clips contenaient des séquences de jeux vidéo conçues pour recréer l'attaque.

L’ISD a reconnu que TikTok a pris des mesures pour résoudre ces problèmes, comme la publication de rapports de transparence détaillant ses efforts pour supprimer les contenus violant les directives de la communauté. Cependant, l’ISD conclut que l'interface de TikTok est «sévèrement limitée dans les données qu'elle fournit aux chercheurs ou au public», et considère que le réseau devrait agir avec plus de franchise, en révélant comment son algorithme fonctionne.