Le mémorial d'Auschwitz fait appel à une IA pour masquer les messages antisémites sur les réseaux sociaux

Particulièrement présent sur les réseaux sociaux, le mémorial d'Auschwitz, qui est installé au sein de l'ancien camp de concentration nazi, s'apprête à faire appel à de l'intelligence artificielle.

L'objectif est de modérer plus efficacement les messages haineux qui peuvent parfois apparaître sur les pages Twitter (X), Facebook et Instagram du mémorial, dont les comptes sont suivis par près de 2,5 millions de personnes au total.

Pour ce faire, le mémorial d'Auschwitz a fait appel à la startup Trollwall AI, qui donne accès à une modération automatique des commentaires haineux sur les réseaux sociaux grâce à des modèles d'intelligence artificielle. Selon le mémorial, il s'agit de faire face aux milliers de commentaires publiés chaque jour sous les publications relatant des événements de l'histoire du camp.

"La plupart des commentaires sont des expressions diverses de souvenirs, des réactions émotionnelles liées au contenu présenté ou des questions strictement historiques," relate le mémorial, "malheureusement, certains commentaires violent la mémoire des victimes, notamment par des propos antisémites et négationnistes."

Tests concluants

Chaque jour, "des vagues de spam, de trolling, de bots de phishing ou des campagnes de désinformation" s'ajoutent aux commentaires des publications, regrette le mémorial.

Le PDG et co-fondateur de Troll<all AI, Tomas Halasz, explique que si la liberté d'expression est nécessaire, ce n'est pas le cas des discours de haine: "En modérant automatiquement les commentaires haineux, nous créons un espace en ligne sûr et sans haine pour ceux qui suivent le musée sur les réseaux sociaux."

Plusieurs tests ont ainsi été effectués ces derniers mois et se sont révélés concluants. L'intelligence artificielle de Trollwall AI a la capacité de modérer dans plusieurs langues différentes, "un élément crucial" commentaire le mémorial. S'il concerne néanmoins des modérateurs humains, il espère ainsi pouvoir accélérer les actions de modération et se focaliser sur les publications.

Concrètement, l'outil de Trollwall AI ne pourra pas supprimer les messages haineux à la place des plateformes, mais pourra les masquer, au même titre que chaque utilisateur pour les commentaires à ses propres publications.

Ce n'est pas la première fois que le mémorial d'Auschwitz fait part de sa consternation au sujet des comportements problématiques sur les réseaux sociaux. En avril 2023, le compte officiel avait notamment pointé du doigt les comportements choquants de certains visiteurs se mettant en scène sur Instagram, prenant par exemple la pose sur les tristement célèbres rails des trains de la mort, où les juifs étaient ensuite triés pour être envoyés aux fours crématoires ou dans un camp de travail forcé.