Discours de haine en ligne : détecter, réguler, éduquer

Racisme, homophobie, sexisme… Le climat en ligne est de plus en plus toxique. Et ce n’est pas qu’une intuition. Textgain, une start-up « AI for Good », a quantifié et documenté objectivement le phénomène. « Le modèle économique des plateformes sociales repose sur l’engagement. Les contenus polarisants sont rentables car ils génèrent des clics et maximisent le temps passé », avance Guy De Pauw, CEO de Textgain.

Polarisation

Un constat partagé par Unia, institution publique indépendante, notamment chargée de traiter les discriminations en ligne avec un mandat européen car reconnue comme « trusted flagger ». « Facebook, Instagram, YouTube, TikTok et X sont les réseaux pour lesquels nous recevons le plus de signalements », explique Émilie*, juriste d’Unia. Lorsque ces discours sont illégaux, Unia envoie une demande de retrait des contenus auprès de la plateforme concernée. Ses ressources limitées ne lui permettent pas d’entamer systématiquement des actions en justice.

60 % des dossiers traités par Unia en 2024 pour des signalements de discours haineux en ligne ou dans les médias portaient sur des critères « raciaux » (dont antisémitisme), suivis par les critères de l’orientation sexuelle et des convictions religieuses ou philosophiques. Comme l’explique Émilie, « les séquelles sur les victimes de haine en ligne sont les mêmes que dans la vie réelle, et c’est pour cela que nous offrons un soutien aux personnes victimes de cyberharcèlement ».

Les journalistes sont particulièrement confrontés aux discours de haine en ligne et au cyberharcèlement, « avec des problématiques importantes autour du sexisme, du racisme, du complotisme », ajoute Audrey Adam, avocate en droit des médias et professeure invitée à l’IHECS, l’Institut des Hautes Études des Communications Sociales.

Repenser le cadre juridique

Le droit belge n’apporte, aujourd’hui, pas de réponse suffisante à ces questions. Les plateformes ne coopèrent pas toujours lorsqu’il s’agit d’identifier les auteurs de propos haineux. « Or, sans identification de l’auteur des propos, l’affaire s’arrête là », explique Audrey, qui plaide pour la mise en place de règles qui contraindraient les plateformes, sur décision d’un juge, à identifier les auteurs de ces contenus. Pour l’avocate, une autre piste serait de « mettre fin aux faux anonymats sur les réseaux sociaux en passant par un tiers détenant les données d’identification ».

Second problème, en Belgique, les textes écrits diffusés dans un espace public et constitutifs d’une infraction sont considérés comme des « délits de presse», et relèvent de la compétence de la cour d’assises. « Cette disposition profite aux haters, qui savent qu’ils ne seront pas poursuivis en cour d’assises», poursuit Audrey

Il existe cependant deux exceptions. Les discours de haine apparentés à du racisme ou à de la xénophobie relèvent, quant à eux, du tribunal correctionnel. Pour Émilie*, juriste d’Unia, une modification de l’article 150 de la Constitution permettrait de traiter d’autres critères de discrimination (âge, religion, orientation politique, etc.) devant un tribunal correctionnel.

À l’échelle européenne, la Commission s’est saisie du sujet dès 2020 en finançant l’European Observatory of Online Hate – EOOH, une plateforme de monitoring des discours haineux et de la désinformation dans les 24 langues officielles de l’UE, coordonnée par Textgain. L’entreprise a notamment développé un modèle de langage multilingue et des outils d’IA capables de détecter les contenus haineux. Ces outils permettent de documenter, quantifier et rendre visible la toxicité de certains contenus présents sur les plateformes.

Plus récemment, avec le Digital Services Act – DSA, l’Union européenne s’est attaquée à la problématique de la responsabilité des plateformes vis-à-vis des contenus qu’elles hébergent. « Le DSA cherche à introduire une régulation, à pousser les plateformes vers davantage de transparence sur le fonctionnement de leurs algorithmes. L’objectif est d’engager la responsabilité des plateformes et de les contraindre davantage à retirer les contenus problématiques », explique Audrey.

Le DSA constitue un pas important, mais pour Guy, « il manque une régulation encore plus forte qui impose aux plateformes des obligations de transparence et de responsabilité, et surtout des outils concrets pour mettre en œuvre ces obligations ».

Éducation et responsabilité

Pour Émilie, « limiter la visibilité des discours de haine en ligne relève d’une responsabilité collective. Cela implique d’agir à son niveau : signaler un contenu lorsqu’il est illégal, interpeler les modérateurs des pages, supprimer des commentaires qui dérapent sous ses propres publications, etc. » Unia effectue également un travail de sensibilisation et de formation sur ces sujets, auprès de la société civile, des services policiers et des entreprises. « Tout l’enjeu est de parvenir à préserver la liberté d’expression, fondamentale pour nourrir le débat au sein de la société, tout en interdisant les discours de haine », conclut Émilie.

Cette question soulève également celle de la confiance et de l’accès à l’information en général. Pour Audrey, « l’éducation aux médias est essentielle dès l’école, avec un travail à mener sur les sources : comment s’informer, avec quels titres, quels sont les financeurs des médias… C’est indispensable pour faire le tri dans la masse de contenus qui nous arrive chaque jour », conclut l’avocate.

*en raison de la sensibilité du sujet, l’experte préfère garder l’anonymat