BIC GENÈVE, le 7 juillet 2022 – Pour relever le défi de l’augmentation des discours de haine en ligne, il faut une collaboration beaucoup plus étroite entre le secteur technologique, le gouvernement et les organisations de la société civile, déclare la Communauté internationale bahá’íe (BIC). C’était le thème d’une récente table ronde organisée par le bureau de Genève du BIC dans le cadre du sommet RightsCon, un forum international annuel sur les droits de l’homme à l’ère numérique.
Le forum du BIC a réuni le rapporteur spécial des Nations unies sur la liberté de religion ou de conviction, Ahmed Shaheed, une administratrice du conseil de surveillance de Meta, Kristina Arriaga, et une chercheuse de Human Rights Watch, Tara Sepehri Far, pour explorer les défis de la lutte contre les discours de haine en ligne dans le contexte de la campagne de désinformation contre les bahá’ís d’Iran.
« Le discours de haine crée en fin de compte une culture de la haine, où les groupes ne sont pas considérés comme des membres à part entière de la société, où la cohésion sociale est érodée et où la division peut s’enraciner, ce qui a un impact sur tous les aspects des relations entre les individus, les communautés et les institutions gouvernementales », a déclaré Simin Fahadej, une représentante du Bureau de Genève.
Mme Arriaga, membre du conseil de surveillance de la société technologique Meta, qui exploite Facebook, Instagram et WhatsApp, a expliqué que si les médias sociaux sont un instrument important pour les défenseurs des droits de l’homme, ils peuvent également être utilisés pour diffuser de la propagande haineuse, comme dans le cas des bahá’ís d’Iran.
La réponse de Meta, a déclaré Mme Arriaga, a été de mettre en place un conseil de surveillance qui contrôle le contenu et définit les politiques de modération du matériel. Ce conseil a également commencé à travailler avec des groupes et des communautés ciblés afin que les discours de haine puissent être signalés et surveillés.
Malgré ces efforts, les participants ont noté que la modération du contenu, qu’elle soit manuelle ou algorithmique, est extrêmement difficile. « Il n’est pas facile de savoir où tracer la ligne en matière de discours de haine », a précisé Mme Sepehri Far.
Elle a ajouté : « Les plateformes en ligne doivent investir davantage dans les ressources permettant de comprendre non seulement le contenu en langue [non anglaise], mais également le contexte sociétal. »
Mme Arriaga a abondé dans ce sens, affirmant que « l’ampleur du problème […] rend nécessaire pour la communauté des droits de l’homme d’investir [du temps] dans la communauté technologique pour apprendre à […] travailler avec des algorithmes et à injecter des connaissances sur les droits de l’homme dans le secteur technologique ».
Les panélistes ont noté que, bien que les discours de haine cherchent à créer des divisions entre les populations, la création de forums tels que celui créé par le BIC élève les discussions au niveau des principes et peut conduire à une collaboration plus étroite entre différents secteurs pour s’attaquer aux problèmes.
Les discussions ont également mis en évidence l’idée que, malgré le rôle important que les plateformes en ligne et les entités médiatiques doivent jouer dans la lutte contre les discours de haine, le problème ne peut pas être résolu uniquement par des solutions techniques.
« [Il existe] toute une série de normes, de façons de se comporter, de moyens de s’engager et de communiquer, incluant le respect mutuel, qui créent le type d’environnement dans lequel les gens peuvent s’épanouir », a déclaré M. Shaheed.
-Kristina Arriaga, membre du conseil de surveillance de Meta
Mme Arriaga a ajouté : « Nous pouvons avoir tous les bons algorithmes et les bonnes lois… mais en fin de compte, la façon dont nous finissons par nous comporter en tant qu’êtres humains est liée à la réalité vécue de notre culture.
« C’est pourquoi ce que les bahá’ís font pour élever [les conversations] et faire participer les autres est si important. En fin de compte, ce qui se passe en ligne est le reflet de ce qui se passe dans la vie réelle. Et nous ne pouvons y remédier que si nous… changeons notre culture. »
Se référant à l’événement, Mme Fahandej déclare : « Le forum a représenté un moment important pour favoriser une vision partagée entre les acteurs sociaux concernés par la technologie et l’amélioration de la société. Le BIC prévoit d’organiser à l’avenir des événements sur ce thème afin d’améliorer encore les relations multisectorielles. »