Dans les coulisses de la lutte contre les contenus haineux en Allemagne

Jusqu’ici, les sociétés Internet ont bénéficié de situations favorables qui les déchargeaient de leurs responsabilités quant aux propos de leurs utilisateurs, une approche qui a permis au Web de devenir l’environnement créatif et marquant que nous connaissons. Toutefois, les propos haineux et le harcèlement ont prospéré en ligne et les efforts déployés par des plateformes internationales comme Facebook, YouTube et Twitter pour y répondre manquent de cohérence et se révèlent inefficaces.

En 2018, l’Allemagne (qui compte près de 83 millions d’habitants) s’est distinguée à ce sujet sur la scène internationale par l’adoption d’une loi qui vise à réduire les discours de haine et la diffamation en ligne. La nouvelle législation prévoit des amendes élevées pour les entreprises de médias sociaux populaires si celles-ci ne retirent pas les contenus manifestement illégaux dans un délai de 24 heures suivant la notification et les autres contenus illégaux dans un délai de sept jours maximum.

Certains politiciens ont salué la loi (NetzDG), présentée comme une mesure importante pour sanctionner les discours haineux, mais d’autres s’y sont vivement opposés. Elle a été largement critiquée par les groupes de défense des droits numériques, préoccupés par les menaces qui pèsent sur la liberté d’expression et par les suppressions de contenus trop larges. À l’étranger, les gouvernements qui limitent la liberté d’expression l’ont accueillie avec enthousiasme. La Russie, le Venezuela et le Kenya font partie des pays qui se sont empressés d’élaborer leur propre version de la loi.

En Allemagne, un an après sa mise en œuvre, la nouvelle loi ne semble ni particulièrement efficace pour résoudre les problèmes qu’elle ciblait, ni aussi restrictive que beaucoup le craignaient. Cependant, sans une meilleure connaissance des types d’avertissements envoyés aux plateformes, ainsi que des méthodes et lignes directrices adoptées par celles-ci pour les traiter, difficile d’évaluer l’impact réel.

La loi allemande a été conçue pour obliger les entreprises à modérer le contenu et à le supprimer rapidement. L’Office fédéral allemand de la justice peut infliger des amendes allant jusqu’à 50 millions d’euros (56,3 millions de dollars) aux sociétés qui ne répondent pas aux demandes de retrait légitimes des utilisateurs ou des autorités. Après l’adoption de la loi, Facebook et Twitter ont déclaré qu’ils avaient engagé des modérateurs supplémentaires en Allemagne pour examiner les contenus signalés comme problématiques par les utilisateurs ou les algorithmes.

Pour se conformer à la loi, Facebook, Google+, YouTube et Twitter ont publié en juillet 2018 et décembre 2018 des rapports qui détaillent les méthodes de signalement proposées aux utilisateurs et le traitement de ces plaintes. Jusqu’à présent, le nombre de contenus signalés supprimés par les plateformes semble faible par rapport au nombre de plaintes reçues.

Twitter, par exemple, a déclaré avoir reçu 256 462 signalements entre juillet et décembre 2018 et n’avoir donné suite qu’à 9 % de ceux-ci. Facebook a communiqué avoir recueilli 1048 plaintes et n’avoir retiré que 35,2 % du contenu signalé. Nous ne possédons pas d’indications relatives à la teneur des signalements en questions ou aux raisons pour lesquelles un si grand nombre n’ont pas été pris en considération. Les chercheurs indépendants n’ont pas accès aux données brutes et il n’existe pas de processus standardisé d’établissement de rapports pour les plateformes. Les chiffres peuvent par conséquent être interprétés sous tous les angles.

« Pour mieux comprendre comment les entreprises déterminent quels sont les propos acceptables et inacceptables en ligne, une compréhension plus détaillée des décisions au cas par cas est nécessaire », ont indiqué des chercheurs du Alexander von Humboldt Institut für Internet und Gesellschaft en Allemagne, en réaction à ces rapports. Ils demandent une plus grande transparence et une meilleure connaissance pour comprendre les effets de la loi : « Qui demande la suppression de contenus et dans quelle mesure l’utilisation des systèmes d’établissement de rapports est-elle considérée comme stratégique ? Comment les mécanismes de signalement affectent-ils le comportement des utilisateurs ? »

Bien que la plupart des règles relatives au contenu se fondent sur les conditions d’utilisation, les règlements et d’autres politiques utilisateurs, les plateformes communiquent relativement peu sur la façon dont elles appliquent ces règles en matière de contenu interdit.

En Allemagne, l’occasion pour que ce débat controversé et politisé sur les contenus préjudiciables débouche sur une meilleure connaissance et des solutions efficaces ne s’est pas encore concrétisée. Une plus grande transparence sur les sources de discours haineux et violents en ligne, sur les personnes qui les signalent et sur la façon dont les intermédiaires abordent les suppressions de ces contenus constituerait une étape importante pour comprendre comment favoriser un Internet plus sain pour tous.