Technologie de surveillance pour contrer la haine en ligne
Le gouvernement brésilien a récemment introduit une plateforme novatrice nommée Plateforme du Respect, destinée à repérer et signaler les contenus en ligne jugés haineux ou trompeurs contre les personnes LGBTQ+. Développée avec l’ONG Aliança Nacional LGBTI+, cette initiative est bien accueillie par les militants pour les droits queer, même si elle suscite des préoccupations sur ses possibles répercussions sur la liberté d’expression.
Aletheia : Intelligence artificielle pour la vigilance
Présentée le 16 septembre par le ministère brésilien des Droits de la personne, cette initiative repose sur Aletheia, un outil d’intelligence artificielle qui analyse en permanence divers espaces numériques, tels que les réseaux sociaux, les blogs et les médias, pour détecter les propos dénoncés comme désinformation ou discours haineux. L’IA cible notamment les contenus qui remettent en question les identités de genre ou les réalités transgenres.
Cette entreprise reçoit partiellement un soutien financier de la députée trans Erika Hilton, figure emblématique de la représentation LGBTQ+ au Parlement brésilien. Selon Jean Muksen, coordinateur du projet, Aletheia a été développée sur 18 mois par une équipe pluridisciplinaire comprenant des juristes, communicateurs et journalistes. L’IA est conçue pour comprendre les subtilités de la langue portugaise, y compris les nuances d’ironie et de sarcasme souvent présentes dans les discours transphobes ou homophobes.
De la détection au recours juridique
Lorsqu’un message est identifié par l’IA, il est archivé automatiquement dans une base de données. Un avocat ou une avocate de l’ONG partenaire procède ensuite à une vérification manuelle. Si le contenu est conforme aux critères de désinformation ou de discours haineux, il peut être communiqué aux autorités judiciaires appropriées, ouvrant la voie à des actions pénales potentielles.
Pour Jean Muksen, l’ambition est explicite : « obliger légalement les auteur·e·s de propos diffamatoires ou discriminatoires à rendre des comptes ». Il insiste sur les répercussions tangibles de ces discours en ligne : « La haine en ligne engendre des conséquences réelles, elle favorise les agressions, les suicides et les politiques d’exclusion. Le Brésil se devait d’agir. »
Un outil controversé entre protection et censure
Saluée par de nombreuses associations LGBTQ+ comme un outil essentiel de protection, la plateforme suscite également des critiques, notamment de la part de voix conservatrices qui la considèrent comme une menace pour la liberté d’expression.
Isabella Cêpa, militante connue pour ses critiques envers les personnes trans, a fermement condamné cette démarche dans The European Conservative. Elle déclare : « L’utilisation de l’intelligence artificielle pour traquer les dissidents politiques est quelque chose que l’on croyait réservé à d’autres régimes. Aujourd’hui, la société brésilienne doit craindre d’être sanctionnée pour des propos aussi simples que ‘deux et deux font quatre’. »
Ces réactions soulignent une tension mondiale persistante : comment réguler les discours haineux sans restreindre indûment la liberté d’expression, surtout lorsqu’il s’agit d’algorithmes évaluant ces discours publics ?
Contexte juridique contre les discriminations
Depuis 2019, la Cour suprême fédérale du Brésil considère la discrimination envers les personnes LGBTQ+ comme une forme de racisme, une infraction équivalente aux discours antisémites ou racistes. Par ailleurs, la transphobie est spécifiquement criminalisée dans le Code pénal brésilien.
Ces avancées législatives, significatives à l’échelle de l’Amérique latine, interviennent dans un contexte national inquiétant : le Brésil demeure l’un des pays présentant les taux les plus élevés d’assassinats de personnes trans et queer, selon l’ONG Transgender Europe.
Une initiative pionnière aux impacts mondiaux
Avec cette plateforme, le Brésil se positionne comme l’un des premiers pays à utiliser l’intelligence artificielle pour protéger les minorités LGBTQ+ contre la haine en ligne.
Reste à voir si cet équilibre entre protection des minorités et respect de la liberté d’expression pourra être maintenu. Si le projet évite les dérives autoritaires, il pourrait inspirer d’autres pays confrontés à l’essor des discours anti-LGBTQ+ en ligne. Des réflexions similaires sont déjà en cours en Europe, en Amérique latine et au Canada, notamment à travers les projets de loi C-63 et C-11, qui visent à encadrer plus efficacement la régulation numérique.
French 
Italian