En février 2021, l’association LGBT+ Rights Ghana a publié des photos célébrant l’inauguration de son nouveau local communautaire. En l’espace de quelques heures, ces mêmes images circulaient sur les réseaux sociaux, accompagnées d’un récit différent. Des groupes et des individus opposés aux droits des LGBT+ ont affirmé que ce bureau servait de centre de « recrutement de personnes vers l'homosexualité ». Ce récit s'est rapidement propagé et, en quelques jours, la police a fait une descente dans le bâtiment. Les membres de l'équipe et d'autres personnes queer ont été dévoilées au grand jour. Certaines ont été contraintes de fuir le pays.
Une personne s'est souvenue par la suite : « J'ai été dévoilé alors que je n'étais pas prêt. » Le dévoilement forcé n'est pas un préjudice abstrait, c'est une forme de violence numérique qui prive les personnes de leur sécurité, de leur autonomie et du contrôle de leur propre vie. Les images du bureau étaient réelles. Pourtant, le récit construit autour d'elles était inventé. Les plateformes sociales numériques ne se sont pas souciées de cette invention ; elles ont amplifié l’indignation, récompensant l’engagement négatif par une plus grande portée. Cette incapacité à faire la distinction entre l’information et l’incitation est exactement ce qu’elles ont été conçues pour optimiser.
C'est là que s'inscrit notre nouvelle étude, intitulée « Les algorithmes de la violence ». Il ne s'agit pas d'un simple recueil d'incidents isolés, mais d'une analyse structurelle de la manière dont la désinformation, la conception des plateformes et l'opportunisme politique se conjuguent pour créer un environnement numérique dans lequel les personnes queer africaines sont exposées à des risques particuliers. Nos recherches menées au Ghana, au Nigeria, au Sénégal, en Côte d’Ivoire et au Togo, nos entretiens avec des défenseurs des droits des personnes LGBTQI+ et des experts du numérique, l’analyse de plus de 85 000 publications sur les réseaux sociaux, les renseignements open source, la cartographie des réseaux et les tests visant à déterminer comment les principaux modèles d’IA interprètent le langage queer africain ont tous confirmé ces préjudices.
Au Nigeria, 72 % des propos en ligne que nous avons analysés reflétaient un sentiment négatif à l’égard des personnes LGBTQI+. En Côte d’Ivoire, ce chiffre atteignait 95 %. Cela ne signifie pas que les sociétés d’Afrique de l’Ouest soient uniformément hostiles, mais l’environnement numérique est imprégné d’hostilité.
Les réseaux sociaux sont conçus pour maximiser l'engagement. Les contenus qui suscitent l'indignation, la peur et le dégoût se propagent plus loin et plus vite que tout autre type de contenu. Dans tous les pays étudiés, la désinformation anti-LGBTQI+ a systématiquement surpassé les contre-discours en termes de portée et de visibilité.
Lorsque nos chercheurs ont évalué si les principaux systèmes d’IA étaient capables de reconnaître les termes codés de la communauté LGBTQI+ utilisés en Afrique de l’Ouest, l’IA de Meta et Grok ont largement échoué face à des expressions telles que « Woubi », « Trumu Trumu », « Supi Supi » et « Lesbobo ». La plupart des termes ont été renvoyés avec des significations littérales ou « inconnues », dépouillés de leur contexte social. Les implications de cette situation sont frappantes. Les systèmes de modération utilisés sur les plateformes les plus dominantes du continent africain ne sont pas capables de reconnaître le langage par lequel les atteintes aux personnes queer africaines sont organisées, ce qui crée un cercle vicieux : ce que vous ne pouvez pas voir, vous ne pouvez pas le modérer. Ce que vous ne pouvez pas modérer, votre système l’autorisera.
Il s'agit davantage d'un colonialisme algorithmique que d'une simple lacune technique. En effet, l'exclusion systématique des réalités linguistiques et culturelles africaines des ensembles de données qui sous-tendent la gouvernance numérique mondiale est bien réelle. Lorsqu'un enfant ghanéen muni d'un smartphone comprend « Trumu Trumu » mais qu'une plateforme mondiale ne le comprend pas, le problème ne réside pas dans la langue. Le problème, c'est de savoir quelle langue est considérée comme méritant d'être comprise.
Le double vide qui maintient l’ensemble.
Ce système est entretenu par un double vide de gouvernance. D'un côté, on trouve des plateformes mondiales qui ne peuvent pas, ou choisissent de ne pas, investir dans une modération efficace dans les différentes langues et contextes africains, bien qu'elles déploient des ressources considérables sur les marchés occidentaux. De l'autre, on trouve des cadres réglementaires nationaux qui manquent souvent de moyens, de volonté politique ou d'indépendance et qui, dans certains cas, tirent profit du climat numérique hostile qu'ils contribuent à créer.
Entre la négligence des entreprises et la complicité de l'État, la haine se propage en toute impunité. Les personnes LGBTQI+ perdent leur sécurité, leurs moyens de subsistance et, dans de trop nombreux cas, leur logement et leur vie. Et les responsables échappent toujours à toute forme de responsabilité.
Il ne s'agit pas d'une lacune dans la gouvernance, mais plutôt d'un choix conceptuel. Les systèmes algorithmiques ne sont pas de simples relais passifs d'informations. Ils déterminent ce qui devient visible, ce qui est jugé crédible et qui est protégé. Lorsque ces systèmes amplifient systématiquement des discours qui mettent en danger des communautés déjà marginalisées, ils deviennent des instruments d'exclusion plutôt que des outils de connexion.
Les personnes queer d'Afrique de l'Ouest méritent des espaces numériques qui ne les trahissent pas. Les mouvements méritent des plateformes qui ne tirent pas profit de leur persécution. Et les débats sur les droits numériques en Afrique doivent être menés par les communautés qui subissent chaque jour les conséquences des défaillances algorithmiques.
