La décision de Meta de remplacer son modèle de vérification des faits de longue date par des notes communautaires sur Instagram, Facebook et Threads aura un impact significatif sur les sociétés de modération de contenu, notamment Pesacheck et les sociétés d’externalisation des activités. Cela pourrait signifier des pertes d’emplois pour des centaines de sous-traitants au Kenya, au Nigeria, en Égypte et en Afrique du Sud, et potentiellement affecter la capacité à lutter contre la désinformation, ont déclaré mercredi à TechCabal au moins trois militants des droits civiques, des responsables de sociétés d’externalisation des activités et des professionnels des médias.
La décision d’abandonner la vérification des faits est également un coup dur pour l’Afrique, où la désinformation prospère. Au Kenya, WhatsApp, Facebook et Instagram comptent des millions d’utilisateurs qui sont exposés sans contrôle à des contenus manipulateurs sans vérification des faits. Les gouvernements de tous les pays utilisent la désinformation comme une arme depuis plus d’une décennie, ce qui pourrait bientôt devenir une crise, a déclaré à TechCabal Emmanuel Chenze, directeur opérationnel d’African Uncensored.
« La Tanzanie organise des élections cette année, l’Ouganda l’année prochaine et le Kenya viendra juste après, en 2027 », a déclaré Chenze.
« Pensez au désordre qu’étaient les réseaux sociaux en 2017, quand nous n’avions aucune des initiatives de vérification des faits qui existent aujourd’hui. Ces vidéos de Real Raila , vous vous en souvenez ? Nous avions Cambridge Analytica ici qui menait toutes sortes d’opérations psychologiques , et il n’y avait aucun mécanisme pour les contrer. »
Les opérations psychologiques de Cambridge Analytica, les vidéos trafiquées comme « Real Raila » et l’amplification algorithmique de la propagande. Les initiatives de vérification des faits ont contribué à contrer ce désordre, a déclaré Chenze.
La décision de mettre fin au modèle de modération actuel a été annoncée le 7 janvier en réponse aux allégations selon lesquelles le programme de vérification des faits, lancé en 2016, « devenait trop souvent un outil de censure ». Ce changement pourrait entraîner des pertes d’emplois pour les modérateurs de contenu africains qui surveillent les plateformes de Meta pour détecter les contenus préjudiciables. Il pourrait également se traduire par des pertes financières pour les sociétés de vérification des faits.
« Nous avons vu cette approche fonctionner sur X, où ils permettent à leur communauté de décider quand les publications sont potentiellement trompeuses et nécessitent plus de contexte », a déclaré mercredi Meta, qui compte plus de 3 milliards d’utilisateurs de médias sociaux sur ses plateformes. « Des personnes issues d’un large éventail de perspectives décident du type de contexte qu’il est utile que les autres utilisateurs voient. »
L’adoption des notes communautaires aura un impact sur les relations financières de Meta avec les partenaires de modération de contenu. Bien que l’entreprise ait travaillé avec des vérificateurs de faits tiers pour lutter contre la désinformation, elle n’a pas divulgué les détails financiers de ces partenariats.
« Il y a aussi d’autres conséquences, comme la perte d’une source de financement majeure pour les organisations de vérification des faits, notamment en Afrique, qui ne peuvent plus faire le travail qu’elles ont accompli ces dernières années », a ajouté Chenze. Son organisation, African Uncensored, a participé à la vérification des faits au Kenya.
Les entreprises comme PesaCheck pourraient avoir du mal à maintenir leurs opérations, ce qui pourrait limiter leur capacité à lutter contre les contenus préjudiciables et à protéger le discours public. Le financement de PesaCheck en 2023 a été mené par Meta avec 43 %, suivi de Tiktok, qui a contribué à hauteur de 18 %. En 2022, Meta a contribué à hauteur de 53,4 % au financement total de PesaCheck.
PesaCheck n’a pas répondu aux demandes de commentaires sur cet article.
Meta n’a pas immédiatement répondu à la demande de commentaires.
Le géant des réseaux sociaux finance également des vérificateurs de faits comme Full Fact au Royaume-Uni, qui a reçu 461 000 dollars en 2023 , ce qui en fait un contributeur clé. Meta a plus de 100 partenariats de vérification des faits dans le monde, ce qui signifie qu’il dépense au total des dizaines de millions de dollars par an.
Les vérificateurs de faits emploient des modérateurs formés qui jouent un rôle essentiel dans le traitement des questions nuancées. Ils risquent de perdre leur emploi si Meta se tourne vers un système axé sur les utilisateurs, a déclaré à TechCabal un propriétaire d’une société de médias basée à Nairobi qui a souhaité garder l’anonymat pour pouvoir s’exprimer librement.
Le contenu dépendra de la portée organique ou des promotions payantes, que Meta filtre fortement pour tout ce qui est politique. C’est une perspective sombre pour une région déjà aux prises avec la manipulation, a fait valoir Chenze.
« Il y a aussi le classement prioritaire que l’algorithme a donné au contenu de ces organisations et de leurs plateformes », a déclaré Chenze. « Cela n’existe plus, et ils devront soit compter sur la portée organique, soit payer Meta pour être promus. Et même pour de telles promotions, le contenu sera soumis aux restrictions de Meta. »
Bien que le système de notes communautaires soit d’abord lancé aux États-Unis, la modération de contenu de Meta a eu des résultats mitigés en Afrique, avec de nombreuses actions en justice. Plus de 180 anciens modérateurs affirment avoir signalé des contenus violents pour une petite rémunération, sans soutien psychologique de la part de leurs employeurs.
Malgré la rupture des liens avec les sociétés d’externalisation d’entreprise Sama et Majorel au Kenya en 2023 – qui ont toutes deux confirmé qu’elles quittaient la modération de contenu – Meta s’appuie sur elles pour l’étiquetage de l’IA. PesaCheck et Africa Check, deux organisations à but non lucratif ayant des bureaux au Kenya, vérifient les informations publiées en ligne et sur les plateformes de médias sociaux.
Avant de cesser la modération du contenu, Sama a révélé que cette pratique représentait moins de 4 % de son activité.
Sama est aujourd’hui spécialisé dans l’étiquetage des données d’IA pour des géants de la technologie comme Microsoft, Meta et Walmart. Cela permet aux réseaux sociaux de signaler les contenus préjudiciables en ligne.
Sama et Majorel ont été critiqués pour leur traitement et leur rémunération des travailleurs. 184 anciens modérateurs de contenu de Sama ont poursuivi Sama pour licenciement abusif et ont affirmé que l’entreprise d’externalisation n’avait pas réussi à les protéger du coût psychologique du signalement de contenu violent.
Le Kenya cherche à faire adopter une loi visant à tenir les entreprises d’externalisation responsables des réclamations des employés.
Meta a également été poursuivi en justice pour des manquements à la modération de contenu qui auraient alimenté les violences ethniques en Éthiopie. Les pétitionnaires, représentés par Mercy Mutemi de Nzili et Sumbi Advocates, réclament une interdiction des recommandations de contenu préjudiciable et un fonds d’indemnisation des victimes de 1,6 milliard de dollars de la part de Meta.
Le passage aux notes communautaires reflète l’approche de X pour 2023 et ressemble davantage à une ouverture politique à l’arrivée de Trump qu’à un changement de politique stratégique.
Les changements apportés par Meta se limitent aux États-Unis, laissant intact le cadre réglementaire plus strict de l’Union européenne. En vertu de la loi sur les services numériques de 2023, les plateformes comme Facebook doivent lutter contre les contenus illégaux, sous peine d’amendes pouvant atteindre 6 % du chiffre d’affaires mondial.
La Commission européenne, qui enquête sur le système de notes communautaires de X depuis fin 2023, a déclaré qu’elle surveillait de près la conformité de Meta. Meta prévoit d’introduire progressivement les notes communautaires aux États-Unis au cours des prochains mois et a promis des mises à jour du système tout au long de l’année.
