Mon ami Sands Fish étudie la science des données au MIT et, comme la plupart des gens de son âge, il est sur Facebook. Mais, cet été, il a dû brusquement quitter le réseau social après avoir reçu un message automatique lui demandant de prouver son identité ou, à défaut, il verrait son compte suspendu. Le fait est que Facebook oblige ses utilisateurs à s’inscrire sous leur «vrai nom». La rareté de ce prénom, Sands, qui est plus combiné avec ce nom de famille, venait visiblement d’affoler les robots vérificateurs de Facebook et voilà que mon ami allait avoir sept jours pour envoyer la copie d’une quelconque pièce d’identité officielle s’il ne voulait pas perdre l’accès à son compte. Après quelques semaines à ronger son frein, Sands s’est finalement plié aux exigences de Facebook et leur a envoyé un scan de son permis de conduire, prouvant que «Sands Fish» n’était pas un pseudonyme humoristique à connotation marine (Sands Fish peut vouloir dire «poisson des sables», NDT), mais bien son nom de naissance. Son compte fut réactivé.
À plusieurs milliers de kilomètres de là, au Kerala, une femme nommée Preetha G. allait vivre une expérience similaire. Écrivaine et féministe engagée, Preetha est suivie par 27.000 personnes sur Facebook. Elle y intervient fréquemment pour débattre de questions touchant au genre et à la politique, et fait partie de ces nombreuses femmes indiennes à voir dans la plateforme un espace d’expression que leur dénie la vie publique de leur pays. Pour Inji Pennu, blogueuse née au Kerala et vivant désormais en Floride, Facebook est «un endroit où nous pouvons nous retrouver entre femmes et dire au monde “je ne veux pas que des hommes me tripotent quand je vais à l’école”, “je ne veux pas que des hommes me disent quel travail je dois faire”, “je ne veux pas que mes parents m’offrent à un homme en mariage”».
L’été dernier, à la fin juillet, un homme politique du Kerala propose une loi interdisant aux femmes de mettre des jeans. Preetha est indignée. Elle en parle sur Facebook, organise la riposte. Puis les trolls arrivent avec leur cortège d’intimidations et d’insultes. Ces joyeusetés, elle en a l’habitude. Par contre, la nouveauté cette fois-ci, c’est que son compte est désactivé et qu’elle reçoit le même message arrivé chez Sands quelques semaines auparavant.
À l’instar de Sands, Preetha est accusée d’avoir enfreint la règle du «vrai nom». Mais contrairement à Sands, ce n’est pas un robot qui l’a dénoncée. C’est un autre utilisateur –probablement un de ses harceleurs. Et contrairement à Sands, on ne lui offre aucun sursis, aucun temps de réaction. Sans le moindre avertissement, l’accès à Facebook lui est interdit du jour au lendemain. Dans un lieu où elle était auparavant libre de s’exprimer, Preetha est réduite au silence. La situation allait encore s’aggraver.
Règlement identitaireUne page «Preetha la prostituée» apparaît sur Facebook. On y voit des photos trafiquées de Preetha où elle est court vêtue, où elle boit et fume –autant de choses pour lesquelles une femme peut avoir de gros problèmes dans cette région du monde. Sur une autre page, des commentateurs menacent de s’en prendre à son fils.
Dans «la vraie vie», Preetha ne mentionne pas son nom de famille, marqueur social très lourd qui indique la caste dont elle est originaire
Sans accès possible à Facebook, Preetha ne peut réagir à ces agressions. D’autres femmes se mettent à la défendre et elles sont affligées des mêmes maux. Quand Inji Pennu dénonce ces agissements, elle reçoit un message l’intimant à «fermer sa gueule». «On va t’étrangler sur Miami Beach», conclut le message. Preetha ne peut rester plus longtemps sans rien faire. Elle décide d’envoyer un scan de sa carte d’identité à Facebook.
Le problème, c’est que Preetha n’avait même pas enfreint la directive du «vrai nom». Comme l’exige Facebook, elle apparaissait sous sa «véritable identité», c’est-à-dire le nom qu’elle utilisait dans la vie de tous les jours. Et elle n’était pas la seule. Des milliers d’utilisateurs de Facebook, que ce soit des Amérindiens, des religieux ou des personnes transgenres ont souvent constaté à leurs dépens que cette exigence de «vrai nom» n’est pas assez «véritable» ou «authentique» pour prendre en compte leur identité ou leur parcours de vie incontestablement réels. Depuis des années, les communautés sont nombreuses à porter régulièrement ce problème à l’attention de Facebook. En vain.
Dans «la vraie vie», Preetha ne mentionne pas son nom de famille, qui indique la caste dont elle est originaire. Ce «nom de caste» est un marqueur social très lourd. Même si les castes ont été techniquement abolies en Inde, il s’agit toujours d’un système de hiérarchie sociale extrêmement puissant. Lorsque Facebook a réactivé le compte de Preetha, il allait afficher son nom complet, y compris son nom de caste. Certaines castes sont plus vulnérables que d’autres. Mes collègues sud-asiatiques m’ont expliqué qu’une telle mention est suffisante pour que vos ennemis puissent vous menacer de la manière la plus grave qui soit en toute impunité. De même, la police fait généralement la sourde oreille lorsqu’elle reçoit une plainte d’une personne issue d’une caste inférieure.
Après trois semaines de requêtes urgentes et autres réclamations envoyées à Facebook, et d’appels téléphoniques passés auprès d’employés du réseau social par des membres de Global Voices, où Inji et moi-même travaillons, Preetha allait voir son nom rétabli comme il lui sied.
Contrôle au facièsMais, pour elle, l’histoire est loin d’être terminée. Elle ne fait même que commencer, car internet a la mémoire longue. Facebook a fait passer la liberté d’expression de l’agresseur devant celle de l’agressée
La personne qui a signalé Preetha à l’aide du bouton dédié y a vu une tactique, un mécanisme pour la réduire au silence. Ce qui a fonctionné. Facebook a fait passer la liberté d’expression de l’agresseur devant celle de l’agressée. J’ai ensuite appris que Facebook n’étudie pas les signalements reçus en fonction des événements récents et des échanges entre les parties concernées. Par exemple, si la personne ayant signalé Preetha est la même qui a créé la page «Preetha la prostituée», cela n’a aucune incidence sur l’action mise en œuvre par Facebook. Quand le réseau social reçoit un signalement pour violation de son règlement identitaire, il demande automatiquement à la personne signalée de prouver son identité.
Bon nombre des techniques de modération de Facebook reposent soit sur des technologies d’apprentissage automatique, soit sur les signalement des membres de la «communauté» Facebook. Mais c’est un peu comme si McDonald’s se déclarait «communauté de mangeurs de hamburgers». Rien de spécifique n’unit les usagers de Facebook, si ce n’est la joie basique et fondamentalement neutre que peuvent ressentir des êtres humains lorsqu’ils se relient les uns aux autres. Et Facebook n’a pas de conditions d’utilisation, mais des «standards de la communauté», une formule qui laisse entendre que nous sommes tous unis ou que ces standards ont naturellement évolué d’un quelconque accord commun quant à ce qui est juste et bon sur Facebook. C’est dans ces «standards de la communauté» que les utilisateurs apprennent que, «lorsque les personnes expriment leur avis et agissent en utilisant leur véritable identité et leur réputation, notre communauté devient davantage responsable».
Le traitement réservé à Sands et Preetha est souvent comparé aux contrôles aléatoires (et poussés) que la police peut effectuer dans les aéroports ou au vendeur d’une supérette qui vous demande votre carte d’identité pour vérifier que vous avez bien l’âge légal d’acheter de l’alcool. Mais, en réalité, la chose ressemble davantage à un contrôle au faciès ou à un quelconque profilage. La volonté de Preetha de faire disparaître un marqueur social –c’est-à-dire l’indice de sa valeur relative en tant qu’être humain aux yeux d’un système social archaïque– a été foulée aux pieds par Facebook. Si l’agression est venue d’un autre utilisateur, c’est bien l’ignorance culturelle de Facebook qui, au départ, l’a rendue possible. Et quand Preetha a voulu expliquer au réseau social qu’il avait fait une erreur, il a attendu bien trop longtemps avant de la corriger.
Contrôle socialLa personne qui a signalé Preetha à l’aide du bouton dédié y a vu une tactique pour la réduire au silence. Ce qui a fonctionné
Il existe des cas où, évidemment, le «vrai nom» d’une personne renforce sa responsabilisation. Facebook a de nombreuses raisons de vouloir conserver cette directive, et la question de la responsabilité des propos de ses utilisateurs en est une. Reste que je suis persuadée que la motivation de cette contrainte est bien davantage d’ordre commercial. Vu son nombre incalculable d’utilisateurs, Facebook serait bien mal en peine de vérifier leur identité à leur inscription, mais ne pas faire respecter une telle directive mettrait aussi à mal son modèle économique. Nous savons tous que Facebook tire le gros de ses revenus des informations personnelles qu’il revend aux annonceurs. Et ce qui rend ces informations si précieuses et si puissantes dans le secteur économique mondial des données, c’est qu’elles sont a priori très étroitement liées à de «véritables» personnes. Comme Facebook ne peut vérifier formellement l’identité de tous ses utilisateurs, il met en œuvre un contrôle social où se mélangent les performances des machines et les signalements des humains. Si quelques rares utilisateurs peuvent quitter Facebook parce qu’ils ne sont pas d’accord avec ses directives, la grande majorité préfère s’y plier par crainte de perdre tous les avantages que Facebook peut leur offrir.
Une situation qui défie autant de choses que nous avons pris l’habitude de croire –la neutralité des algorithmes, l’intelligence des foules, le pouvoir de la liberté d’expression.
Vous ne vous sentez peut-être pas concerné par l’histoire de Preetha, mais celle de Sands pourrait sans doute davantage être la vôtre. La règle du «vrai nom» ne vous créera peut-être jamais de désagrément. Sans doute qu’elle ne vous fera jamais craindre pour votre vie. Mais il est évident que les technologies et les directives de Facebook ont encore beaucoup de chemin à parcourir pour comprendre et assumer la responsabilité qui est la leur quand elles prétendent imposer aux choses et aux gens du monde leur «réalité».
Le 30 octobre, le réseau social a fait savoir que sa règle du «vrai nom» allait être assouplie et qu’une version test devrait voir le jour en décembre 2015. Facebook veut ainsi laisser la possibilité à ses utilisateurs d’expliquer pourquoi leur situation exige l’usage d’un pseudo lors de l’étape de confirmation de leur nom. Et les personnes signalant un profil Facebook comme non conforme à la règle du «vrai nom» devront expliquer les raisons de ce signalement.
Ellery Biddle
Mon ami Sands Fish étudie la science des données au MIT et, comme la plupart des gens de son âge, il est sur Facebook. Mais, cet été, il a dû brusquement quitter le réseau social après avoir reçu un message automatique lui demandant de prouver son identité ou, à défaut, il verrait son compte suspendu. Le fait est que Facebook oblige ses utilisateurs à s’inscrire sous leur «vrai nom». La rareté de ce prénom, Sands, qui est plus combiné avec ce nom de famille, venait visiblement d’affoler les robots vérificateurs de Facebook et voilà que mon ami allait avoir sept jours pour envoyer la copie d’une quelconque pièce d’identité officielle s’il ne voulait pas perdre l’accès à son compte. Après quelques semaines à ronger son frein, Sands s’est finalement plié aux exigences de Facebook et leur a envoyé un scan de son permis de conduire, prouvant que «Sands Fish» n’était pas un pseudonyme humoristique à connotation marine (Sands Fish peut vouloir dire «poisson des sables», NDT), mais bien son nom de naissance. Son compte fut réactivé.