Que faire face à la censure de plus en plus flagrante sur internet ?

Les entreprises technologiques populaires (Google, Facebook et d’autres) ont fortement protégé la liberté d’expression sur internet, une politique largement associée aux normes juridiques des États-Unis. Jusqu’à ce que des pays bien-pensants affirment qu’il faut réguler le contenu parce que les internautes ne seraient pas assez grand pour différencier le bon grain de l’ivraie.

Ces pays affirment que la censure est nécessaire pour éviter les fake news. Or peu à peu, à des fins politiques, ce sont eux qui diffusent leurs propres fake news.

Les dirigeants des entreprises technologiques peuvent réduire les risques pour la liberté d’expression :

1. en insistant sur des définitions claires du « discours de haine »
2. en obligeant les régulateurs à rendre des comptes devant le public
3. en favorisant une transparence détaillée des actions du gouvernement
4. en nommant des médiateurs

Pendant une grande partie de son histoire, la Silicon Valley s’est faite la championne des valeurs du premier amendement

Lorsque les plateformes internet ont interdit certains types de discours, elles ont procédé avec prudence, en privilégiant une approche de la liberté d’expression à l’américaine. Plus récemment, les entreprises technologiques ont adapté leurs politiques d’expression aux normes européennes plutôt qu’aux normes américaines. Les forces ordinaires du marché ne sont pas à l’origine de ce changement. C’est plutôt la menace d’une législation qui a provoqué ce changement.

À la suite des attentats terroristes de fin 2015, les régulateurs de l’Union européenne ont averti les entreprises technologiques qu’elles s’exposeraient à des amendes d’un montant prohibitif et à des sanctions pénales potentielles si les contenus extrémistes et haineux n’étaient pas rapidement supprimés. En réponse, les plateformes de réseaux sociaux dominantes ont modifié leurs politiques d’expression pour interdire les contenus extrémistes d’une manière qui risque d’entraîner une dérive de la censure.

Les législateurs européens ont déjà fait pression sur les entreprises pour qu’elles interdisent les « fake news » afin de contribuer à la lutte contre l’expression extrémiste. Il ne fait aucun doute qu’ils feront pression pour que soient supprimés bien d’autres contenus, notamment les opinions politiques dissidentes et les commentaires culturels.

Les entreprises peuvent et doivent adopter des protections conçues pour contenir les excès du gouvernement et les dérives de la censure pour le bien de la liberté d’expression. La dérive de la censure peut être contenue grâce :

• à des définitions claires
• une responsabilité solide
• une transparence détaillée
• la surveillance d’un médiateur

Comme l’illustre la lutte d’Apple avec le gouvernement américain au sujet du chiffrement, les entreprises technologiques bénéficient du soutien du public lorsqu’elles défendent les libertés fondamentales.

Des champions de la liberté d’expression aux censeurs

Il y a 15 ans, le sénateur Joseph Lieberman (D-CT) a publiquement réprimandé YouTube pour son refus de retirer des vidéos d’entraînement terroriste. Les pressions exercées par le sénateur n’ont pas porté leurs fruits, car l’entreprise a privilégié la protection de la liberté d’expression des utilisateurs plutôt que sa popularité auprès de la Capitale.

A l’époque, l’entreprise savait que le Congrès ne pouvait pas faire grand-chose étant donné les solides protections du premier amendement américain contre la plupart des réglementations fondées sur le point de vue. Longtemps après l’épreuve de force avec le sénateur Lieberman, les valeurs de la liberté d’expression à l’américaine ont continué à guider les politiques des entreprises technologiques quant à l’expression autorisée sur leurs plateformes. Les CGU protégeaient généralement la capacité des utilisateurs à exprimer des opinions impopulaires tout en interdisant les abus ciblés qui réduisaient les individus au silence.

Mais au fur et à mesure, l’engagement de la Silicon Valley en faveur de la liberté d’expression s’est érodé

L’élément déclencheur a été la vague d’attentats terroristes à Paris et à Bruxelles à la fin de 2015. Les régulateurs européens ont reproché à la Silicon Valley de permettre aux groupes extrémistes d’accéder à des recrues potentielles. Ils ont averti que si les plateformes en ligne ne garantissaient pas le retrait rapide des discours extrémistes ou haineux, elles s’exposeraient à des amendes et à des sanctions pénales d’un coût prohibitif.

Les menaces des régulateurs n’étaient pas vaines : dans l’UE, contrairement aux États-Unis, il n’y a pas de forte présomption contre les restrictions de la liberté d’expression.

Pour se prémunir contre la menace d’une réglementation européenne, les entreprises technologiques ont renoncé à une position ferme en faveur de la liberté d’expression. En mai 2016, Facebook, Microsoft, Twitter et YouTube ont signé un accord avec la Commission européenne visant à « interdire la promotion de l’incitation à la violence et des comportements haineux “ (source).

L’accord définit les ”comportements haineux » comme des discours incitant à la violence ou à la haine à l’encontre de groupes protégés. En vertu de cet accord, les entreprises se sont engagées à supprimer dans les 24 heures les discours haineux signalés qui enfreignent les CGU. La Commission européenne s’est vu accorder le droit d’examiner le respect de l’accord par les entreprises.

Le 5 décembre 2016, les entreprises ont annoncé leur intention de créer une base de données industrielle de « hachages » des contenus extrémistes interdits sur leurs plateformes. La technologie des hashs permet de signaler et de supprimer immédiatement les contenus interdits sur les plateformes des entreprises participantes. Selon l’annonce, d’autres entreprises ont accès à la base de données. La Commission européenne a salué la base de données de l’industrie comme la « prochaine étape logique » d’un « partenariat public-privé » pour lutter contre l’extrémisme.

Cette base de données industrielle montre à quel point le débat s’est orienté vers une surveillance gouvernementale du discours numérique

Quelques mois auparavant, les dirigeants de l’industrie technologique rejetaient les appels à la création d’une telle base de données au motif que l’expression « matériel extrémiste violent » était malléable et que les gouvernements ne manqueraient pas de faire pression sur les entreprises pour qu’elles incluent des hachages qui réduiraient au silence bien plus que la propagande terroriste.

Après une série d’attaques terroristes à Londres en 2017, la Première ministre britannique Teresa May et le président français Emmanuel Macron ont menacé d’amendes salées les entreprises qui ne retireraient pas la propagande extrémiste des plateformes internet. Peu de temps après, Google a annoncé un plan en quatre parties pour lutter contre la propagande terroriste, qui comprenait :

1. l’utilisation accrue de la technologie pour identifier les vidéos liées au terrorisme
2. l’embauche de modérateurs de contenu supplémentaires
3. la suppression de la publicité sur les vidéos répréhensibles
4. l’orientation des recrues terroristes potentielles vers des vidéos de contre-radicalisation

La progression de la censure à l’échelle mondiale

Certes, avec moins de propagande terroriste et de discours de haine en ligne, il pourrait y avoir moins de personnes rejoignant les combattants de l’État islamique d’Irak et de Syrie ou posant des bombes sur les marchés et dans les restaurants. Mais les changements de politique posent aussi le risque d’une dérive de la censure.

L’ambiguïté des définitions fait partie du problème. Les termes « comportement haineux » et « matériel extrémiste violent » sont vagues et peuvent être étendus à la dissidence politique et aux commentaires culturels.

• Ils peuvent être étendus aux tweets d’un fonctionnaire,
• aux messages critiquant un homme politique
• ou au profil d’un militant des droits civiques.

Le matériel extrémiste violent peut être interprété comme couvrant tous les types de contenus violents, y compris les reportages, et pas seulement les vidéos de décapitation horribles.

La dérive de la censure n’est pas seulement une possibilité théorique : elle se produit déjà. Les appels des régulateurs européens à supprimer les « discours de haine illégaux » ont rapidement pris de l’ampleur pour couvrir des expressions qui ne violent pas la législation européenne en vigueur.

Lorsque des contenus sont signalés comme étant des discours de haine, la réponse probable sera la suppression. La suppression des contenus signalés permet d’éviter les critiques et reste moins coûteuse que le coût de la mise en conformité avec les nouvelles lois. La promesse d’examiner les signalements de discours haineux dans les 24 heures renforce cette tendance. La rapidité sacrifie inévitablement la réflexion.

Dans le même ordre d’idées, il y aura sûrement des pressions pour supprimer des contenus que d’autres entreprises ont désignés comme des expressions extrémistes violentes. Si tel est le cas, la base de données de l’industrie deviendra un programme de «suppression de tout».

Contrairement à une décision de justice qui ne s’applique qu’à l’intérieur des frontières du pays qui l’a rendue, la décision d’une entreprise concernant une violation des CGU s’applique partout où l’on accède à ses services. Ce type de censure est difficile à contourner.

Les enjeux pour la liberté d’expression sont élevés.

Le contenu peut être supprimé même s’il est essentiel au débat public et à la diffusion des informations.

L’une des idées maîtresses de la théorie de la liberté d’expression est que les individus ont besoin de parler et d’écouter pour prendre des décisions sur le type de société qu’ils veulent. Les citoyens de tous les pays méritent de savoir ce qui se passe dans le monde et ce qu’en pensent les gens aux deux extrémités du spectre, même si c’est difficile à digérer.

Les discours extrémistes et haineux apportent des informations précieuses au discours public : le fait que de telles opinions existent peut mettre en évidence la nécessité de les contrer. La liberté d’expression elle-même sert d’antidote aux doctrines de ceux qui veulent promouvoir la haine. L’expression d’opinions haineuses ou extrémistes permet à la société d’affirmer des normes sociales qui les rejettent.

En 2009, Megan Phelps-Roper, membre de l’Église baptiste de Westboro, a acquis une popularité considérable en tweetant des opinions haineuses sur les lesbiennes, les gays, les bisexuels et les transsexuels. Elle a noué des liens internet avec des personnes qui lui ont expliqué la cruauté de ses positions. Les interactions de Phelps-Roper sur Twitter l’ont finalement amenée à rejeter le sectarisme.

Lorsque nous isolons les membres des réseaux sociaux d’ISIS, nous fermons aussi, dans une certaine mesure, des rampes de sortie potentielles.

En plus, la suppression de l’expression prive les individus mécontents d’occasions de se défouler qui pourraient les empêcher de se tourner vers la violence. Le blocage de l’activité internet alimente les récits de victimisation et risque d’isoler les individus mécontents. Les personnes lésées peuvent se sentir encore plus lésées et plus enclines à agir en fonction de leur colère refoulée. La suppression d’un compte Twitter pourrait accroître la vitesse et l’intensité de la radicalisation pour ceux qui parviennent à entrer dans le réseau.

Protection contre l’extension de la censure

Les entreprises technologiques peuvent mettre en œuvre plusieurs stratégies pour s’opposer à l’ingérence des gouvernements : clarté des définitions, responsabilité solide, transparence et contrôle par des médiateurs.

Clarté des définitions

Les demandes du gouvernement visant à supprimer les discours haineux ou à hacher le matériel extrémiste doivent être examinées à la lumière d’un ensemble de définitions bien définies.

La clarté de la définition, de la signification et de l’application des termes contribuerait à limiter la dérive de la censure. Les politiques devraient fournir des exemples précis de contenus méritant d’être qualifiés de discours de haine ou de matériel extrémiste violent.

Une responsabilisation rigoureuse

Une responsabilité rigoureuse est essentielle pour contrôler les efforts des gouvernements visant à censurer les points de vue défavorables et la dissidence. Les demandes de suppression présentées par les autorités de l’État doivent faire l’objet d’une critique rigoureuse.

Pour commencer, les représentants des gouvernements ou les ONG devraient être tenus de s’identifier lorsqu’ils signalent des violations des CGU. Les plateformes internet doivent savoir qu’elles ont affaire à des autorités gouvernementales ou à leurs substituts. Les entreprises devraient disposer d’un canal de signalement distinct pour les autorités gouvernementales et toute organisation travaillant au nom de l’état.

X, par exemple, dispose de « canaux d’admission dédiés aux forces de l’ordre et autres journalistes autorisés » pour déposer des «requêtes légales». Toutes les demandes de suppression émanant d’acteurs étatiques ou de leurs substituts, y compris les rapports sur les conditions de service, doivent passer par ce canal.

Les demandes des gouvernements doivent être examinées sous un angle particulier. Les gouvernements soulèvent des préoccupations particulièrement troublantes quant à la réduction au silence de la dissidence politique. Certes, les gens ordinaires peuvent être des chahuteurs, mais ce qui préoccupe les gouvernements, ce sont les efforts systématiques pour faire taire la dissidence ou les actualités défavorables.

Les modérateurs de contenu doivent recevoir une formation sur la dérive de la censure, y compris sur les efforts passés et présents des gouvernements pour faire taire les critiques.

Les personnes dont les propos ont été supprimés doivent en être informées et avoir la possibilité de faire appel.

Transparence

Un autre moyen de freiner la progression de la censure consiste pour les entreprises à fournir des rapports détaillés sur les efforts déployés par les gouvernements pour censurer les discours haineux et les contenus extrémistes par le biais de mesures informelles.

Les rapports de transparence permettent un débat public sur la censure. Le rapport de transparence 2016 de X détaille le nombre de demandes légales de suppression de contenu, ventilées par pays. De manière unique, il divulgue le nombre de demandes gouvernementales visant à supprimer le contenu terroriste pour violation des CGU.

X s’efforce d’élargir son rapport à toutes les « demandes gouvernementales connues et non légales concernant les CGU que nous recevons par le biais de nos canaux de réception du service client standard, telles que les demandes de suppression de comptes d’usurpation d’identité et d’autres contenus qui violent nos Règles contre les abus ».

Les rapports de transparence des entreprises devraient détailler le nombre, l’objet et les résultats de toutes les demandes gouvernementales de suppression de contenu pour violation des CGU. Si les gouvernements sont autorisés à demander l’ajout de hachages à la base de données de l’industrie, les rapports de transparence devraient inclure des détails sur ces demandes.

Contrôle des médiateurs

Le risque de suppression de contenus dignes d’intérêt est une préoccupation majeure de la censure rampante. Les gouvernements peuvent chercher à supprimer des contenus terroristes ou haineux dont la publication est dans l’intérêt public légitime. Pour répondre à cette préoccupation, les entreprises devraient envisager d’embaucher ou de consulter des médiateurs dont l’activité principale est la collecte d’informations.

Les médiateurs, qui sont également connus sous le nom d’éditeurs publics, travaillent à la protection de la liberté de la presse et à la promotion d’un journalisme de haute qualité.

Les médiateurs devraient jouer un rôle particulier dans l’évaluation des demandes de suppression de la part des gouvernements, formulées par le biais de canaux informels tels que les TOS ou les bases de données de l’industrie. Ils peuvent aider à identifier les demandes qui supprimeraient des documents importants pour le débat public et la connaissance du public.

→ A lire sur notre blog :

Conclusion : La censure est-elle en train de ruiner internet ?

Oui, et j’ai déjà rencontré des problèmes lorsque YouTube, X bloquent mes commentaires pour des mots inoffensifs. Je dois déformer ma langue maternelle jusqu’à ce que les filtres de mots ne fonctionnent pas et ne sont pas supprimés.

En tant que créateur de contenus, là encore la censure des moteurs de recherche n’hésite plus à vous désindexer et dé-référencer.

L’internet libre a disparu comme la télévision libre a disparu. Au programme : Marketing et propagande politique. La fameuse « liberté » du nouveau moyen d’expression ouvert n’aura duré que 30 ans au final.