La robot-censure

CensureFacebook.png
Deux fois j'ai essayé de publier ce billet sur Facebook. La première fois j'ai reçu un ​message immédiat, tellement immédiat que j'en ait été surpris, de la part de la robot-censure de Facebook, me disant que ma publication était du spam et qu'elle était retirée. La deuxième fois le billet a bien été publié et a même pu être « aimé » par deux ami-e-s avant que, rebelotte, même message.
À chaque fois il faut demander pardon et expliquer que non, ce n'est pas du spam. Mais pour autant le billet n'est pas republié. Il est transmis à une Community machin-chose qui doit statuer.
Tout cela pose bien des questions. D'abord, quand j'écris je m'adresse à des êtres humains censés comprendre ce que je leur dis. Dans le cas particulier de ces publications, ils sont même triés sur le volet. Ce ne sont pas les « amis Facebook » dont je ne connais l'existence, de certains, que par cet intermédiaire. Ce sont les « amis » qui sont mes amis et qui, à ce titre, font partie d'une liste restreinte, celle à laquelle je m'adresse en général quand je n'ai pas quelque chose à crier urbi et orbi, chose fort rare, car j'ai le sentiment que l'univers n'est pas à mon écoute.
Or, entre les humains que je connais - auxquels je m'adresse - et ma publication il y a deux intermédiaires. Un prestataire qui m'offre l'usage de son réseau social en échange de tout ce qu'il peut savoir à mon sujet, et incidemment ce que je lui permets de savoir sur mes amis, mes réseaux, mes connaissances et nos intérêts, lubies, petites manies, goûts, opinions, détestations, adorations, votes et non-votes, et ce que je ne sais même pas imaginer.  Et un autre intermédiaire, un œil actif dont je viens d'apprendre qu'il surveille, jauge, évalue, mesure, juge et tranche pour laisser passer, ou cacher de tous ces regards qui ne sauraient le voir, ce que je dis. 
Et qui vient de me censurer pour un billet qui parle d'un llivre, par ailleurs recommandable à plusieurs titres. Alors même que je vois régulièrement passer des insanités sur mon mur, et en particulier des intox d'extrême-droite dont certaines sont particulièrement haineuses. Il semble qu'elles soient acceptables par le robot-censure qui se complait à me les présenter. Ce qui me permet par ailleurs de savoir que certains de mes amis ont des fréquentations pas fréquantables.
 

Mais c'est vachement sérieux

Turing_Test_version_3.pngHalte-là. C'est que cela n'est pas anodin du tout et qu'il ne faudrait pas qu'on commence à s'y habituer. Certes, en quelque sorte et au regard des codes sur la propriété, chez Facebook je ne suis pas chez moi mais chez M. Zuckerberg, qui fait la loi chez lui, comme tout Romain qui se respecte. Quoique, avec 1 milliard d'invités, le salon de M. Zuckerberg est davantage une place publique qu'un logis privé. Et dans la place publique ce n'est pas un particulier qui fait la loi. Ça, ça coince.
Je comprends bien que M. Zuckerberg lutte contre le spam. Comme le dit son message de rejet de la publication, "si vous êtes une entreprise"... il y a d'autres outils sur Facebook que le spam pour vous faire connaître. Sous-entendu, la loi telle qu'elle est conçue par M. Zuckerberg sur son espace social est la loi de l'entonnoir qui redirige les contenus vers le tiroir-caisse. Soit, c'est légitime pour une entreprise de chercher à faire des affaires. Mais je ne suis pas un professionnel qui vendrait les livres d'autrui. D'ailleurs, je n'ai pas fait un lien vers l'éditeur du livre, mais un lien vers ma page personnelle, sur mon site personnel, qui est une note de lecture du livre en question. Qui, elle, renvoie vers l'éditeur, puisque si je parle du livre il n'est pas anormal que je dise où on peut se le procurer.

 

Au-delà de ces considérations nous sommes entrés dans un monde où cet intermédiaire façonne plusieurs choses.

 

  • C'est lui qui présente sur nos murs les  nouvelles de nos amis et leur présente les nôtres. Lesquelles ? Comment sont-elles triées ? Qu'est-ce qui est mis en valeur ? Avec quelle fréquence peut-on suivre ses amis ? J'ai été étonné en ce mois d'août où l'activité est très faible que certains messages d'ami-e-s ne me soient présentés que plusieurs jours après leur publication. On a pourtant l'impression d'être dans un fil, au sens du fil de l'AFP, à jet continu où les billets s'affichent au rythme de leur production. Cela ne semble pas être le cas (ça l'est par contre sur mamoton que je vous conseille);
  • C'est lui qui définit, écrit, corrige et met à jour les algorithmes à plusieurs niveaux : ceux qui analyent les publications (comme notre robot-censure) et ceux qui les distribuent en croisant les amis, en re-croisant les amis des amis (Untel a aimé la publication d'Unetelle) : pour l'un comme pour l'autre, avec quels critères et pour quels objectifs ? Quel est l'intérêt de me faire savoir régulièrement que certains de mes amis ont aimé telle compagnie aérienne ? Suis-je intéressé ou susceptible de l'être ? Aurais-je de moi-même demandé à connaître ce genre de choses ?
  • en sélectionnant les intérêts de mes amis et en assimilant les miens aux leurs et les leurs aux miens, l'outil agit en prescripteur de comportements, en "normalisateur" du groupe-communauté dans lequel on se trouve. Ainsi, il devient presque suspect de ne pas verser une larme auprès de ses amis Facebook lorsqu'un malheur se produit "chez nous" (à proximité, dans le pays, en Europe ou aux États-Unis parce que j'en ai peu vu concernant le Nigéria) ;
  • il nous est affiché des suggestions, ainsi j'ai régulièrement des suggestions pour aimer telle ou telle "personnalité publique", parfois à des centaines de kilomètres de chez moi et d'opinions diverses, même d'extrême-droite. Comment se fait ce tri ? Pourquoi me présente-t-on cela ? Ai-je besoin d'être pris par la main pour aller m'amouracher de tel ou telle ?
LeCri.png
 

Tout cela, ce sont des algorithmes, c'est-à-dire du code informatique réalisé par des gens qui font un "job" et dont les conséquences de ce qu'ils ont produit ne les concernent pas (quand bien même ils en auraient connaissance). L'algorithme est présenté comme une règle mathématique, un code informatique, une technique : c'est faux ! C'est aussi cela, mais l'algorithme, appliqué aux humains, c'est de la politique. L'algorithme (ou plutôt les centaines ou milliers d'algorithmes qui s'enchaînent, se donnent la main et se passent le mot) c'est une vision du monde : comment je le perçois, comment je l'interprète, comment je le traduis, comment je le rends et comment est-il perçu.  Ce n'est pas juste if X > Y then Y < X. Et dans ce monde où désormais une partie de notre vie est directement contenue dans l'outil social, l'algorithme est le sang qui l'irrigue : il nous décrit aux autres, il nous décrit les autres, il nous influence, il influence les autres. Quand on a ce pouvoir, on doit être surveillé : les algorithmes doivent être publics. Aucune entreprise ne devrait désormais pouvoir écrire, mettre en place et utiliser un algorithme si celui-ci n'est pas d'abord rendu public et même éventuellement validé, au même titre qu'on valide des lois par un vote (encore que même cela soit contestable en l'état, mais on n'ergote pas, d'accord ?).
Car la réalité est que le monde est en train d'être écrit (réécrit) par quelques entreprises dont l'ampleur mondiale écrase les communautés et même les états, faisant la promotion des seules valeurs qui sont celles du lieu de naissance de l'entreprise, adaptés à ses intérêts particuliers que sont la maximisation du chiffre d'affaires et le rendement pour les actionnaires, comme l'explique si bien Milton Friedman. C'est un super-pouvoir qui n'a pas de contre-pouvoir parce que le mode opératoire est invisible. Tant qu'il sera invisible, le pouvoir reste concentré comme dans les empires de l'Antiquité. Le grand mérite des Grecs (anciens) a été de mettre sur la place publique ce qui auparavant était enfermé dans le palais : la décision et la délibération qui l'accompagne. La démocratie grecque a été la première entreprise de création de transparence, c'est à une évolution de ce type que devront se plier les entreprises du numérique.


Et après ?

fluffy-elephant-friend.pngOn voit, et ceci est très light et résumé, l'importance que revêt la main-mise sur les algorithmes et le pouvoir qu'ont sur nous ces entreprises de réseau social. Nous sommes dans des espaces privés qui nous sont inconnus et où nous sommes attirés, non pour satisfaire nos besoins, mais pour devenir la monnaie des échanges que font ces entreprises. Sans compter que, en publiant sur leurs plate-formes, nous travaillons gratuitement à la production  de richesses au seul bénéfice de leurs actionnaires.
À côté de cela il est important de disposer d'espaces de Communs où nous pouvons définir les outils, les moyens, les techniques et les algorithmes. Pour ceux qu ne connaissent pas, non, ce n'est pas juste un doux rêve, c'est un mouvement qui ne cesse de progresser.
Le mouvement des Communs propose aussi des réseaux sociaux dont les objectifs ne sont pas commerciaux, mais humains. Ils sont portés par des logiciels dont le code est libre (accessible à tout le monde, mais il vaut mieux être informaticien pour le lire) et qui sont écrits par des communautés dont le fonctionnement est transparent. Les données personnelles des utilisateurs ne sont pas détenues par des entreprises et ces logiciels ne sont pas maîtrisés par un seul opérateur. En général n'importe qui peut les installer sur une instance d'hébergement et les instances dialoguent les unes avec les autres, on peut aussi être en relation avec ses amis même si les uns ont ouvert un compte sur une instance en France et d'autres sur des instances dans d'autres pays (ou sur d'autres instances en France). Ce sont, au contraire de Facebook, Twitter, Skype et consorts, des outils "décentralisés" en ce sens que, justement, ils ne sont pas détenus par une entité unique en capacité d'analyser tout ce qui s'y produit et de croiser les données. Ils sont pléthore, des milliers d'instances dont chacune ne concentre qu'un pouillème du trafic et du contenu, ce qui rend impossible tout croisement global des données et en particulier la surveillance et la censure des individus. Na !

« Lesquels me conseillez-vous, monsieur ? ». Puisque c'est gentiment demandé, en voici deux :

  • pour remplacer (ou en plus de) Facebook, il y a Diaspora*, par exemple chez nos amis de Framasoft
  • pour remplacer (ou en plus de) Twitter et en bien plus sympa, il y a Mamoton, par exemple chez nos amis de la Quadrature du Net ou chez ceux de Framasoft (qui font beaucop de choses très bien, mais vraiment très bien à voir ici)

Mise à jour du 13 septembre 2017 avec l'ajout d'un lien vers cet article de Télérama :
« Tesla, une vision du capitalisme débridé »
Cet article du journal Le Monde du 12 septembre 2017 pourrait aussi vous intéresser :
« Vives critiques du Conseil national du numérique contre les récentes lois sécuritaires​ »

 

 

fivestar: 
Aucun vote pour l'instant, soyez le premier.