4 questions aux algorithmes (et à ceux qui les font, et à ce que nous en faisons)

Olivier Ertzscheid13 avril 2022

1. Les moteurs de recherche nous rendent-ils idiots ?

En 2008, le moteur de recherche Google vient de fêter ses 10 ans et Nicholas Carr publie dans The Atlantic, un texte qui va faire le tour des internets en quelques heures et pour quelques années : "Is Google Making Us Stupid ?" (traduction française disponible grâce à Penguin, Olivier et Don Rico sur le Framablog) Il y défend la thèse selon laquelle une "pensée profonde" nécessite une capacité de lecture et d'attention également "profondes", que Google et le fonctionnement du web rendraient impossibles à force de fragmentation et de liens nous invitant à cliquer en permanence.

Depuis presque 15 ans, la thèse de Nicholas Carr continue périodiquement à revenir sur le devant de la scène médiatique. Je passe sur les écrits affirmant que les "écrans" seraient la source de tous nos maux, mais pour le grand public, je renvoie notamment aux derniers ouvrages de Bruno Patino ("La civilisation du poisson rouge") qui ne font que recycler en permanence les idées de Nicholas Carr en les 'affinant' à l'aune de ce que les réseaux sociaux font ou feraient à nos capacités attentionnelles ainsi qu'au débat public.

La littérature scientifique sur ces sujets est bien plus circonspecte et nuancée que la focale médiatique ne pourrait le laisser croire. Le seul consensus scientifique éclairé se fait autour des risques d'une exposition précoce et excessive. Pour le reste … les écrans ne sont "que" des écrans, les outils ne sont "que" des outils, et il n'est pas plus dangereux au 21ème siècle de laisser un enfant toute la journée devant Tik-Tok qu'il ne l'était de le laisser un enfant toute la journée devant la télé au 20ème siècle. Dans ce siècle comme dans le précédent, à de rares exceptions près, chacun s'accorde d'ailleurs sur le fait qu'il ne faut pas laisser un enfant toute la journée devant TikTok ou devant la télé. Encore faut-il qu'il ait la possibilité de faire autre chose, encore faut-il que la société laisse aux parents le temps de faire autre chose avec lui, encore faut-il qu'ils aient les moyens financiers et les infrastructures culturelles et éducatives à portée de transport (public) pour pouvoir et savoir faire autre chose, encore faut-il qu'une éducation aux écrans puisse être bâtie en cohérence de l'école primaire au lycée. A chaque fois que l'on tient un discours culpabilisant ou même parfois criminogène sur "le numérique" ou "les écrans", on oublie de s'interroger sur la faillite d'une politique éducative, sociale et familiale où chaque réflexion autour du "temps de travail" peine à masquer le refus d'imaginer et d'accompagner un temps de non-travail, un temps de loisirs capable de resserrer les liens familiaux plutôt que de les éclater ou de les mettre en nourrice technologique.

Cela ne veut pas dire qu'il n'existe aucun effet des technologies sur nos capacités mémorielles, attentionnelles, ni bien sûr que rien ne se jouerait au niveau neuronal et même biochimique, mais simplement que nos environnements médiatiques, culturels, informationnels, sont multiples, perméables et inter-reliés, et que pour encore probablement au moins quelques années, le web, la télé, la radio et la presse sont amenés à co-construire et à co-définir, nos capacités attentionnelles et nos appétences informationnelles. Bref.

L'intelligence de Nicholas Carr, sur la fin de son texte, est de relativiser un peu son angoisse et son scepticisme en rappelant la critique Platonicienne de "l'écriture" qui, déjà, signait la fin de la mémoire et annonçait mille maux :

"Et il en va de même pour les discours [logographies]. On pourrait croire qu'ils parlent pour exprimer quelque réflexion ; mais, si on les interroge, parce qu'on souhaite comprendre ce qu'ils disent, c'est une seule chose qu'ils se contentent de signifier, toujours la même. Autre chose : quand, une fois pour toutes, il a été écrit, chaque discours va rouler de droite et de gauche et passe indifféremment auprès de ceux qui s'y connaissent, comme auprès de ceux dont ce n'est point l'affaire ; de plus, il ne sait pas quels sont ceux à qui il doit ou non s'adresser. (…)

[L'écriture] ne produira que l’oubli dans l’esprit de ceux qui apprennent, en leur faisant négliger la mémoire. En effet, ils laisseront à ces caractères étrangers le soin de leur rappeler ce qu’ils auront confié à l’écriture, et n’en garderont eux-mêmes aucun souvenir. Tu [Thot] n’as donc point trouvé un moyen pour la mémoire, mais pour la simple réminiscence, et tu n’offres à tes disciples que le nom de la science sans la réalité ; car, lorsqu’ils auront lu beaucoup de choses sans maîtres, ils se croiront de nombreuses connaissances, tout ignorants qu’ils seront pour la plupart, et la fausse opinion qu’ils auront de leur science les rendra insupportables dans le commerce de la vie."

(Socrate dans Phèdre)

Idem pour l'invention de l'imprimerie et pour chaque grande révolution des technologies intellectuelles. Là où le texte de Carr est intéressant en termes de prospective c'est qu'il est, en 2008, l'un des premiers à acter que ce que l'on nommera ensuite le "solutionnisme technologique" est au coeur d'une logique attentionnelle entièrement dépendante d'un modèle d'affaire parfaitement cartésien, réfléchi, pensé, documenté et instrumenté (je souligne) :

"Pourtant, leur hypothèse simpliste voulant que nous nous “porterions mieux” si nos cerveaux étaient assistés ou même remplacés par une intelligence artificielle, est inquiétante. Cela suggère que d’après eux l’intelligence résulte d’un processus mécanique, d’une suite d’étapes discrètes qui peuvent être isolés, mesurés et optimisés. Dans le monde de Google, le monde dans lequel nous entrons lorsque nous allons en ligne, il y a peu de place pour le flou de la réflexion. L’ambiguïté n’est pas un préliminaire à la réflexion mais un bogue à corriger. Le cerveau humain n’est qu’un ordinateur dépassé qui a besoin d’un processeur plus rapide et d’un plus gros disque dur.

L’idée que nos esprits doivent fonctionner comme des machines traitant des données à haute vitesse n’est pas seulement inscrite dans les rouages d’Internet, c’est également le business-model qui domine le réseau. Plus vous surfez rapidement sur le Web, plus vous cliquez sur des liens et visitez de pages, plus Google et les autres compagnies ont d’occasions de recueillir des informations sur vous et de vous nourrir avec de la publicité. La plupart des propriétaires de sites commerciaux ont un enjeu financier à collecter les miettes de données que nous laissons derrière nous lorsque nous voletons de lien en lien : plus y a de miettes, mieux c’est. Une lecture tranquille ou une réflexion lente et concentrée sont bien les dernières choses que ces compagnies désirent. C’est dans leur intérêt commercial de nous distraire."

Les technologies intellectuelles sont autant de "pharmakon", elles sont à la fois remède et poison. Google ne nous rend pas stupides. Ni idiots. Ni incapables d'attention ou de lecture soutenue. Mais il est de l'intérêt de Google, cela participe de son modèle économique, que nous préférions cliquer sur des liens commerciaux plutôt qu'organiques, sur des liens qui ont quelque chose à nous vendre plutôt que quelque chose à nous apprendre. Les deux "OO" du moteur : le "O" d'une ouverture toujours possible, et le "O" d'une occlusion toujours présente. Et l'importance de ces affordances que l'éducation construit et qu'elle peut apprendre à déconstruire …

Le rêve de Vannevar Bush, en 1945, d'un dispositif capable de singer le fonctionnement associatif de l'esprit humain pour en stimuler les capacités mémorielles et en bâtir qui lui soient externes, ce rêve là dans lequel c'est "le chemin qui comptait plus que le lien" s'est en quelque sorte renversé et incarné presqu'uniquement dans la capacité de calcul des liens créés pour en contrôler la supervision globale et l'accès massif, formant alors des autorités n'ayant plus que le seul goût de la popularité. La curiosité du chemin laissant la place à la cupidité des liens. Et le capitalisme linguistique fit le reste. Google ne nous a pas rendu stupides mais … cupides.

En quelques années, l"interrogation de Carr a été remplacée par plusieurs autres. Il ne s'agit plus uniquement de répondre à la question "Google nous rend-il idiots ?" mais de s'interroger sur "les algorithmes sont-ils idiots ?" ou même "les algorithmes sont-ils justes ?" et enfin et peut-être surtout, "les algorithmes (idiots ou non) nous brutalisent-ils ?" Je commence par cette dernière question car elle est la plus facile à trancher aujourd'hui.

2. Les algorithmes nous brutalisent-ils ?

Oui. Trois fois oui. En tout cas l'utilisation des algorithmes par la puissance publique, au profit et au service d'une dématérialisation qui vaut démantèlement des services publics, est une brutalité et une violence. Une "maltraitance institutionnelle" comme le rappelle l'édito de Serge Halimi dans le Monde diplomatique du mois de Mars, et comme le documente surtout le rapport sur la "dématérialisation des services publics"de Claire Hédon, la défenseure des droits.

L'amie Louise Merzeau expliquait il y a déjà 10 ans que le numérique était un milieu beaucoup plus qu'un outil. Et les milieux sociaux les plus modestes, n'ont d'autre choix que de le vivre comme une double peine, comme un nouvel empêchement, une stigmatisation de plus, une discrimination de trop.

Rien ne s'automatise mieux que l'accroissement des inégalités. Et il n'est d'inégalités plus flagrantes que dans le système éducatif et le système de soins qui n'ont jamais été autant mis sous coupe algorithmique réglée à grands coups de métriques qui valent autant de coups de triques.

"Stiegler et Alla montrent que ce que nous avons vu disparaître en 2 ans, c’est une politique de santé publique démocratique, compensatrice et attentive aux gens. Nous avons vu apparaître un nouvel acteur du système de santé, et qui risque demain d’être convoqué partout. Le démantèlement des systèmes de soin reposent sur un “individu connecté directement aux systèmes d’informations des autorités sanitaires, dont elles attendent une compliance et un autocontrôle permanent dans le respect des mesures et dans la production des données”. C’est le même individu qui est désormais convoqué dans Parcoursup ou dans les services publics, comme Pole Emploi ou la CAF. C’est un individu qui produit lui-même les données que vont utiliser ces systèmes à son encontre. “Ici, la santé n’est jamais appréhendée comme un fait social, dépendant de ce que la santé publique nomme les “déterminants structurels” en santé. Elle devient un ensemble de données ou de data, coproduites par les autorités sanitaires et les individus érigés en patients acteurs, qui intériorisent sans résistance toutes les normes qu’elles leur prescrivent”. Dans cette chaîne de production de données, les soignants sont réduits à l’état de simples prestataires, privés de l’expérience clinique de la maladie, tout comme les agents des systèmes sociaux ou les professeurs sont privés de leur capacité de conseil pour devenir de simples contrôleurs. Quant aux réalités sociales qui fondent les inégalités structurelles, elles sont niées, comme sont niées les différences sociales des élèves devant l’orientation ou devant la compréhension des modalités de sélection. Les populations les plus vulnérables sont stigmatisées. Éloignés des services et des systèmes numériques, les plus vulnérables sont désignés comme responsables de la crise hospitalière, comme les chômeurs et les gens au RSA sont responsables de leur situation ou les moins bons élèves accusés de bloquer Parcoursup !" (Hubert Guillaud lisant "Santé publique : année zéro" de Barbara Stiegler et François Alla)

Bien. Donc Google (et les moteurs de recherche) nous rendent davantage cupides que stupides, ou pour le dire différemment, s'il nous arrive par leur entremise, d'être pris en flagrant délit de stupidité, c'est principalement la faute de leur cupidité. Et les algorithmes nous brutalisent. Parce qu'ils sont trop "intelligents" alors que notre "liberté" (de navigation, de choix) passe par le retour à un internet bête, à une infrastructure qui ne s'auto-promeut pas en système intelligent. Un internet bête c'est un réseau capable de mettre en relation des gens, sans nécessairement inférer quelque chose de cette mise en relation sur un autre plan que la mise en relation elle-même (c'est à dire ne pas tenter d'inférer que si j'accepte telle mise en relation c'est pour telle raison qui fait que par ailleurs je vais accepter de partager telle autre recommandation elle-même subordonnée à tel enjeu commercial ou attentionnel, etc.).

Google nous rend cupides. Et les algorithmes nous brutalisent car ils sont trop "intelligents" en ambitionnant de créer des liens dont ils sont responsables (ce qui est l'étymologie de l'intelligence) alors qu'ils ne devraient que contrôler des situations dont nous sommes responsables.

Prenons un exemple simple et fameux : celui de la désambiguisation. Par exemple lorsque je tape le mot "jaguar" dans un moteur de recherche, il ne sait pas s'il doit me proposer des informations en lien avec l'animal ou avec la marque de voiture. Et pourtant il ne se trompe que rarement car il s'appuie sur notre historique de recherche, de navigation, nos "données personnelles", nos intérêts déclarés sur les réseaux sociaux où nous sommes présents et qu'il indexe, etc. Et nous trouvons d'ailleurs très pratique que Google "sache" si nous cherchons des informations sur l'animal ou sur la voiture sans que nous ayons à le lui préciser. C'est cela, le web et un moteur de recherche "intelligent". Mais cette intelligence n'est pas tant celle qui crée des liens que celle qui crée des chaînes de déterminismes de plus en plus inextricables. Car si Google sait qu'en tapant "jaguar" c'est aux voitures que je m'intéresse et non aux animaux, et s'il le sait autrement que statistiquement, alors il est déjà trop tard.

Je veux maintenant poser une troisième question.

3. Les algorithmes sont-ils complètement cons ?

Je viens de vous expliquer que les algorithmes et internet étaient "trop intelligents" et voici que je vous propose maintenant d'envisager le fait qu'ils soient aussi totalement cons. Les deux ne sont en effet pas exclusifs. On connaît tous des gens très intelligents qui sont socialement, relationnellement ou matériellement totalement cons. Voici mon propos.

On savait déjà que l'ordinateur, que les ordinateurs étaient complètement cons. Et ce n'est pas moi mais Gérard Berry, professeur au collège de France, qui le dit et l'explique depuis longtemps :

"Fondamentalement, l’ordinateur et l’homme sont les deux opposés les plus intégraux qui existent. L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con."

On avait donc de forts soupçons concernant "les algorithmes". Mais comme l'on sait également que "il n'y a pas d'algorithmes, seulement la décision de quelqu'un d'autre", nous voilà ramenés à la possibilité non nulle d'envisager l'autre comme un con, ou de postuler et c'est mon hypothèse de travail suivant le texte fondateur de Lessig, "Code Is Law", que les déterminismes sociaux, culturels, religieux, économiques, politiques de celles et ceux (mais surtout ceux) qui développent "les algorithmes" permettent d'éclairer la manière dont leurs décisions algorithmiques sont opaques et parfois dangereuses.

Pour le dire trivialement, les algorithmes sont donc toujours au moins aussi cons que celles et ceux qui les développent et les déploient (ou de celles et ceux qui leur ordonnent de le faire), dans un rapport qui tient bien davantage de la causalité que de la corrélation.

J'ajoute que l'autre question déterminante des données (Big Data), des jeux de données et des modèles de langage désormais "trop gros" vient encore rendre plus tangible l'hypothèse d'algorithmes produisant des effets sidérants tant ils finissent par être totalement cons ou dangereux.

Et miser sur l'intelligence artificielle pour corriger les biais algorithmiques est à peu près aussi pertinent que de miser sur la capacité d'empathie d'Eric Zemmour pour atténuer les dérives xénophobes de la société.

"l’IA n’est ni intelligente ni artificielle. Elle n’est qu’une industrie du calcul intensive et extractive qui sert les intérêts dominants. Une technologie de pouvoir qui « à la fois reflète et produit les relations sociales et la compréhension du monde. »" Kate Crawford in "Atlas de l'IA" (lu par l'indispensable Hubert Guillaud).

Résumons un peu. Google nous rend cupides. Les algorithmes nous brutalisent (en tout cas les plus faibles ou les plus exposés ou les plus jeunes d'entre nous). On rêverait qu'ils se contentent d'être essentiellement bêtes mais ils sont le plus souvent ontologiquement cons.

J'en viens maintenant à l'actualité qui a suscité l'envie de rédiger cet article (il est temps …) ainsi qu'à ma dernière question.

4. Facebook nous prend-il pour des cons ?

Prenons donc la plateforme technologique aujourd'hui centrale dans l'ensemble de nos usages connectés (au travers de tout son écosystème de services : Facebook, WhatsApp, Instagram, Messenger notamment). Plateforme à qui l'on adresse, souvent d'ailleurs de bon droit, le reproche que Nicholas Carr adressait jadis à Google, celui de nous rendre idiots. Plateforme qui n'est pas non plus étrangères à l'émergence de formes inédites de brutalité, aussi bien dans la dimension interpersonnelle (harcèlement, stalking …) qu'à l'échelle politique (élections) et géo-stratégique (dans l'invasion de l'Ukraine mais aussi dans le génocide des Rohingyas). Et plateforme qui assume comme projet de devenir une "infrastructure sociale" planétaire.

Pendant plus de 6 mois, depuis le mois d'Octobre 2021, "l'algorithme" de Facebook n'a pas "déclassé" (downranking) et diminué les vues et l'audience de publications contenant des fausses informations identifiées, y compris lorsque leurs auteurs étaient récidivistes, mais il a tout au contraire augmenté leur nombre de vues d'au moins 30%. Les ingénieurs qui ont repéré cela parlent d'une "défaillance massive du classement" qui aurait exposé "jusqu'à la moitié de toutes les vues du fil d'actualité à des "risques d'intégrité" potentiels au cours des six derniers mois". L'article de The Verge qui s'est procuré le rapport d'incident interne est accablant et alarmant.

"Les ingénieurs ont remarqué le problème pour la première fois en octobre dernier, lorsqu'une vague soudaine de fausses informations a commencé à affluer dans le fil d'actualité (…). Au lieu de supprimer les messages des auteurs de désinformation récidivistes qui avaient été examinés par le réseau de vérificateurs de faits externes de l'entreprise, le fil d'actualité distribuait plutôt les messages, augmentant les vues de 30 % au niveau mondial. Incapables de trouver la cause profonde de ce problème, les ingénieurs ont vu la hausse s'atténuer quelques semaines plus tard, puis se reproduire à plusieurs reprises jusqu'à ce que le problème de classement soit résolu le 11 mars."

L'élection présidentielle en France a eu lieu ce dimanche avec les scores que l'on connaît. Depuis plus d'un mois une guerre se déroule en Ukraine. Partout dans le monde des échéances politiques, climatiques et géo-stratégiques majeures s'annoncent. Et pendant les 6 derniers mois un "bug" de la plateforme aux presque 3 milliards d'utilisateurs a surexposé d'au moins 30% des contenus de désinformation pourtant identifiés comme tels au lieu de parvenir à les déclasser. C'est tout à fait vertigineux.

Une "défaillance massive du classement". Une défaillance pendant plus de 6 mois observée, constatée, documentée (à l'interne uniquement) mais une défaillance … incorrigible. Il semble que nous en soyons très exactement au point que décrivait Frederick Pohl lorsqu'il expliquait que "une bonne histoire de science-fiction doit pouvoir prédire l’embouteillage et non l’automobile." Mais il ne s'agit plus de science-fiction.

"Défaillance massive du classement". Il faut imaginer ce que cette "défaillance massive du classement" pourrait donner si elle advenait dans un moteur de recherche, dans un système de tri des patients à l'hôpital, dans un système d'admission post-baccalauréat régulant l'entrée dans les études supérieures de l'ensemble d'une classe d'âge. La question est vertigineuse convenez-en. Comme sont vertigineuses ces autres questions à ce jour sans réponses :

• qui (ou qu'est-ce qui) est à l'origine de cette "défaillance massive du classement" ?
• pourquoi cette "défaillance massive du classement" a-t-elle été observée sans être rendue publique pendant 6 mois ?
• comment (et par qui et par quels moyens) cette "défaillance massive du classement" a-t-elle été finalement corrigée (et comment être sûrs qu'elle l'a bien été) ?

Pour rappel Bostrom et Yudowsky (deux théoriciens de l'intelligence artificielle), expliquaient en 2011 dans leur article "The Ethics of Artificial Intelligence" :

"Les algorithmes de plus en plus complexes de prise de décision sont à la fois souhaitables et inévitables, tant qu'ils restent transparents à l'inspection, prévisibles pour ceux qu'ils gouvernent, et robustes contre toute manipulation." ("increasingly complex decision-making algorithms are both inevitable and desirable – so long as they remain transparent to inspection, predictable to those they govern, and robust against manipulation")

Concernant Facebook mais également d'autres champs sociaux à forte couverture algorithmique, j'ai l'impression que depuis que ces constats sont faits, on s'éloigne chaque fois davantage de ces trois objectifs de transparence, de prévisibilité, et de robustesse.

La question n'est pas celle, longtemps fantasmée et documentée dans divers récits de S-F d'une "intelligence artificielle" qui accèderait à la conscience ou prendrait le contrôle de nos destinées ; mais la question, plus triviale et plus banalement tragique aussi, d'un système technique totalement saturé de données et suffisamment massif dans l'ensemble de son architecture technique, de ses flux et de ses volumétries (nombres d'utilisateurs, de contenus, d'interactions) pour ne plus pouvoir répondre à aucune autre sollicitation ou supervision rationnelle que celle d'une stochastique de l'emballement intrinsèque.

Un système devenu totalement con. Banalement con. Tragiquement con. Un con système consistant.

A moins bien sûr, l'hypothèse n'est pas à exclure totalement, que Facebook ne nous prenne pour des cons. Elle n'est d'ailleurs ni à exclure, ni incompatible avec la précédente.

Too Big To Fail (Economically). Too Fat To Succeed (Ethically).

Quand la Chine nous réveillera ?

"Hahaha", "lol", "xptdr" me direz-vous. Car oui la Chine c'est "the great firewall", c'est aussi le crédit social, bref ce n'est pas vraiment un parangon d'émancipation algorithmique. Peu de chances donc que la lumière vienne de là. Et pourtant … et pourtant la nouvelle qui suit n'en est que plus … étonnante. D'abord quelques rappels.

A commencer par la dimension éminemment prévisible de nos comportements sociaux, qui rend d'autant plus forts et plus efficaces les déterminismes algorithmiques qui viennent l'instrumentaliser. Il y a déjà longtemps de cela, je vous avais proposé le néologisme de "dysalgorithmie" pour désigner un "trouble de résistance algorithmique où le sujet fait preuve d'un comportement ou d'opinions non-calculables".

Pour éviter que les moteurs de recherche ne nous rendent idiots, pour éviter que les algorithmes ne nous brutalisent, pour comprendre pourquoi les algorithmes sont complètement cons et pour éviter queFacebook (ou d'autres) ne continuent de nous prendre pour des cons, il n'est qu'un seul moyen : la transparence algorithmique (pour laquelle je plaide depuis … très longtemps) :

"Grâce à leurs CGU (et leurs algorithmes), Facebook, Twitter, Google ou Apple ont édicté un nouvel ordre documentaire du monde qu’ils sont seuls à maîtriser dans la plus complète opacité. Il est vain de réclamer la dissolution de Google ou d’un autre acteur majeur comme il est vain d’espérer un jour voir ces acteurs «ouvrir» complètement leurs algorithmes. Mais il devient essentiel d’inscrire enfin clairement, dans l’agenda politique, la question du rendu public de fonctionnements algorithmiques directement assimilables à des formes classiques d’éditorialisation. Or après que les algorithmes se sont rendus maîtres de l’essentiel du «rendu public» de nos productions documentaires, les plateformes sont en train de reléguer dans d’obscures alcôves l’autre processus de rendu public démocratique : celui de la délibération sur ce qui a légitimité – ou non – à s’inscrire dans l’espace public. Il ne sera pas éternellement possible de s’abriter derrière le fait que ces plateformes ne sont précisément ni des espaces réellement publics ni des espaces entièrement privés. A l’ordre documentaire qu’elles ont institué, elles ajoutent lentement mais sûrement un «ordre moral réglementaire» sur lequel il nous sera très difficile de revenir si nous n’en débattons pas dès maintenant."

La transparence donc, mais aussi (et peut-être surtout aujourd'hui) la redevabilité :

"Ce devoir [de rendre des comptes] inclut deux composantes : le respect de règles, notamment juridiques ou éthiques, d’une part ; la nécessité de rendre intelligible la logique sous-jacente au traitement, d’autre part. Il se décline de différentes manières selon les publics visés. Pour le citoyen sans compétence technique particulière, il peut s’agir de comprendre les critères déterminants qui ont conduit à un résultat qui le concerne (classement d’information, recommandation, envoi de publicité ciblée, etc.) ou la justification d’une décision particulière (affectation dans une université, refus de prêt, etc.). Un expert pourra être intéressé par des mesures plus globales, comme des explications sous forme d’arbres de décision ou d’autres représentations graphiques mettant en lumière les données prises en compte par l’algorithme et leur influence sur les résultats. Un organisme de certification peut se voir confier une mission de vérification qu’un algorithme satisfait certains critères de qualité (non-discrimination, correction, etc.), sans pour autant que celui-ci ne soit rendu public."

En France, cette "transparence" concerne seulement et hélas encore bien imparfaitement les algorithmes publics et a été intégrée dans la [loi pour une République numérique (loi Lemaire) de 2016 adoptée en 2017](https://www.zdnet.fr/actualites/algorithmes-les-administrations-forcees-a-plus-de-transparence-39906151.htm#:~:text=Ce principe de transparence des,doit comporter une « mention explicite »).

"Ce principe de transparence des algorithmes publics (…) selon laquelle « toute décision individuelle prise sur le fondement d'un traitement algorithmique » doit comporter une « mention explicite » pour en informer le public. La loi dit alors que les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre doivent également être communiquées par l'administration à l'intéressé s'il en fait la demande. Plus précisément, l'administration doit être en mesure de communiquer quatre informations : dans un premier temps, « le degré et le mode de contribution du traitement algorithmique à la prise de décision » ; ensuite les « données traitées et leurs sources » ainsi que « les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé », et enfin « les opérations effectuées par le traitement »."

De plus cette loi déjà très imparfaite (même si elle marque nonobstant une avancée majeure) comporte un certain nombre de limitations et des freins intrinsèques ("seules les décisions à 100 % automatisées seront en mesure d'être contestées et considérées le cas échéant comme nulles, si l'administration est en incapacité de documenter l'algorithme utilisé" via ZDnet) mais également … structurels :

"les obligations de transparence issues de la loi Numérique demeurent largement ignorées des acteurs publics, et témoigne au passage d'une insuffisance parfois notoire des moyens humains et financiers pour mener à bien cette charge supplémentaire pour les administrations. D'autant plus que les interlocuteurs interrogés dans le cadre du rapport ont « mis en avant des définitions très variées de ce qui constituait un algorithme » qui mériteraient d'être harmonisées." (toujours via ZDnet)

La problème de la transparence comme de la redevabilité, même en se limitant aux algorithmes publics, c'est qu'un "algorithme" est un fait calculatoire et décisionnel qui ne peut être isolé de faits sociaux qui en déterminent les causes et les effets. Un algorithme est développé par des gens, qui obéissent à d'autres gens, et qui sont tous pris dans des déterminismes et des contraintes économiques, professionnelles, politiques, sociales, etc. Penser que l'ouverture et et la redevabilité des algorithmes suffira à régler l'ensemble des problèmes qu'ils posent n'a pas davantage de sens que penser que l'étiquetage des denrées alimentaires résoudra les problèmes de malbouffe, d'obésité et de surproduction agricole.

Mais il faut bien commencer par quelque chose. Et comme nous sommes encore très très loin (même pour les algorithmes publics) de la transparence et de la redevabilité, alors continuons de militer et d'agir pour que ces notions soient mises en place et surtout pour qu'elles le soient avec les moyens nécessaires.

Et maintenant la Chine. Oui. La Chine. La Chine dispose d'une sorte de grand ministère de l'administration du cyberespace, le CAC (Cyberspace Administration of China), qui jouit à la fois de pouvoirs de régulation et de censure. Le 27 Août 2021, ce CAC a publié sous forme d'appel à commentaires (sic) une série de trente "Dispositions relatives à l'administration des recommandations d'algorithmes pour les services d'information sur Internet."

Ces dispositions s'adressent à l'ensemble des acteurs, publics comme privés, mais surtout privés (on est en Chine, donc les acteurs publics sont … déjà suffisamment "régulés" …). Comme cela fut souligné à l'époque par un certain nombre d'analystes :

"Ces lignes directrices s'inscrivent dans le cadre d'une répression plus large à l'encontre des grandes entreprises technologiques chinoises et devraient toucher particulièrement des sociétés telles qu'Alibaba Group, Didi Global et ByteDance, propriétaire de TikTok, qui utilisent de tels algorithmes pour prédire les préférences des utilisateurs et faire des recommandations, et qui faisaient déjà l'objet d'un examen minutieux de la part des autorités de l'État chinois sur diverses questions."

Définitivement publiées et entrées en vigueur depuis le mois de Janvier 2022 et disponible en ligne sur le site de la CAC :

"Ces règles devraient permettre de préserver la sécurité nationale et les intérêts publics sociaux, de protéger les droits et intérêts légitimes des citoyens et de promouvoir le développement sain des services d'information sur Internet.

Le règlement exige des fournisseurs de services de recommandation d'algorithmes qu'ils respectent les droits des utilisateurs, y compris le droit de connaître l'algorithme, qui exige des fournisseurs qu'ils rendent publics les principes de base, les objectifs et les mécanismes de fonctionnement des algorithmes. Le règlement recommande également que les utilisateurs aient le droit de choisir des options qui ne sont pas spécifiques à leurs caractéristiques personnelles et de désactiver le service de recommandation de l'algorithme."

On pourra également trouver une traduction anglaise appropriée de ces 35 règles prenant effet au 1er Mars 2022. Dont voici quelques extraits (traduits de l'anglais via DeepL) :

Article 4 : La fourniture de services de recommandation algorithmique doit se conformer aux lois et règlements, observer la morale et l'éthique sociales, respecter l'éthique commerciale et l'éthique professionnelle, et respecter les principes d'équité et de justice, d'ouverture et de transparence, de science et de raison, de sincérité et de fiabilité.

Article 5 : Les organisations sectorielles concernées sont encouragées à renforcer l'autodiscipline sectorielle, à établir et à compléter les normes sectorielles, les normes sectorielles et les structures de gestion de l'autodiscipline, à superviser et à guider les fournisseurs de services de recommandation algorithmique dans la formulation et le perfectionnement des normes de service, la fourniture de services conformément à la loi et l'acceptation de la supervision sociale.

Article 6 (mon préféré 😉 : Les fournisseurs de services de recommandation algorithmique doivent respecter les orientations de valeur générales, optimiser les mécanismes de services de recommandation algorithmique, diffuser vigoureusement une énergie positive et faire progresser l'utilisation des algorithmes vers le haut et dans le sens du bien (sic).

Article 8 : Les fournisseurs de services de recommandation algorithmique doivent régulièrement examiner, vérifier, évaluer et contrôler les mécanismes algorithmiques, les modèles, les données et les résultats des applications, etc., et ne peuvent pas mettre en place des modèles algorithmiques qui violent les lois et règlements ou l'éthique et la morale, par exemple en conduisant les utilisateurs à la dépendance ou à la consommation excessive.

Article 10 : Les fournisseurs de services de recommandation algorithmique doivent renforcer la gestion des modèles d'utilisateur et des balises d'utilisateur et perfectionner les normes d'enregistrement des intérêts dans les modèles d'utilisateur et les normes de gestion des balises d'utilisateur. Ils ne peuvent pas saisir d'informations illégales ou nuisibles en tant que mots-clés dans les intérêts des utilisateurs ou les transformer en balises d'utilisateur afin de les utiliser comme base pour recommander des contenus d'information.

Article 12 : Les fournisseurs de services de recommandation algorithmique sont encouragés à utiliser de manière exhaustive des tactiques telles que la dé-pondération du contenu, les interventions sur la diffusion ("scattering interventions"), etc., et à optimiser la transparence et la compréhensibilité de la recherche, du classement, de la sélection, des notifications push, de l'affichage et d'autres normes de ce type, afin d'éviter de créer une influence néfaste sur les utilisateurs, et de prévenir ou de réduire les controverses ou les litiges.

Article 13 : Lorsque les prestataires de services de recommandation algorithmique fournissent des services d'information sur Internet, ils doivent obtenir un permis de service d'information sur Internet conformément à la loi et normaliser leur déploiement de services de collecte, d'édition et de diffusion d'informations sur Internet, de services de partage et de services de plateforme de diffusion. Ils ne peuvent pas générer ou synthétiser de fausses informations, et ne peuvent pas diffuser des informations non publiées par des unités de travail dans le cadre déterminé par l'État. (ah bah oui on est en Chine hein, donc une "fake news" en Chine c'est une information dont la source n'est pas le parti communiste chinois 😉

Mais la partie la plus intéressante c'est probablement le "Chapitre 3" qui concerne la "protection des droits des utilisateurs".

Article 16 : Les fournisseurs de services de recommandation algorithmique doivent informer les utilisateurs de manière claire sur la situation des services de recommandation algorithmique qu'ils fournissent, et publier de manière appropriée les principes de base, les objectifs et les motifs, les principaux mécanismes opérationnels, etc. des services de recommandation algorithmique.

On est ici sur une sorte de RGPD étendu au-delà des données elles-mêmes.

Article 17 : Les fournisseurs de services de recommandation algorithmique doivent offrir aux utilisateurs le choix de ne pas cibler leurs caractéristiques individuelles, ou offrir aux utilisateurs une option pratique pour désactiver les services de recommandation algorithmique. Lorsque les utilisateurs choisissent de désactiver les services de recommandation algorithmique, le fournisseur de services de recommandation algorithmique doit immédiatement cesser de fournir les services correspondants. Les fournisseurs de services de recommandation algorithmique offrent aux utilisateurs des fonctions leur permettant de choisir ou de supprimer les balises d'utilisateur utilisées pour les services de recommandation algorithmique visant leurs caractéristiques personnelles. Lorsque les fournisseurs de services de recommandation algorithmique utilisent des algorithmes d'une manière qui crée une influence majeure sur les droits et les intérêts des utilisateurs, ils doivent fournir une explication et assumer la responsabilité correspondante conformément à la loi.

J'arrête ici la reprise de cet inventaire et vous renvoie à la traduction anglaise exhaustive originale effectuée par le groupe DigiChina de l'université de Stanford.

Alors certes, cette loi est "sans précédent". Mais l'idée d'une régulation forte, "à la Chinoise", portant sur le contrôle des acteurs privés d'un internet pourtant déjà plus que nulle part ailleurs sous contrôle ou sous surveillance de l'état et du parti communiste chinois, et qui cible spécifiquement les questions dites des algorithmes "de recommandation", doit nous amener à réfléchir.

Réfléchir autour de ces questions "d'algorithmes de recommandation" qui pour nous, occidentaux, constituent factuellement une opportunité marchande non seulement acceptée mais également présentée comme non-régulable ou non-négociable (sauf cas particuliers d'incitation à la haine), et qui, pour le gouvernement chinois, sont identifiés comme un risque majeur sur deux plans : celui d'une ingérence toujours possible d'acteurs privés dans l'accès et le contrôle de l'information, et celui d'une "rééducation" de la population qu'il s'agit de maintenir à distance d'une certaine forme de technologie présentée comme "addictive" et dangereuse par le régime en place.

Le paradoxe en résumé est le suivant : c'est l'état le plus autoritaire et le moins démocratique qui propose une feuille de route "intéressante" et en tout cas fortement contraignante pour parvenir à réglementer, à rendre publics et à désactiver les algorithmes de recommandation que les états les plus démocratiques et les plus libéraux sont incapables (ou refusent) de mettre en oeuvre. La Chine le fait dans une logique de contrôle total sur l'accès à l'information et sur l'environnement cognitif de son peuple ; les états démocratiques et libéraux occidentaux refusent ou sont incapables de le faire au prétexte de ne pas s'immiscer dans la gestion de l'accès (dérégulé) à l'information et de ne pas se voir accusés d'ingérence ou d'influence dans l'environnement cognitif de leurs populations.

Ce paradoxe, à vrai dire n'est en pas un. Les états autoritaires ou totalitaires ont toujours été de bien meilleurs "régulateurs" que les états libéraux. "Et alors ?" me direz-vous. Et alors l'enseignement de tout cela, c'est qu'en Chine comme en France, aux Etats-Unis comme en Russie, bien plus qu'une décision, bien plus qu'une itération, un algorithme (de recommandation ou d'autre chose) est au moins autant un fait social qu'un artefact technique calculatoire. Et qu'il ne peut être compris, régulé, rendu "transparent à l'inspection, prévisible pour ceux qu'ils gouvernent, et robuste contre toute manipulation" qu'au regard du régime politique dans lequel et pour lequel il est déployé et dans lequel il peut aussi être dévoyé.

Quand j'écris qu'un algorithme est un fait social, j'entends l'expression au sens ou Durkheim la définit :

"toute manière de faire, fixée ou non, susceptible d'exercer sur l'individu une contrainte extérieure; ou bien encore, qui est générale dans l'étendue d'une société donnée tout en ayant une existence propre, indépendante de ses diverses manifestations au niveau individuel." (Les règles de la méthode sociologique)

Et je pourrais même ajouter que les plateformes qui à la fois "portent" mais aussi "se résument" aux algorithmes qui les traversent sont, chacune, un fait social total au sens où Marcel Mauss le définit :

"c’est-à-dire qu’ils mettent en branle dans certains cas la totalité de la société et de ses institutions (potlatch, clans affrontés, tribus se visitant, etc.) et dans d’autres cas seulement un très grand nombre d’institutions, en particulier lorsque ces échanges et ces contrats concernent plutôt des individus."

Kate Crawford écrivait de l'IA qu'elle était fondamentalement "une industrie du calcul intensive et extractive qui sert les intérêts dominants." Les algorithmes ne sont pas autre chose. Si la Chine décide de réguler fortement et drastiquement les algorithmes (privés) de recommandation c'est parce qu'elle y voit une concurrence dans ses intérêts dominants qui sont ceux d'être en capacité de discipliner les corps dans l'espace social (numérique ou non). A l'inverse, si les états occidentaux avancent si peu et si mal dans la régulation de ces mêmes algorithmes de recommandation c'est parce que laisser les plateformes qui les portent et les déploient intervenir en concurrence des états est, du point de vue de ces mêmes états, un projet politique parfaitement cohérent et qui sert les desseins du libéralisme, c'est à dire d'une diminution de la part de l'état dans la puissance publique et le fait de faire de l'individu isolé, le seul standard et le seul idéal.

Les recommandations en ligne téléportées dans le monde réel !

2 septembre 2017

Mountain wide hires, Signs of the Times © Scott Kelly et Ben Polkinghorne

Installation artistique déroutante et poétique, Signs of the Times part d’une idée de génie : décliner le principe des recommandations en ligne… dans le monde réel. Des pancartes, au beau milieu de la nature, vous proposent ainsi de visiter des lieux « aussi pittoresques que celui où vous vous trouvez ». Interview – décryptage avec leurs concepteurs.

Quand on leur demande « Qui dirige le monde ? », Scott Kelly et Ben Polkinghorne répondent : « les algorithmes de recommandation de filtrage collaboratif ». Ces suggestions, omniprésentes en ligne, apparaissent en fonction de ce que nous regardons, achetons et aimons, autant dire que l’étendue de leur influence est exponentielle. Sur Facebook elles ressemblent à : « Vous avez aimé ceci, vous aimerez cela » ; sur les sites e-commerce comme Amazon, les recommandations peaufinent leur pitch commercial : « Ceux qui ont acheté ceci ont également acheté cela ».

Amusante, pertinente, l’œuvre de Scott Kelly et Ben Polkinghorne (« aussi connus comme « Ben Polkinghorne et Scott Kelly », disent-ils d’eux mêmes) s’expose tout autour de la Nouvelle-Zélande. Pancartes intrusives situées dans des endroits pittoresques, elles indiquent d’autres endroits typiques que vous pourriez aimer. Si leur idée se veut d’utilité touristique, elle nous permet surtout de réfléchir à l’impact quotidien de ces recommandations.

P.A.M. Comment l’idée a-t-elle pris forme et quand avez-vous débuté le projet ?

S.K. et B.P. Nous sommes des créatifs, on bosse en équipe pour la publicité mais nous aimons aussi réaliser des projets parallèles. Nous avons eu l’idée durant l’été 2017, le projet ne s’est pas fait tout de suite car il y avait un peu d’exploration et de conception. Ensuite nous avons choisi des lieux publics de haut niveau, tout autour de la Nouvelle-Zélande.

Plutôt que de simplement faire une analyse unique, nous voulions montrer une gamme de panneaux. Ceux-ci ont été fabriqués chez nous par James, à Adhere. Ils font quatre mètres de large et le transport n’a pas été très simple, on nous a parfois lancé des regards interrogatifs. Une fois installés, nous nous sommes assis et nous avons regardé comment les gens les appréciaient. Puis nous avons, assez récemment, commencé à communiquer en ligne à propos du projet, et la réponse est très positive.

P.A.M. L’avez-vous mis en œuvre avec l’aide, ou l’accord, ou un contact formel, avec les autorités néo-zélandaises ? Si oui, comment ont-elles réagi ? Combien de temps les panneaux d’affichage doivent-ils rester en place ?

B.P. et S.K. Non. Pour ce genre de projet, nous croyons qu’il est bien plus facile de demander le pardon que la permission. Nous les avons donc installés partout. Notre but est simple, nous souhaitons donner le sourire aux gens pour qu’ils considèrent un instant à quel point il est fou que toutes nos décisions en ligne soient finalement fabriquées pour nous. Les réactions sont d’ailleurs si bonnes qu’un grand parc à Auckland nous a contactés pour discuter de l’installation d’un panneau permanent et personnalisé. Ce serait tellement cool !

**P.A.M.**Sur la page du site consacrée au projet, vous fournissez le lien pour une analyse approfondie de ce qu’on appelle les « Chambres d’écho » [L’idée selon laquelle les réseaux sociaux, en raison de ces recommandations automatiques, au lieu de nous ouvrir sur le monde, nous enferment autour de nous, autour des gens qui partagent les mêmes opinions, comme une chambre d’écho qui ne nous renverrait que ce que nous y apportons, ndlr]. C’est plutôt original pour une œuvre d’art. Pouvez-vous développer ? Pourquoi et comment vous voulez donner au lecteur ce genre d’information, ou de pensée ?

S.K. et B.P. Nous aimons Internet et, si ce n’est pas tous les jours, nous utilisons régulièrement des sites comme Amazon, Netflix, Facebook et Asos… Une fois que nous avons eu l’idée, nous avons pris le temps d’examiner le projet. Nous ne savions d’ailleurs même pas qu’il existait un nom particulier pour les encarts du type : « Si vous aimez ceci, vous pourriez aimer cela ».

Le monde des algorithmes de recommandation et de filtrage collaboratif est fascinant. Il y a par ailleurs un article auquel nous avons participé, ce n’est peut-être toujours pas une lecture facile, mais on part du principe que plus nous en savons, plus c’est intéressant : Comment les systèmes de recommandation affectent-ils la diversité des ventes ?

En attendant de découvrir un jour futur l’œuvre des deux Néo-Zélandais près de chez vous, n’hésitez pas à découvrir l’ensemble de leur travail ici. Et pour creuser le sujet, voici quelques bouquins pour en savoir davantage sur les algorithmes et leurs utilisations…

Facebook et l’algorithme du temps perdu

Olivier Ertzscheid26 juillet 2022

Facebook (désormais Meta) va – encore – changer d'algorithme. Ou plus exactement Facebook va (encore) changer la présentation et l'affectation que ce que nous y voyons. De ce qu'il nous laisse voir et entrevoir.

Il y a de cela quelques courtes années (2018), il opérait un changement présenté comme radical en annonçant vouloir davantage mettre en avant les contenus issus des publications de nos amis ainsi que de la dimension "locale" (ce qui se passe près de là où nous sommes géo-localisés). En France nous étions alors en plein mouvement des Gilets Jaunes et j'avais surnommé ce changement "l'algorithme des pauvres gens". Il fait aujourd'hui exactement … l'inverse.

Le 21 Juillet 2022 exactement, "Mark Méta Facebook Zuckerberg" annonce officiellement le déploiement d'une nouvelle version dans laquelle les publication de nos amis seront rassemblées dans un onglet qui ne sera plus celui de la consultation principale, laquelle sera toute entière trustée par les recommandations algorithmiques de contenus (notamment vidéos) n'ayant plus rien à voir avec nos cercles de socialisation hors le fait qu'ils y soient également exposés. C'est la "TikTokisation" de Facebook.

De l'algorithme des pauvres gens à celui … de la perte de temps.

Dans les mots choisis par Zuckerberg cela donne ceci :

"L'une des fonctionnalités les plus demandées pour Facebook est de faire en sorte que les gens ne manquent pas les publications de leurs amis. C'est pourquoi nous lançons aujourd'hui un onglet Flux dans lequel vous pouvez voir les publications de vos amis, groupes, pages et autres séparément, par ordre chronologique. L'application s'ouvrira toujours sur un flux personnalisé dans l'onglet Accueil, où notre moteur de découverte vous recommandera le contenu qui, selon nous, vous intéressera le plus. Mais l'onglet Flux vous permettra de personnaliser et de contrôler davantage votre expérience."

A la recherche de l'algorithme du temps perdu. Proust était à la recherche d'une vérité sentimentale, personnelles, mémorielle, qui n'était activable que dans les souvenirs d'un temps "perdu" ; Zuckerberg est à la recherche d'une vérité de l'assignation scopique et cognitive qui n'est activable que dans la prolifération instrumentale de contenus fabriqués pour nous faire oublier qu'il est un temps en dehors de celui du défilement infini.

Les raisons de ce changement sont assez simples. Il s'agit de toujours davantage valoriser des contenus "recommandés" par une "intelligence artificielle" (en fait un algorithme statistique entraîné et nourri par des méthodes d'apprentissage "profond"), contenus suffisamment thématisés pour avoir l'air personnalisés et suffisamment généralistes pour s'affilier au maximum de profils possibles. La normalisation alors produite opère une maximisation des rendements publicitaires : tout le monde voit peu ou prou la même chose tout en étant convaincu de ne voir que des recommandations personnalisées.

L'algorithmie selon Facebook (mais aussi selon Instagram, TikTok, Snapchat, et l'ensemble des réseaux et médias sociaux de masse), c'est la conjugaison parfaite de l'effet Barnum (biais cognitif induisant toute personne à accepter une vague description de la personnalité comme s'appliquant spécifiquement à elle-même) et de la kakonomie ("l'étrange mais très largement partagée préférence pour des échanges médiocres tant que personne ne trouve à s'en plaindre").

Effet Barnum et kakonomie auxquels il faut ajouter ce que l'on pourrait appeler, en s'inspirant de la théorie de Mark Granovetter, la force des recommandations faibles.

La force des recommandations faibles.

Facebook et les autres réseaux sociaux nous bassinent en affirmant que leurs "recommandations" sont toujours plus fines, plus précises, et plus personnalisées. La réalité est qu'elles sont toujours plus massives, toujours plus consensuelles, et toujours plus stéréotypiques. Pour Mark Granovetter, dans son article, "la force des liens faibles", paru en 1973 :

"(…) un réseau se compose de liens forts et de liens faibles. La force des liens est caractérisée par la combinaison du temps passé ensemble, de l'intensité émotionnelle, de l'intimité et de la réciprocité du lien entre l'agent A et l'agent B. Les liens forts sont ceux que l'on a avec des amis proches (il s'agit de relations soutenues et fréquentes). Les liens faibles sont faits de simples connaissances. Les liens faibles sont dits "forts" dans la mesure où, s'ils sont diversifiés, ils permettent de pénétrer d'autres réseaux sociaux que ceux constitués par les liens forts."

La force des recommandations faibles permet, de la même manière, de diversifier nos pratiques de consultation et d'échange en ligne en jouant principalement sur les deux paramètres fondamentaux que sont le "temps passé" et "l'intensité émotionnelle". Mais cette diversification est instrumentale et biaisée car elle n'a pas vocation à nous permettre d'agir dans d'autres cercles sociaux par des jeux d'opportunité, mais au contraire de massifier et de densifier un seul cercle social d'audience qui regroupe l'ensemble de nos consultations périphériques pour en faire une norme garantissant le modèle économique des grandes plateformes numériques.

Ils ont (encore) changé l'algorithme !

Pourquoi tous ces changements ? Un algorithme dans un réseau social c'est un peu comme un produit ou un rayon dans un supermarché. De temps en temps il faut le changer de place pour que les gens perdent leurs habitudes, traînent davantage et perdent du temps à la recherche de leurs produits et rayons habituels, et tombent si possible sur des produits et rayons … plus chers. Mais également pour que dans cette errance artificielle ils soient tentés d'acheter davantage. Tout le temps de l'errance est capitalisable pour de nouvelles fenêtres de sollicitations marchandes.

Or la question de l'urgence du changement est particulièrement d'actualité pour la firme qui risque pour la première fois de son histoire de perdre des parts de marché publicitaire, et qui, au cours des trois derniers mois de l'année dernière, avait annoncé qu'elle avait perdu des utilisateurs quotidiens pour la première fois en 18 ans d'histoire.

Dans une perspective historique plus large, il semble que la dimension conversationnelle tant vantée qui fut celle du web, puis des blogs, puis des marchés eux-mêmes (souvenez-vous du Cluetrain Manifesto), et enfin réseaux sociaux, soit arrivée à épuisement. Dans le meilleur des cas, elle a été remplacée par différents types de monologues autour desquels l'essentiel du dialogue se résume à des clics valant autant de claques tantôt approbatoires tantôt d'opprobre. Dans le pire des cas il s'agit de séquences formatées dont la potentialité virale est le seul attribut et dont se repaissent les promoteurs des "intelligences artificielles" dans leurs courses folles au nombre de vues et d'interactions pensées comme autant d'assignations.

Naturellement les conversations ne disparaissent jamais vraiment. Elles sont reléguées dans d'autres espaces numériques (quelques sites dédiés comme 4Chan et l'ensemble des application comme Messenger, WhatsApp, et tout ce que l'on nomme le Dark Social). Mais s'il fut un temps dans lequel l'enjeu des plateformes était de susciter des formes conversationnelles inédites et parfois complexes (des liens hypertextes aux trackbacks en passant pas les forums), l'enjeu n'est plus aujourd'hui que de susciter de stériles appétences pour le contenu suivant.

La part paradoxale de ces changements d'algorithmes ou d'interfaces (ou des deux à la fois) est qu'ils nous renvoient toujours à nos propres pondérations, à nos propres immobilismes, à nos propres routines, à nos propres habitus. Ce n'est pas l'algorithme qui change, c'est l'algorithme qui veut que nous changions. L'autre face sombre de ces changements réside, c'est désormais acquis, davantage dans ce qu'ils tendent à masquer à obscurcir et à ne plus faire voir, qu'à la loi de puissance qui veut qu'une part toujours plus congrue de contenus récolte une part toujours plus massive de visibilité et d'interactions.

Internet, c’est un truc de hippies

Le 12 décembre 2012 Laurent Chemla

Conçu en pleine période Flower Power par des barbus libertaires, Internet n'a jamais perdu – malgré les tentatives de récupération politiques et commerciales – son esprit profondément lié au partage. Cette prise de conscience doit perdurer et produire un acte de résistance face à la tentative forcenée de nivellement du monde par les inconscients qui nous gouvernent.

Je suis souvent présenté comme un dinosaure d’Internet, mais c’est faux : même si je suis trop vieux pour faire partie de la génération “digital-native”, j’étais trop jeune quand Internet est né, trop jeune pour pouvoir vivre une époque à laquelle toutes les utopies étaient encore imaginables. Ça n’a jamais empêché personne de me considérer comme un utopiste libertaire (par exemple, dans ce billet qui aligne un nombre d’idées fausses assez stupéfiant), vous êtes prévenus.

Et je voudrais, pour replacer mon propos dans son contexte historique, revenir quelques instants sur ce monde dans lequel Internet est né. Je crois que c’est important pour mieux comprendre ce qu’il est devenu.

Arpanet est né en 1969. J’avais 5 ans, Jon Postel et Vinton Cerf avaient 25 ans. Steve Crocker (24 ans) publiait la première RFC1. Ils étaient étudiants en Californie, à l’UCLA, en pleine contestation étudiante contre la guerre du Viêt Nam, en pleine lutte pour les droits des femmes et les droits civils sur les campus américains. C’est 2 ans après le “Summer of Love”, c’est l’année de Woodstock. Toute la côte ouest est en plein Flower Power.

On peut imaginer que — les geeks restant des geeks — nos trois jeunes ingénieurs ne faisaient pas partie des plus activistes, mais on ne peut pas ignorer l’ambiance qui entourait la naissance d’Internet. Et de là à penser qu’il est une invention de hippies, il n’y a qu’un pas. D’où croyez-vous que viennent les barbus ?

On dit souvent qu’Internet a cassé la logique hiérarchique verticale préalable et créé une société plus horizontale. On rappelle en permanence qu’il a permis l’usage de la liberté d’expression pour tous. Je vous engage à lire ou relire la RFC n°3 (publiée elle aussi en avril 69) qui définit la manière dont seront développés et discutés les futurs standards d’Internet, et en particulier la phrase “we hope to promote the exchange and discussion of considerably less than authoritative ideas”2.

Dès le départ, la philosophie d’Internet est basée sur la liberté d’expression, ouverte à tous, sans obligation d’appartenance à telle ou telle communauté. Le débat et la prise de parole sont encouragés, la forme est accessoire, le groupe est ouvert, seules les idées sont importantes, d’où qu’elles viennent.

Sont-ce les usages d’Internet qui ont transformé une société hautement hiérarchisée, ou a-t-il été créé pour produire précisément cet effet, à une époque où toutes les utopies étaient encore envisageables ? Sans doute un peu des deux, mais il est certain que, dès l’origine, les principes qui ont conduit à sa naissance n’étaient pas ceux de la société patriarcale qui prévalait jusque là, et il est au moins probable que l’environnement dans lequel baignaient ses pères a joué un rôle sur ce qu’il est devenu.

La tribu informatique

Comme on me l’a souvent rappelé, depuis que j’ai commencé à développer cette vision des origines, cette ouverture à tous avait — et a toujours — une limite importante : s’agissant de développer des protocoles informatiques, et quelle qu’ait été la volonté de ses fondateurs, l’initiative était cependant réservée à ce que Philippe Breton a décrit bien plus tard comme “la tribu informatique”. Et là aussi il est bon de se replonger un peu dans le passé pour mieux comprendre le présent.

A l’époque des débuts d’Internet, et jusqu’au milieu des années 70, le logiciel n’était pas considéré comme il l’est de nos jours. Ce n’était pas un objet commercialisable. Jusqu’au début des années 70, AT&T distribuait UNIX gratuitement aux universitaires, et la grande majorité des programmes étaient le fruit de travaux académiques et étaient diffusés, sources comprises, selon les principes académiques d’ouverture et de coopération.

Les informaticiens de cette époque avaient souvent besoin de porter tel ou tel outil d’un système d’exploitation à un autre, à une époque où l’hétérogénéité du parc matériel explosait. La notion de partage était fortement représentée dans la culture informatique, et elle a perduré y compris lorsque le marché du logiciel commercial a explosé, en se scindant d’un côté dans la culture du logiciel libre et de l’autre dans celle du piratage.

Avant notre génération “digital native”, les inventeurs d’Internet sont devenus adultes dans les années comprises entre la fin de la seconde guerre mondiale et la 1ère crise pétrolière, à l’époque du “I have a dream” de Martin Luther King, du flower power, de la conquète de la Lune, du boom de l’électroménager et de la liberté sexuelle. Tout semblait possible, et je crois que même des geeks retranchés dans des services informatiques, relégués en sous-sol, n’ont pas pu ignorer cet environnement social. Dans un livre publié en 1984, le journaliste Steven Levy a rapporté l’idéologie des premiers hackers et en a tiré ce qu’il a nommé “the hacker ethic” dont les points-clé semblent venir directement des idées hippies.

Je ne crois pas qu’on puisse comprendre Internet sans prendre en compte ces prémisses culturels. Même s’ils sont largement négligés de nos jours, ils ont imprégné toute la structure fondamentale du réseau et leurs conséquences sont toujours largement présentes aujourd’hui :

• la sécurité des systèmes est un problème de plus en plus important à tous les niveaux de la société, mais si ce problème existe c’est aussi parce que la sécurité des données n’était pas un enjeu important pendant les premiers temps de l’Internet. Les datagrammes ne sont pas chiffrés, les serveurs et les tuyaux sont partagés entre tous, le DNS n’est pas sécurisé, le routage est fait d’annonces que chacun peut corrompre. Jusqu’à une période très récente, les notions de partage et de confiance sont bien plus importantes, sur le réseau, que celles de sécurité et de confidentialité.

• TCP/IP est un langage de pair à pair : les notions de client et serveur sont applicatives, sur Internet, pas structurelles. Il n’y a pas de hiérarchie entre les ordinateurs qui sont reliés par le réseau : chacun peut, à tout instant, passer du récepteur au diffuseur sans avoir à obtenir d’autorisation préalable. Sur Internet, la prise de parole est possible partout, pour tous, tout le temps.

• l’impératif d’intéropérabilité à une époque où le matériel informatique évolue sans cesse dans une hétérogénéité croissante a imposé – si même la question s’était posée – l’usage de standards ouverts et des logiciels libres. Le développement d’Internet et des logiciels libres sont intriqués au point qu’on aurait du mal à imaginer ce que serait le réseau sans eux. Et malgré la toute-puissance des géants du logiciel commercial, ils se sont développés à un point tel qu’au moins la moitié d’entre vous a un téléphone qui fonctionne sous Linux. Si on m’avait dit ça au début des années 90, je me serais moqué.

• le choix de la transmission par paquet, du datagramme et d’un réseau maillé de pair à pair (en lieu et place des technologies de circuits virtuels et des réseaux en étoile) a créé un réseau qui ignore les frontières des États, qui met en relation des ordinateurs et des humains sans considération des législations locales, des tabous culturels et du contrôle policier. Couper totalement l’accès d’une population à Internet, aujourd’hui, implique non seulement la fermeture des accès locaux mais aussi celle de tout le réseau téléphonique cablé, gsm et satellite. C’est pratiquement impossible (et on a pu recevoir des images de Syrie la semaine dernière malgré toute la volonté du gouvernement local).

L’art de la guerre

Quoi qu’ils en disent aujourd’hui, les états ont mis un certain temps à prendre conscience des conséquences d’Internet. Quand nous – techniciens – pressentions vaguement au début des années 90 une révolution trop vaste pour qu’on puisse en envisager toute l’étendue, qu’on essayait de l’expliquer, d’en montrer l’importance, les puissances en place nous riaient au nez.

Et sans doute n’était-ce pas plus mal parce qu’il est difficile de savoir ce que serait le réseau si à l’époque nous avions su montrer au pouvoir ce que signifiait l’arrivée d’Internet chez tout le monde.

Aujourd’hui encore, je crois qu’il manque toujours au plus haut niveau des États une compréhension, une appropriation réelle des enjeux. Tout semble se passer comme si, malgré un affichage plus ou moins affirmé, ils ne parvenaient pas à appréhender l’existence et l’importance sociale, économique et philosophique d’un réseau global. J’ai récemment écrit qu’ils me donnaient l’impression de ne pas vivre dans le même monde que le reste de la population, tant chacune de leurs décisions concernant de près ou de loin Internet semblait contre-productive et rétrograde quand ce n’est pas inutile ou même risible.

Toujours est-il que, pendant que les grands de ce monde avaient le dos tourné, Internet s’est installé dans nos vies.

Ça a commencé lentement bien sûr. En France, Internet a longtemps été perçu par le grand-public comme un Minitel un peu plus évolué : on y trouvait pas beaucoup plus d’information, c’était plus compliqué à utiliser, ça demandait un investissement financier et personnel plus important.

Seuls quelques activistes en prenaient possession pour s’exprimer, avec bien entendu des dérives faciles à dénoncer qui ont probablement contribué à conforter les idées reçues de ceux auquel il n’apportait rien de nouveau, puisqu’eux avaient déjà accès à la parole publique, à l’information en avant-première, que les portes des musées leur étaient toujours ouvertes et qu’ils dinaient avec ceux dont le public attendait les prochaines oeuvres.

Et puis, petit à petit, le public a appris à utiliser le réseau. Les services se sont mis au niveau pour lui faciliter l’auto-édition, le partage, le débat et la diffusion. Et ce qui était auparavant réservé à quelques élites est devenu accessible à tout le monde au point d’être devenu pour tout un chacun une part importante de la vie quotidienne.

J’ai écrit aussi que je voyais leur action comme celle d’un antivirus : quand je vois mon ordinateur (celui qui est sous Windows) changer inexplicablement de comportement sans que mes actions n’y soient pour rien, mon premier réflexe est de penser qu’il a été infecté par un logiciel malveillant.

De la même manière, ceux qui se sentent responsables de la société ne peuvent pas accepter qu’elle change en dehors de leur action. C’est vécu comme une intrusion dans leur pré-carré, comme une activité forcément malveillante, puisque l’administrateur du système n’a pas voulu ni souhaité ce qui se produit dans son environnement. Alors il réagit, là où il aurait mieux fait d’agir.

Car il est bien trop tard pour agir : Internet est dans la place. Internet est partout, dans nos ordinateurs, nos téléphones, nos tablettes, nos télévisions et nos consoles de jeu. Bientôt il sera dans nos éclairages, nos clés, nos moyens de paiement. Aujourd’hui, même mon ampli audio se met à jour par Internet.

Quoi que devienne le réseau dans le futur une chose est sûre : nos machines sont toutes connectées entre elles, et nous le sommes tous entre nous, à travers elles. Et là où des humains sont reliés entre eux, il y a échange, partage, débat et transmission de savoir.

Il y a eu une guerre entre Internet et les pouvoirs en place. Et Internet l’a gagnée. L’envahisseur ne se cache plus : il est bien installé et il n’hésite pas à répondre quand, au coup par coup, nos dinosaures qui n’ont pas eu conscience de la chute de la comète tentent de survivre au changement en lui donnant quelques coups de patte bien peu efficaces.

Je ne vais pas refaire ici l’historique de ces pauvres tentatives d’empêcher un changement inéluctable : gouvernance, régulation, taxes diverses, refus des effets fiscaux de la globalisation quand elle concerne les géants du web alors qu’on l’encense quand elle vient de l’industrie du pétrole ou de la culture, tout ça est bien connu. C’est trop peu, trop tard, surtout trop tard.

Les révolutions arabes ont montré que l’usage des réseaux sociaux permettait d’organiser des actions de groupe là où dans le passé il fallait s’appuyer sur des syndicats ou des partis politiques pour mobiliser. Et je crois aussi que le Web, pour des jeunes qui atteignent aujourd’hui l’âge adulte et entrent dans la vie active en ayant eu pendant toute leur enfance sous les yeux l’opulence des pays les plus riches, a eu plus que sa part dans la motivation de révoltes qui, la crise économique aidant, ne feront que s’amplifier dans le futur.

Internet a gagné la guerre, et les populations savent s’en servir bien mieux que leurs gouvernants. Que ce soit pour prendre conscience de la façon dont il est maintenu dans la misère (Wikileaks bien sûr, mais au delà il suffit de voir la façon dont les affaires sortent via Twitter avant même les journaux télévisés pour comprendre que la couleur du Web est la transparence) ou pour organiser les mouvements sociaux, le peuple a désormais un outil qui a été créé pour rester hors de portée des tentatives de contrôle. Hadopi, Loppsi, Taxe Google, Cloud souverain et tentative de surveillance globale ne sont guère que des actions de guerilla de quelques groupes de résistants dépassés.

La guerilla est une tactique du faible au fort, et contre Internet ce sont les États qui la mènent. Je vous laisse conclure.

Les voleurs 2.0

Alors, et après ?

Longtemps, quand je prédisais la victoire d’Internet, j’ai eu en face de moi des amis qui, eux, craignaient que le commerce, les gouvernements, les forces réactionnaires de toutes provenances ne viennent réduire à néant les espoirs d’une société meilleure basée sur les principes de partage et de liberté qui ont été les bonnes fées penchées sur le berceau du réseau.

J’ai toujours fait partie du camp des optimistes. En considérant la vitesse à laquelle le public arrivait sur le réseau, et en calculant au doigt mouillé qu’il fallait en moyenne 5 ans pour passer d’un usage purement clientéliste à une appropriation plus complète des moyens d’expression et de diffusion mis à sa disposition, je faisais le pari – gagné d’avance – que la masse de gens qui auraient pris goût à la liberté serait trop importante pour un retour au statu quo ante bien avant que quiconque ne puisse réagir.

Comme toujours, j’avais raison.

Et comme toujours je me suis trompé.

Le danger n’est pas venu du commerce : ceux qui prédisaient la fin d’un Internet libre comme s’étaient éteintes les radios libres avaient oublié que l’espace numérique, à la différence du nombre des fréquences hertziennes, était infini et que quelle que soit la place prise par le commerce en ligne, il en resterait toujours autant qu’on en voulait pour le simple citoyen.

Il n’est pas venu non plus des politiques, qui n’ont jamais compris ce qui leur arrivait et qui ne le comprendront jamais : par nature, Internet rend inutiles un bon nombre d’intermédiaires, que ce soit entre les auteurs et leur public, entre les fabriquants ou les grossistes et le client final, ou entre les opinions et l’information et la population. Je crois que l’intermédiaire entre le peuple et la démocratie qu’est la représentation politique est vouée elle aussi à disparaître quelles que soient ses gesticulations pour repousser l’échéance.

Non, le danger n’est pas venu du passé, il est venu d’Internet lui-même.

La plus grande force d’Internet est dans sa résilience. Les choix technologiques du passé ont donné un réseau très fortement décentralisé, auto-correctif, quasiment impossible à contrôler – et donc à vaincre – par une entité unique quelle qu’elle soit en dehors de quelques erreurs historiques (la centralisation du DNS et du système d’adressage). Mais, peut-être à cause d’une croissance trop rapide due à la faiblesse de ses ennemis naturel, le réseau a développé une maladie auto-immune.

Longtemps on a parlé d’Internet comme d’un réseau dont l’intelligence était aux extrémités (end-to-end principle). Et il faut se souvenir que, même s’il y a du progrès depuis l’époque des modems RTC, le principe même du “fournisseur d’accès” est une rustine pour pallier à l’absence d’un vrai réseau informatique reliant tous les foyers entre eux. Internet est un réseau de réseaux, mais le client d’un FAI n’est pas un pair d’internet à égalité avec les serveurs qui le composent. L’asynchronie entre émission et réception, qui découle de l’usage de la paire de cuivre, tend à transformer l’utilisateur final en client simple plutôt qu’en égal qui peut participer aux échanges en tant que membre à part entière du réseau.

Il est facile de dire que cet état de fait répond aux usages et qu’un simple utilisateur n’est pas forcément quelqu’un qui participe autant qu’il consomme. Mais c’est une idée fausse, je crois : s’il n’était que récepteur, les médias broadcastés lui suffiraient. En réalité ce qu’on constate souvent c’est qu’il participe plus ou moins à hauteur de ce que sa bande passante montante lui permet et que ses usages dépendent de l’infrastructure qui lui est proposée bien plus que l’inverse.

En parallèle, et parce que la technologie transforme l’utilisateur en simple client, les services se centralisent. Ils deviennent ce qu’on appelle “des géants du Web” alors même que par principe dans un réseau de pair à pair ces termes devraient être antinomiques.

Et comme un cancer, le corps du patient devient son propre ennemi. J’ai raconté en conférence comment, par exemple, Facebook avait volé 4 fois ses utilisateurs (et en tant qu’ancien voleur je m’y connais). D’abord en transformant ses utilisateurs en ouvriers non-salariés – c’est le modèle du Web 2.0 qui consiste à vendre à ses clients, les régies publicitaires, un espace de contenus produits par des gens qui ne sont pas rémunérés mais qui attirent l’audience), puis en vendant à ces régies les informations privées – qui vous appartiennent mais que vous lui aviez confiées – pour qu’elles puissent mieux vous cibler, puis en vous vendant en bourse des parts de l’entreprise qui n’aurait aucune valeur sans votre participation, et enfin en vous proposant de payer pour promouvoir vos propres contenus auprès de vos amis, en un complet renversement du modèle normal qui veut qu’un auteur soit rémunéré en fonction de l’argent qu’il rapporte à son éditeur.

Difficile de faire mieux. Ou pire, c’est selon. Et pourtant, Facebook (et Google et iTunes et Amazon et tous les autres) y arrivent quand même : en devenant les géants qu’ils sont, en centralisant tous les services et les contenus comme ils le font, ces acteurs concentrent l’intelligence au centre du réseau et transforment les équipements tiers (smartphones, tablettes – de moins en moins interfaces d’interaction et de plus en plus interfaces de simple réception) en simples terminaux, qui de plus en plus peuvent – et sont – contrôlées à distance.

Et c’est un mouvement général : alors même que jamais le prix du stockage local n’a été aussi bas, la mode est au cloud. On ne conserve plus ses données chez soi, là où elles sont le plus en sécurité, mais chez un tiers, qui centralise toutes les données du monde. On voudrait créer un point central de totale insécurité et de contrôle total qu’on agirait pas autrement.

Et alors même que les gouvernements ne voyaient pas comment attaquer un réseau décentralisé pour reprendre le contrôle de l’évolution de nos sociétés, voilà que son plus grand ennemi lui offre sa reddition sur un plateau: s’il y a bien une chose à laquelle les États sont habitués, c’est de traiter avec les multinationales. Dans un jeu dont on vient de voir, avec Florange, comme il se joue, l’État français joue de la menace fiscale et légale contre Google, Amazon et tous les autres pour obtenir d’eux quelque prébende en échange d’une totale liberté dans l’exploitation de leur main-d’oeuvre.

Quant au contrôle des populations, c’est en cours, avec la possibilité de couper telle ou telle fonctionnalité d’un iPhone à distance chez Apple, pourquoi pas pendant une manifestation populaire dont un gouvernement ne voudrait pas qu’elle fasse trop parler d’elle, ou avec la volonté pour le CSA en France de contrôler les contenus sur le Web comme il le fait pour la télévision, ou enfin avec l’ITU qui veut redonner le pouvoir au politique plutôt qu’au citoyen en permettant des législations nationales applicables à tous les acteurs du Net.

Conclusion

Je reste l’éternel optimiste, je ne crois pas qu’Internet puisse être transformé au point de revenir à un monde dans lequel il faut avoir des amis, du pouvoir ou de l’argent pour avoir la possibilité d’exercer son droit à la liberté de parole “sans considération de frontières”.
Je veux croire que Facebook n’est qu’une mode passagère et que le public saura se détourner d’un Apple qui le prive de toute liberté d’utiliser comme il le souhaite le terminal qu’il possède.
Je veux croire qu’avec un peu de bouteille, les gens se détourneront des services gratuits d’un Google qu’il échange avec la confidentialité de ses données, de ses mails et de sa vie entière pour revenir à des services locaux, pourquoi pas à en réinstallant chez eux des serveurs de mail, pour commencer.

Dans mon monde idéal, les gouvernements se souviennent de leur rôle de prévision. Ils font d’Internet un service universel, en donnant aux intermédiaires une mission de service public en attendant qu’un plan fibre ambitieux permette à chacun d’organiser selon sa volonté sa connectivité, en devenant son propre FAI s’il le souhaite ou en déléguant à une association ou une entreprise, s’il le préfère. Sans filtrage, sans asymétrie des débits montants et descendants, sans services associés obligatoires.

À chacun de choisir s’il préfère un package où tout est géré par un tiers ou s’il veut être opérateur de son propre réseau tout en déléguant tel ou tel service. Un modèle comme celui-ci serait sans doute bien plus productif pour le redressement d’une économie tant locale que nationale que toutes les taxes Google du monde.

Il faudra sans doute se battre pour en arriver là, alors même que la bataille semblait gagnée d’avance. C’est dommage, mais Jefferson et La Fontaine le disaient déjà en leur temps:

Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l’une ni l’autre.

En laissant faire, après que les États ont senti le vent du boulet à ce point, je ne crois pas qu’on ait avant longtemps une nouvelle chance de garantir les libertés publiques si nous ne nous battons pas pour conserver celles que nous ont offertes de vieux soixante-huitards utopistes. Sinon nous aurons un réseau reterritorialisé, sous le contrôle de pouvoirs qui préfèrent la pérennité de leur main-mise au bonheur de leur peuple. Et parce qu’Internet n’est pas contrôlable par des démocraties, nous aurons des dictatures à la place.

Internet doit rester un truc de hippies.

Faire défiler. Le zéro (click) et l’infinite scroll.

Olivier Ertzscheid 1 mai 2022

Dans la suite d'une interview que je viens de donner (et qui paraîtra un jour dans l'excellent Epsiloon), quelques réflexions au sujet du "scrolling" ou plus exactement de "l'infinite scroll".

Depuis ma thèse en 2002 sur les liens hypertextes, je n'ai jamais cessé de m'interroger sur ce plus petit dénominateur commun de nos pratiques numériques et des outils et environnement qui peuplent et meublent nos vies connectées. Le passage du lien au like fut une révolution mortifère. Et avec l'économie de l'attention (et celle de l'occupation) se sont inventées des nouvelles formes de suggestions qui sont pour l'essentiel devenues autant de causes de (nos) sujétions.

Cela va peut-être vous paraître assez fou mais j'ai un souvenir précis, très précis même, de la première fois où je me suis trouvé face à l'invention d'Aza Raskin, le "scrolling infini". Plus besoin de cliquer sur "page suivante", on ne cessait plus jamais de … défiler. C'était en 2006. Et je me revois en train de "tester" cet infini. Je me revois dans ce paradoxe et dans l'épreuve fascinante de cet oxymore : on m'explique que ce défilement peut être infini mais je sais qu'il est en réalité "borné", qu'il aura une "fin" ; mais je perçois également que je serai ou épuisé ou lassé ou frustré ou contraint avant que d'atteindre cette finitude lointaine que l'on me présente à tort comme un infini. Alors je teste. J'essaie l'infini. Et je me souviens avoir été au moins autant infiniment perplexe qu'infiniment fasciné. Une mythologie. C'est l'image des Danaïdes et de leur tonneau percé qui m'est immédiatement apparue. Je regardais des Danaïdes remplir un tonneau percé et j'étais autant fasciné par la perversité du châtiment que par l'infini de cet écoulement et par la vanité de celles qui le rendaient possible.

Moi qui n'avais vécu toute ma vie que dans l'espace de la page, moi qui avais interrogé à de multiple reprises ce que le web avait fait de cet espace de la page, moi qui avais donc analysé ce que les liens hypertextes permettaient de faire aux relations entre ces pages et qui n'avais eu de cesse que de m'enthousiasmer pour cet espace de possibles, je voyais donc, et ce n'était pas neutre, désormais l'espace physique de la page céder et s'effondrer sous le poids d'un pseudo-infini qui allait tout changer. A commencer par la capacité de lire (comment lit-on un livre infini autrement que chez Borges ?) et la capacité de lier, de relier, et donc de relire (comment fait-on un lien vers l'infini et comment envisager de relire l'infini puisqu'il n'est jamais possible simplement de le lire en entier).

Je voyais la lecture céder devant la consultation, je percevais le double sens de ce dernier terme qui convoquait déjà sémantiquement la question d'une pathologisation : lorsque l'on va consulter c'est bien que l'on se sent malade. Je voyais aussi la capacité de lier s'effacer derrière l'injonction de liker. Je m'arrangeais avec ma propre Cassandre. Je me questionnais aussi : lorsque l'on inventa le "codex", c'est à dire le livre sous sa forme actuelle, on cessa d'utiliser des "volumen" (livre en rouleau) précisément car la forme du rouleau ne permettait pas de repérage facile dans un texte, parce qu'elle rendait complexe tout retour en arrière, mais aussi pour tout un tas d'autres raisons anthropologiques et cognitives. Or le défilement infini d'aujourd'hui est par bien des égards semblable aux inconvénients du "volumen" mais il se présente pourtant comme un aboutissement, comme une évolution critiquée mais "positiviste" de notre rapport à l'information et à sa manipulation. C'est ce "positivisme" qui interroge. Une technologie intellectuelle ne s'invente jamais seule. Elle est le fruit d'une époque, d'un rapport à l'information et au savoir, d'une organisation des pouvoirs qu'il s'agit d'éprouver en la contestant ou en la renforçant ainsi que d'un jeu complexe d'affordances cognitives et corporelles.

Il y a donc, c'est à peu près certain, quelque chose de politique à questionner dans l'invention du défilement infini. Nous y reviendrons plus tard.

Linéarité(s).

Tous les médias arrivent avec leurs linéarités, leurs repères orthonormés attentionnels. Presse, radio, télé, chacun a ses espaces de déploiement, de repli, ses abscisses de programmes et ses ordonnées d'audiences, ses contraintes de format et la nécessité d'y trouver des issues de défilement. Toujours et tout le temps pour chaque média il faut offrir et garantir la possibilité de ce défilement. Faire défiler les articles, les émissions, les stations, les chaînes.

Sur mes vieux postes de radio analogiques déjà je faisais défiler. Je scrollais. Souvent, déjà à l'aide de mon pouce et de mon index.

Sur nos télés, quand plusieurs chaînes vinrent et que les télécommandes les accompagnèrent, alors là aussi nous défilâmes jusqu'à parfois ne faire plus que cela. Déjà. Et déjà notre pouce posé dessus.

Aujourd'hui le champ de ces linéarités médiatiques est exponentiel. A la délinéarisation des médias audiovisuels, qui date en France d'un peu plus de 10 ans, répond une linéarisation croissante et constante des médias sociaux numériques qui agrègent nos capacités attentionnelles dans un défilement qui doit nous être proposé comme une forme de non-choix, comme s'il n'y avait pas d'autre alternative que celle de cette consultation infinie, rectiligne, assignée.

Une linéarisation à marche forcée qui intègre d'ailleurs les médias "délinéarisés" sous forme de courtes séquences ou extraits, et qui sont ainsi relinéarisés, réagencés et réassignés attentionnellement. Du "mur" de Facebook au "fil" de Twitter, d'Instagram à TikTok, il y a cette forme de boulimie attentionnelle qui constamment fait défiler, les contenus à la verticale, et les Stories à l'horizontale. Le plus souvent en tout cas. Comme si l'horizontalité était la marque de l'éphémère, de ce qui s'efface, et que la verticalité était tout au contraire cet enfouissement légitime et nécessaire vers lequel on nous traîne et auquel on nous entraîne.

Deleuze et Guattari parlaient de [déterritorialisation](https://fr.wikipedia.org/wiki/Déterritorialisation#:~:text=La déterritorialisation est un concept,actualisation dans d'autres contextes.) (et de reterritorialisation). Ces délinéarisations (et leurs relinéarisations) en sont les états de stase paradoxaux : le défilement infini est ce qui permet de figer, de ralentir ou d'arrêter la capacité d'actualiser un certain nombre de relations dans d'autres contextes et donc d'assurer et de garantir la mouvance d'un corps social qui sans cela, se fige, s'assigne, et ne se perçoit plus que comme un "regardant" qui accepte dès lors, sur plein de sujets, d'être finalement "assez peu regardant".

Mais quels sont ces fils que l'on fait dé-filer à l'infini ?

Filaire. Nos communications sont filaires. Ou sans fil. Nos réseaux sociaux sont pourvus de "fils" que l'on suit et qui donc défilent. Souvent d'ailleurs on "perd le fil" de ces conversations. Alors revenons aux fondamentaux de l'économie filaire. Celle du métier à tisser. Métier à tisser dont la mécanisation fut, dans l'Angleterre du 18ème siècle, la première grande révolution industrielle. Et si la révolution numérique, en tout cas celle que l'on nous vend dans les atours d'une start-up nation piétinant l'éthique, n'était que la continuation de cette révolution du tissage et de sa mécanisation ? La révolution de la mécanisation de nos conversations, de nos "fils" Twitter égarés dans la toile mondiale ?

Je veux un temps garder cette analogie du métier à tisser pour expliquer quelque chose. Dans un métier à tisser, quand on "file" c'est à dire que l'on fait "dé / filer", alors quelque chose se construit, quelque chose se tisse. Une toile, une tenture, un parement, un vêtement, des images ou des mots.

Quand on fait défiler les pages d'un livre (étymologiquement comme Barthes le rappelle, texte = tissu) on fabrique quelque chose d'un imaginaire qui nous est propre. Pour citer exactement Barthes :

"« (…) Texte veut dire tissu. Mais alors que jusqu’ici on a toujours pris ce tissu pour un produit, derrière lequel se tient, plus ou moins caché, le sens (la vérité), nous accentuons maintenant, dans le tissu, l’idée que le texte se fait, se travaille, à travers un entrelacs perpétuel ; perdu dans ce tissu – cette texture- le sujet s’y défait, telle une araignée qui se dissoudrait elle-même dans les sécrétions constructives de sa toile. Si nous aimions les néologismes, nous pourrions définir la théorie du texte comme une hyphologie (hyphos, c’est le tissu et la toile d’araignée) ». Barthes, Roland, Le plaisir du texte, -1973- Paris, Edition du Seuil, 2000, p. 126.

Son "hyphologie" de 1973 était déjà la toile du web de 1989.

La question est de savoir ce qui se construit dans le défilement infini, dans "l'infinite scroll". Et la place que ces défilements infinis laissent à la fois au vagabondage de l'imaginaire et à la volonté d'aller. Or il semble que là, dans ces défilements incessants et hypnotiques, non seulement on ne fabrique rien (ou si peu) et il n'y a que peu de places pour notre imaginaire. Et que la volonté est celle de Danaïdes ignorantes de leur châtiment et se satisfaisant de la vanité de leur tâche.

Le zéro (click) et l'infini(te scroll)

Il y a un point frappant pour les boomers du web dans mon genre qui ont vécu et en quelque sorte métabolisé l'évolution du web depuis son invention en 1989. Longtemps le scrolling fut du côté des moteurs de recherche et de l'activité de navigation elle-même, activité qui ne pouvait être autre chose qu'une dynamique de défilement. On faisait défiler les pages et les pages de résultats sur les moteurs de recherche de l'époque (on faisait même défiler les pages de résultats des annuaires de recherche …). Plus tard on faisait défiler les pages et les comptes des premiers sites communautaires, Geocities et tant d'autres. Puis on fit défiler les blogs et leurs billets. A chaque fois ce défilement agissait à la manière d'une focale : on cherchait à préciser quelque chose, à finaliser une recherche, une tâche même vague. Mais à chaque fois il fallait cliquer sur un lien. La dimension de la flânerie était aussi bien sûr présente, mais c'était une flânerie souvent entièrement aléatoire, stochastique, et c'était une flânerie qui nécessitait périodiquement d'être relancée, à chaque fois que l'on tombait sur un cul de sac du web, et il y en avait encore, des culs de sac du web. Et puis c'était une flânerie qui acceptait d'être déceptive. La flânerie parfois ne donnait et ne débouchait sur rien. Et l'on éprouvait ou en tout cas on avait une forme de conscience de l'existence d'une limite, d'un achevé, d'une fin. Non pas que même à l'époque l'on imaginât être en capacité d'épuiser toutes les navigations possibles mais on voyait, oui, on voyait, qu'il y avait une fin. Alors on faisait autre chose. Et puis …

Et puis progressivement, les moteurs de recherche se firent plus précis, plus pertinents, et l'ensemble des écosystèmes numériques vers lesquels ils pointaient et qu'ils organisaient se mit à répondre plus précisément, plus directement à des requêtes que nous nous mîmes donc à formuler plus explicitement. L'arrivée de Google y joua un rôle primordial bien sûr. Ce que l'on y gagnait en précision on l'y perdait en capacité d'indécision. Cette même capacité d'indécision qui conditionnait les logiques premières de nos flâneries numériques, de nos navigations qui viraient parfois en divagations. L'indéterminé céda devant tous les déterminismes. Ce que l'on pouvait trouver ou retrouver devînt ce que l'on devait trouver ou retrouver. Et puis …

Et puis la massification du web aidant, et puis la dynamique des réseaux sociaux et de leurs tunnels attentionnels jouant à plein, progressivement l'objectif de chaque biotope numérique se modifia. Les moteurs de recherche n'avaient plus pour enjeu de nous présenter autant de pages pertinentes que possible mais de nous inciter à cliquer sur la première page la plus pertinente estimée (si possible en lien sponsorisé). Les réseaux sociaux n'avaient plus pour enjeu de nous présenter autant de profils et de contenus dissemblables que possible mais de nous "rassurer" et de nous conforter dans des routines d'usages à la fois plus homogènes, plus linéaires et plus cognitivement alignées avec nos propres préférences et croyances, préférences et croyances qu'ils maîtrisaient chaque jour davantage un peu mieux.

Une mue radicale s'opéra. Du côté des moteurs de recherche et des écosystèmes marchands, c'est l'objectif zero click qui devînt la norme.

"Objectif zéro clic. Savoir à l'avance ce que vous voulez, ce que vous allez faire, ce que vous allez commander, avec qui vous allez vouloir parler, quel parcours pour votre jogging vous allez emprunter. Objectif zéro clic. Plus jamais. Des like si vous voulez, des +1 à la rigueur. Mais des liens et des clics, attention danger. Ou alors seulement ceux que nous aurons choisi pour vous. Un web balisé. Des régimes attentionnels parqués. Une navigation carcérale. Choisir le web que nous voulons."

Il fallait qu'il n'y ait même plus l'intermédiaire d'un click entre l'expression de notre désir ou de notre envie et sa réalisation, son opérationnalisation marchande et commerciale. Pour Google par exemple l'idée était d'encapsuler autant que possible les réponses à nos questions sur la page même de résultats de son moteur de recherche, pour que nous n'ayons plus à cliquer et à "sortir" de l'environnement Google. Les réseaux sociaux, eux, évacuèrent le clic pour le remplacer par le like : puisque nous n'avions plus à cliquer sur rien et puisque que toutes les informations support de nos navigations nous étaient "proposées" et suggérées sans même l'intermédiaire de la formalisation d'une requête, il fallait trouver à la fois un autre moyen de caractériser ce qui retenait notre attention et conditionnait le temps passé à naviguer, et il fallait aussi que ce moyen nous "implique" autrement que dans une simple activité de scrutation, que nous ne soyons pas simplement spectateurs. Ce moyen ce fut le "like" et l'ensemble des autres métriques affectives déployées. Et à côté, en parallèle, en symétrie et en miroir de ce zéro click se développèrent donc des logiques de défilement infini où ne comptait plus que la dynamique hypnotique du défilement qui nous attirait sans que jamais nous ne l'ayons réellement choisi.

Le zéro click et l'infinite scroll. Trente ans d'histoire du web.

Bonus track : la libido et les lipides.

Dans le défilement infini il y a un horizon d'attente qui n'est jamais comblé par un aboutissement. C'est donc une accumulation de frustrations qui débouchent sur un renoncement à avoir "fait" ou "trouvé" ou même "appris" quelque chose. Pour autant que le souvenir, pour autant que "se" souvenir puisse être un étalon de mesure. Car nous nous souvenons des livres que nous avons lu, des émissions que nous avons regardées, des chansons que nous avons écoutées. Nous nous en souvenons, parfois parfaitement, d'autre fois très imparfaitement, mais ce souvenir est toujours mobilisable. De quoi nous souvenons-nous après avoir passé 2 heures ou 10 minutes à faire défiler … à faire défiler quoi d'ailleurs ? C'est une question que je me pose souvent.

La clé, l'une des clés avec la capacité de se souvenir et donc de faire mémoire mobilisable, c'est la clé du désir. Du désir de défiler. Du désir de faire défiler. Du désir de se défiler. Du désir de s'y filer. Et de s'interroger sur la dimension contrainte qui fait que faire défiler inclut l'impossibilité de "se défiler", au propre comme au figuré.

Parler d'économie (de l'attention) et de désir, c'est revenir aux [travaux fondamentaux de l'association Ars Industrialis, autour notamment de ce qu'est l'économie libidinale](https://arsindustrialis.org/economie-libidinale#:~:text=L'économie libidinale est un,en réserve (comme investissement).) (je souligne) :

"L’économie libidinale est un concept freudien fondamental qui nomme l’énergie produite par une économie des investissements sexuels constituée par leur désexualisation. L’économie de cette énergie (la libido) transforme les pulsions (dont la pulsion sexuelle) en les mettant en réserve (comme investissement). Toute société repose sur une économie libidinale qui transforme la satisfaction des pulsions, par essence asociales, en un acte social. (…)

Capitalisme et libido. Le capitalisme du XXe siècle a fait de la libido sa principale énergie. Il ne suffit pas de disposer de pétrole pour « faire marcher » le capitalisme consumériste : il faut pouvoir exploiter aussi et surtout la libido. L’énergie libidinale doit être canalisée sur les objets de la consommation afin d’absorber les excédents de la production industrielle. Il s’agit de façonner des désirs selon les besoins de la rentabilité des investissements – c’est à dire aussi bien de rabattre les désirs sur les besoins. L’exploitation managériale illimitée de la libido est ce qui détruit notre désir. De même que l’exploitation du charbon et du pétrole nous force aujourd’hui à trouver des énergies renouvelables, de même, il faut trouver une énergie renouvelable de la libido – ce pourquoi nous disons que c’est un problème écologique.

Seule l’analyse en termes d’économie libidinale permet de comprendre pourquoi et comment la tendance pulsionnelle du système psychique et la tendance spéculative du système économique font précisément système. Une économie de marché saine est une économie où les tendances à l’investissement se combinent avec des tendances sublimatoires – ce qui n’est précisément plus le cas."

D'une économie de la libido ([économie libidinale](https://arsindustrialis.org/economie-libidinale#:~:text=L'économie libidinale est un,en réserve (comme investissement).)) dont l'objet est le désir (et la capacité de le créer), on passe avec le "scroll infini" à une économie des lipides, une économie lipidinale (pardon pour le néologisme), une économie attentionnelle du gras (du pouce), de l'immobilité, et peut-être aussi d'une absence de désir ou d'appétence pour autre chose que la contemplation de ce que l'on fait défiler devant nous en nous laissant l'impression de garder l'initiative du défilement.

Neuralink : le fantasme d'Elon Musk pour nous implanter des puces dans le cerveau

La startup Neuralink, une des entreprises d'Elon Musk, a annoncé jeudi qu'elle avait reçu l'accord des autorités sanitaires américaines pour tester ses implants cérébraux connectés sur des humains. L'entreprise a récemment franchi une étape majeure dans son développement. Toutefois, cette avancée a été précédée par des critiques et des préoccupations.

La technologie proposée par Neuralink suscite un vif intérêt, notamment pour les patients atteints de maladies neurologiques.

« C'est un premier pas important qui permettra un jour à notre technologie d'aider de nombreuses personnes », a déclaré la société californienne sur son compte Twitter, précisant que « les recrutements pour les essais cliniques (sur humain) ne sont pas encore ouverts ».

Neuralink conçoit des appareils connectés à implanter dans le cerveau pour communiquer avec les ordinateurs directement par la pensée. Ils doivent d'abord servir à aider des personnes paralysées ou souffrant de maladies neurologiques.

La start-up veut ensuite rendre ces implants suffisamment sûrs et fiables pour qu'ils relèvent de la chirurgie élective (de confort) - des personnes pourraient alors débourser quelques milliers de dollars pour doter leur cerveau d'une puissance informatique.

Pour Elon Musk, ces puces doivent permettre à l'humanité d'arriver à une « symbiose avec l'IA », selon ses mots de 2020, prononcés lors de la conférence annuelle de l'entreprise.

« Nous sommes désormais confiants sur le fait que l'appareil de Neuralink est prêt pour les humains, donc le calendrier dépend du processus d'approbation de la FDA (Food & Drug Administration l'agence chargée de la santé publique aux États-Unis) », avait-il indiqué fin novembre sur Twitter, un mois après avoir racheté le réseau social.

Étape clé dans le développement de Neuralink

Le patron de Tesla et SpaceX est un habitué des prédictions hasardeuses, notamment au sujet de l'autonomie des voitures électriques Tesla. En juillet 2019, il avait estimé que Neuralink pourrait réaliser ses premiers tests sur des individus en 2020.

Pour l'instant, les prototypes de la taille d'une pièce de monnaie ont été implantés dans le crâne d'animaux. Plusieurs singes sont ainsi capables de jouer à des jeux vidéo ou de taper des mots sur un écran, simplement en suivant des yeux le mouvement du curseur à l'écran.

Fin novembre, la start-up avait aussi fait le point sur ses dernières avancées dans la conception d'un robot-chirurgien et le développement d'autres implants, à installer dans la moelle épinière ou les yeux, pour rendre la mobilité ou la vision.

D'autres entreprises travaillent également sur le contrôle des ordinateurs par la pensée, comme Synchron, qui a annoncé en juillet 2022 avoir implanté la première interface cerveau-machine aux États-Unis.

« Nous construisons une technologie capable de diffuser directement la pensée des personnes qui ont perdu la capacité de bouger ou de parler à cause d'une maladie ou de blessures », explique Thomas Oxley, le fondateur et patron de cette start-up, dans une vidéo sur son site web.

Plusieurs patients testent l'implant, qui a été inséré dans des vaisseaux sanguins, pour pouvoir composer des emails ou aller sur internet grâce à leurs yeux et à leur cerveau.

Accusations de maltraitance envers les animaux de laboratoire

Une enquête menée par l'Inspection générale du ministère américain de l'Agriculture (USDA) avait permis d'interroger les employés, actuels et anciens, de Neuralink. Un grand nombre d'entre eux avait avoué avoir subi une pression intense de la part du sulfureux patron libertarien pour accélérer le projet, au risque de commettre de graves négligences ayant un impact sur la santé des animaux.

Un groupe de défense des droits des animaux avait déposé une plainte contre la start-up. Les équipes de recherche ont ainsi été accusées d'avoir négligé les expériences sur les singes de laboratoire et d'avoir commis des erreurs préjudiciables. L'utilisation d'une colle chirurgicale inadaptée et l'implantation d'appareils de taille incorrecte auraient provoqué des souffrances chez les animaux, allant parfois jusqu'au décès du sujet.

Les chiffres révélés à l'époque étaient alarmants : depuis 2018, environ 1.500 animaux (moutons, porcs, singes, etc.) ont perdu la vie lors des tests réalisés par le laboratoire. Cependant, Elon Musk a toujours nié les accusations de maltraitance animale, allant jusqu'à affirmer que les laboratoires de Neuralink étaient de véritable « Disneyland pour les singes ».

Les inquiétudes de la FDA concernant l'implant cérébral

Le projet Neuralink suscite une vive critique depuis ses débuts. Malgré les réticences des ONG et la prudence des médecins, l'entreprise continue son développement. Un rapport publié en mars 2023 révèle le refus d'une première demande auprès de la FDA.

La FDA, l'agence américaine chargée de la régulation des produits médicaux, exprime des préoccupations légitimes quant à l'implant cérébral proposé par Neuralink. Implanter une puce dans le cerveau humain comporte des risques importants et la FDA ne souhaite pas prendre de risques inutiles. En particulier, l'agence s'inquiète des fils utilisés pour connecter l'implant à sa petite batterie.

Ces fils peuvent se déplacer dans le cortex des patients et provoquer de nouvelles lésions en cas de mouvement imprévu. Dans une zone aussi sensible que le cortex moteur, un simple déplacement d'un millimètre de la batterie ou de l'implant pourrait avoir des conséquences graves, pouvant entraîner une cécité ou même déclencher un accident vasculaire cérébral en quelques instants.

La maîtrise des risques... à confirmer

La maîtrise des risques est un enjeu crucial dans le développement de l'implant cérébral de Neuralink. La FDA demande des garanties solides pour assurer la sécurité des patients. Les conséquences potentielles des mouvements imprévus de l'implant ou de la batterie sont préoccupantes, notamment en termes de perte de vision ou de risques d'accident vasculaire cérébral.

Neuralink doit donc s'engager à mettre en place des mesures rigoureuses pour éviter ces problèmes. La sécurité et le bien-être des patients doivent être une priorité absolue dans le développement de cette technologie novatrice.

Malgré les préoccupations actuelles, Neuralink continue d'avancer dans son développement. L'entreprise est déterminée à résoudre les problèmes soulevés par la FDA et à répondre aux exigences strictes en matière de maîtrise des risques. Si ces défis sont relevés avec succès, l'implant cérébral de Neuralink pourrait ouvrir la voie à des avancées médicales significatives dans le domaine des neurosciences.

« Les enfants grandissent trop vite » : comment la sexualité virtuelle des mineurs est exploitée sur les réseaux

Par David-Julien Rahmil - Le 21 juin 2023

Perçue comme anecdotique il y a sept ans, l'exploitation sexuelle des mineurs en ligne à travers le partage de nudes est devenue un problème systémique et généralisé. On a voulu comprendre pourquoi.

Cet article accompagne la sortie de la revue n°33 de L'ADN consacrée aux différentes formes d'exploitation des enfants en ligne. Il est le résultat d'une longue enquête menée auprès d'associations d'aide aux victimes de cyberviolence et de victimes de grooming. Retrouvez la revue de L'ADN sur notre boutique en ligne.

« Et si mes copains reçoivent mes photos, je fais quoi ? » Dans l'oreillette de Mathilde, on devine une voix paniquée. C'est celle d'un adolescent anonyme que nous appellerons Arthur. Il a décidé d'appeler le 3018, la plateforme d'aide téléphonique contre les cyberviolences après avoir été berné par un brouteur. Ces arnaqueurs professionnels qui agissent depuis des pays d'Afrique comme la Côte d'Ivoire ou le Bénin exploitent en ce moment une nouvelle combine. Après avoir piraté des comptes Instagram de jeunes filles, ils utilisent ces derniers pour draguer des collégiens et des lycéens sur les réseaux et les inciter à envoyer des nudes ou à se masturber face à leur webcam. C'est ce qui est arrivé à Arthur qui s'est ensuite trouvé sous la menace d'un chantage : celui de payer quelques centaines d'euros ou de prendre le risque de voir ses photos intimes partagées à ses amis et ses parents. Il se retrouve maintenant face au mur et aussi face à sa honte et sa colère de s'être fait berner.

Comme les cinq autres écoutants dans la salle, Mathilde sait employer le ton et les mots qui rassurent. D'une voix posée, elle indique à Arthur qu'il n'est pas le seul à s'être fait avoir et le déculpabilise en lui indiquant qu'il n'a rien fait de mal. Elle lui dit aussi qu'il ne risque pas grand-chose, tant qu'il ne paye pas. « Ces gens sont surtout là pour ferrer les victimes qui veulent bien payer, explique-t-elle. Si tu payes ce qu'ils demandent, ils ne vont pas s'arrêter et vont continuer à te demander des sommes de plus en plus importantes. D'après notre expérience, ils diffusent très rarement les images quand ils font face à un refus et ils passent rapidement à quelqu'un d'autre, malheureusement. » Elle le conseille aussi d'en parler avec ses amis et de les prévenir au cas où ils recevraient des photos de lui. Dans ce cas, ils doivent prendre une capture de l'image et du nom du compte qui l'a envoyé pour que la plateforme puisse envoyer une demande de bannissement. 

L'affolante montée de l'agression sexuelle en ligne

Des cas comme celui d'Arthur, le 3018 en traite de manière quotidienne. Ouvert depuis 2021, le numéro  de la plateforme apparaît dorénavant sur les cahiers de correspondance des collégiens et des lycéens. Gérée par l’association e-Enfance qui existe depuis 17 ans, cette plateforme reçoit environ 80 appels par jour, soit 25 000 appels par an. 60 % des demandes concernent le cyberharcèlement, le chantage à la webcam ou la diffusion de nudes. En un an, l’association a aussi permis la suppression de 10 000 contenus ou comptes malveillants sur les réseaux. Installé dans un coin du plateau téléphonique, Vincent, le coordinateur de la plateforme d'écoute, résume la situation. « Le harcèlement et la publication de nudes, qu'on appelle souvent revenge porn, existe depuis longtemps, indique-t-il. Mais depuis le confinement, nous avons eu une explosion d'agressions sexuelles par écran interposé.  Il y a eu beaucoup de comptes fisha, ces comptes tenus par d'autres adolescents ou de jeunes adultes sur Snapchat, ou Telegram et sur lesquels sont publiés des photos de nudes de jeunes filles. On a fait supprimer 3000 comptes en 2021 et à peu près le même chiffre en 2022. »

Au-delà des résultats mis en avant par le 3018, il est toutefois difficile de quantifier réellement le phénomène en France tant ce dernier n'est pas étudié de manière systématique. On sait tout au plus que 20 % des 6-18 ans ont déjà été confrontés à des situations de cyberharcèlement selon une enquête menée en juin 2021 par Audirep pour l’association e-Enfance. Mais quand on fait le tour des associations de terrain confrontées à ces problématiques, toutes sont unanimes : les cas de cyberviolences sexuelles comme la publication de nudes ou la sextortion ont explosé depuis 2020 et touchent des enfants de plus en plus jeunes. Ce constat empirique est confirmé par des études internationales. Selon la National Society for the Prevention of Cruelty to Children, les cas de crimes sexuels en ligne touchant les mineurs ont augmenté de 84 % entre 2018 et 2022 et toucheraient plus particulièrement les adolescents de 12 à 15 ans. Une autre étude, italienne celle-là, indique que deux enfants sur 10 de moins de 13 ans sont concernés par ces agressions à caractère sexuel en ligne, autant les garçons que les filles. 

Des débuts de vie sexuelle virtuels

Plusieurs facteurs expliquent ce phénomène. D'après Clara, la psychologue et coordinatrice adjointe du 3018, l'enfermement forcé de 2020 a accéléré une tendance qui progressait déjà auparavant : les jeunes débutent leur première expérimentation sexuelle sur les réseaux et par écran interposé. « Quand on échange avec eux au téléphone, on se rend compte que tout l'aspect de la rencontre hors écrans devient très secondaire, explique-t-elle. Le fait de pouvoir s'inventer une identité en ligne et d'avoir accès via le smartphone à une quantité invraisemblable d'autres personnes fait qu'ils vont beaucoup plus investir dans une forme de sexualité virtuelle. À travers les écrans, on peut projeter une image idéale de soi, mais on peut aussi plus facilement mentir, jouer sur les sentiments et manipuler les autres sans avoir vraiment conscience des conséquences. » Cet investissement de la vie sexuelle et amoureuse est confirmé par Margot Déage, docteure en sociologie et auteur de l'ouvrage À l'école des mauvaises réputations qui traite de la vie secrète des collégiens sur les réseaux. « La première chose qui frappe avec cette classe d’âge, c’est le contrôle et la surveillance qu’ils exercent entre eux, au sein du collège indique-t-elle. Ils sont toujours en train de se juger et ils ont donc du mal à se rapprocher les uns des autres pour forger des relations amicales ou amoureuses. Du coup, les réseaux permettent d'être discret et de forger de nouvelles formes de relations tout en échappant à la pression du groupe. Les ados y trouvent une liberté d'expression augmentée pour le meilleur et pour le pire. »  

Si ces échanges pouvaient être relativement platoniques avant 2020, ils sont devenus beaucoup plus « épicés » ces dernières années. Jugé marginal en 2015, l'envoi de nudes est à présent totalement banalisé chez les collégiens d'après Nora Fraisse, fondatrice de l'association Marion la main tendue qui lutte contre le cyberharcèlement. « C'est un peu comme le joint qu'il fallait fumer au lycée pour être cool, raconte-t-elle. Le nude est devenu une sorte de passage obligatoire pour montrer qu'on est dans le coup. On le fait en grande partie parce qu'il y a une pression du groupe et qu'on ne veut pas paraître coincé. » D'après une étude de la firme Thorn spécialisée dans la protection des enfants sur Internet, le pourcentage d'enfants âgé de 9 à 13 ans considérant que le partage de nudes entre pairs est normal est passé de 13 % à 21 % en l'espace de 2 ans. Le chiffre monte à 26 % quand il s'agit de garçons. La même étude indique que 26 % des enfants de 12 à 17 ans ont déjà reçu au moins une fois des nudes tandis que 15 % indiquent en avoir envoyé. Ces chiffres sont considérés comme étant sous-estimés. 

Il faut « nuder » pour être cool

Comment expliquer une telle banalisation ? Beaucoup d'associations pointent du doigt un accès à la pornographie en ligne rendu plus facile de par l'individualisation des écrans, mais aussi une sexualisation toujours plus importante au sein des représentations médiatiques, notamment sur les comptes des influenceuses issus de la téléréalité. « On est dans un monde qui glorifie des personnages d'escort girl comme Zahia tandis que le travail du sexe sur les plateformes comme OnlyFans est devenu banal, indique Nora Fraise. S'ajoute à cela le visionnage d'images pornographiques qui arrive de plus en plus tôt, vers l'âge de 10 ans. Toutes ces petites choses cumulées peuvent expliquer cette tendance. » Pour Victor, écoutant au 3018, c'est surtout le laisser faire des parents qui sont responsables. « Au cours de mes conversations, je me suis rendu compte à quel point les enfants sont laissés à eux-mêmes, explique-t-il. J'ai discuté avec une enfant de 12 ans qui m'a raconté qu'une personne l'avait contactée par hasard et lui avait demandé de lui envoyer des nudes et elle lui a envoyé. Il y a une forme de simplicité d'accès au corps des enfants via les écrans parce qu'ils imitent beaucoup le monde de l'influence qui a un rapport au corps très démonstratif. Les enfants qui voient ça veulent jouer aux grands et sont alors dans l'imitation. » Ce phénomène de changement de comportement est d'ailleurs bien connu dans le marketing du jouet sous le terme de « KGOY » pour l'expression « kids getting older younger » (les enfants grandissent de plus en plus vite). Théorisé dans les années 90, ce concept indiquait que les enfants s'intéressaient plus tôt aux loisirs qui intéressaient auparavant les générations précédentes à un âge plus avancé. La même chose peut s'appliquer à l'explosion médiatique qui passe par les plateformes vidéo.

Si l'envoi de nudes entre adolescents consentants n’est pas un problème en soi, ce sont bien évidemment les dérives de ces pratiques et leur aspect presque systématique qui inquiète. La première conséquence directe est celle du repartage de photos auprès de ses amis et que l'on appelle abusivement du revenge porn. Statistiquement, ce repartage se fait plus dans l'idée d'impressionner les copains ou de les faire rire plutôt que de se venger. Elle occasionne toutefois des cas harcèlement scolaire et de « slut shaming » qui touchent principalement les filles qui sont accusées d'avoir eu des comportements trop sexuels. 

Quand les prédateurs en profitent

Cette normalisation des nudes augmente aussi les cas de grooming en ligne, une méthode de prédation sexuelle qui consiste à manipuler sa victime en se faisant  passer pour ami, un protecteur ou une relation amoureuse dans le but d'obtenir des images ou des vidéos à caractère sexuel. C'est ce qui est notamment arrivé à Camille, une jeune étudiante en droit qui avait 15 ans au moment des faits. Après avoir noué une relation avec un correspondant anglais de 17 ans, ce dernier lui a envoyé une photo de son sexe et lui a demandé en retour un nude. À force d'insister, et pour ne pas briser ce début de relation, Camille a accepté, sans montrer son visage. Son copain a alors utilisé cette dernière comme moyen de pression pour lui demander de plus en plus de photos ainsi que des vidéos en live qu'il visionnait avec ses copains. « Ça a duré un peu plus de 6 mois avec une fréquence quotidienne, explique-t-elle. Il fallait que je sois à sa disposition, à la minute, peu importe où j'étais. Il est devenu comme une sorte de marionnettiste. Il ne m'a jamais demandé de l'argent, mais il voulait que je lui obéisse. » Là encore, la sensation de honte prévaut largement par rapport à la victimisation. « J'ai eu une vraie dissociation entre ce qui se passait à l'époque pendant que j'étais sous son emprise et ce qui se passait en réalité. J'ai longtemps considéré que ce qu'il me faisait n'était pas grave, car je considérais que c'était ma faute. Je me sentais à la fois coupable et complice ».

Cette méthode qui est à la fois utilisée par des mineurs ou des adultes débouche par la mise en place d'une véritable exploitation d'images à caractère sexuel produite par les plus jeunes. Cette exploitation se fait par l'intermédiaire de ce qu'on appelle les comptes fisha, mis en place sur Snapchat ou Telegram. Souvent privés et accessibles par invitation, ces fils de discussion permettent à un ou plusieurs individus de partager des images qu'ils ont collectées eux-mêmes ou que des followers leur envoient. C'est la même logique que l'on retrouve aussi sur les forums de contenu pédophile présent sur le darkweb, d'après le journaliste norvégien Håkon F. Høydal, qui a signé plusieurs enquêtes sur ce milieu. « La plupart des gens qui pratiquent ce type de partage d'images ou de vidéos le font comme s'ils échangeaient des cartes Pokemon, explique-t-il. Les contenus sont à la fois le produit et la monnaie. Ils ne gagnent pas d'argent, mais une forme de crédibilité et de statut social au sein de ces groupes. » Ce dernier remarque par ailleurs le partage de plus en plus fréquent de vidéos tournées par les enfants eux-mêmes par l'intermédiaire d'une webcam. « Les prédateurs ont compris qu'avec la technologie, les jeunes ont trouvé de nouvelles méthodes pour explorer leur sexualité, indique-t-il. Ils vont s'accrocher à cette curiosité et emmener les enfants dans le monde sexuel des adultes en les approchant par snapchat, ou sur des plateformes de jeux vidéo puis les inciter à se masturber en donnant des instructions. C'est une pratique qui peut apporter beaucoup de mal physique, mais aussi mental aux victimes. »

Au vu de ce tour d’horizon, les mesures annoncées pour limiter l’accès des mineurs aux sites pornographiques font l’effet d’une goutte d’eau dans l’océan. À présent que les jeunes ados démarrent leur vie sexuelle de manière virtuelle, il est peut-être temps pour les adultes de se mettre à jour et d’amorcer un vrai dialogue.