Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ?
-
posté 09/04 (10:30)Tiens, pour illustrer ce que je dis sur le fait que les limitations juridiques des réseaux sociaux conduisent à des absurdités qui nuisent à la jeunesse : selon les lois adoptées au Massachusetts, la définition de "média social" est « un site web public, un service en ligne, une application en ligne ou sur mobile qui affiche des contenus principalement générés par les utilisateurs/trices et autorise les utilisateurs/trices à créer, partager et voir des contenus avec d'autres utilisateurs/trices, sachant que cette définition exclut les emails, le stockage cloud, les SMS, MMS, RCS ou systèmes équivalents de télécommunication, ou services d'édition collaboratifs ».
Ce qui fait que Wikipedia doit, pour rester légale dans cet état, forcer une vérification d'age… Et on parle pourtant d'un état plutôt démocrate. -
posté 09/04 (19:47)On ne peut pas juger le besoin de régulation des réseaux sociaux en se basant sur les décisions les plus mauvaises ou les moins adaptées.
Peu importe que l'on parle de la jeunesse ou des adultes, le besoin est réel, le problème est qu'on est à la frontière entre la censure et la liberté, avec une frontière très mince, et évidemment, une instrumentalisation des uns et des autres pour alimenter les fantasmes.
Le DSA et le DMA , règlements européens concernant les services numériques, peuvent faire peur parce que comme toute loi, elle peut être bien ou mal utilisée par les pouvoirs en place. Quand on parle d'alimenter les fantasmes, Elon Musk et VD Vance ont largement décrié le DSA, l'accusant de vouloir limiter la liberté d’expression et à annuler des élections simplement parce qu’un résultat ne nous convient pas, l'annulation des élections en Roumanie servant en toile de fond. Ils oublient vite que les USA ont été concernés par des ingérences russes en 2016, en faveur de Trump.
Pourtant, le DSA a pour vocation d'empêcher les manipulations et les ingérences étrangères, et de garantir aux usagers/citoyens de pouvoir s’informer librement, sans devenir la proie des manipulations de l’information et à limiter la diffusion en ligne de contenus haineux, pédopornographiques, terroristes, et la diffusion de produits illicites (contrefaits ou dangereux). Nous protéger quoi...
Un autre enjeu majeur du DSA est de résister aux pressions exercées par Big Tech. Certaines entreprises choisissent de se conformer aux règles, d'autres tentent activement d'en exploiter les failles, grâce à leurs armées d'avocats.
On peut aussi adapter nos pratiques non numériques aux risques d'ingérences. En terme d'actions pro-actives, David Chavalarias fait une proposition que je trouve vraiment audacieuse dans son livre "Toxic Data" concernant notre mode de scrutin "en adoptant par exemple le jugement majoritaire, système de vote beaucoup moins manipulable et qui rend impossible l’élection d’une personne rejetée par une majorité"
Sur ce lien ci-dessus, vous verrez deux choses très intéressantes sur notre élection présidentielle de 2017 avec un graphe représentant le volume de désinformation par candidat.
Pour ceux qui ne souhaitent pas cliquer sur ce lien, je copie-colle deux passages assez Ă©loquents.
- Par exemple, en 2017, de très nombreux messages hostiles à Benoît Hamon, Jean-Luc Mélenchon ou Emmanuel Macron reprenant les codes des communautés politiques de François Fillon et Jean-Luc Mélenchon, étaient écrits par des personnes étrangères, a priori des membres de l’extrême droite américaine que nous avons pu suivre sur le forum 4chan. À l’occasion d’élections importantes, ces communautés s’organisent en ligne pour tenter de faire avancer l’agenda de cette nouvelle extrême droite internationalisée.
-Infléchir l’opinion de 10 % des utilisateurs peut être suffisant pour arriver à ses fins, quand on sait que 10 % des utilisateurs français de Twitter représentent 900 000 personnes. C’est plus que l’écart de voix entre Marine Le Pen et Jean-Luc Mélenchon ou François Fillon pour passer le premier tour en 2017. -
posté 09/04 (19:57)Arnold de Schartzenprout a écrit :
On ne peut pas juger le besoin de régulation des réseaux sociaux en se basant sur les décisions les plus mauvaises ou les moins adaptées.
Je suis d'accord. On peut essayer de gagner en généralité : il n'existe aucun système qui interdit l'accès aux enfants sans nuire à la liberté d'expression des adultes (en compromettant leur accès aux ressources ou leur anonymat).
L'exemple des mauvaises législations sert surtout a illustrer ce que je disais : si tu penses à un moyen simple, il est sans doute mauvais.
Pour le reste je te rejoins aussi sur la gravité des ingérences politiques, d'où l'importance de ne pas citer n'importe quelle source aveuglément, par exemple des officines ultra libérales... -
posté 09/04 (22:07)Un
![[*b]](http://img7.kraland.org/s/4F.gif)
curieux a écrit :Pour le reste je te rejoins aussi sur la gravité des ingérences politiques, d'où l'importance de ne pas citer n'importe quelle source aveuglément, par exemple des officines ultra libérales...
Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse.
N'avoir qu'une vision c'est de la manipulation, avoir des courants de pensée différents c'est developper son esprit critique, et cela sans forcément choisir un courant plutôt qu'un autre, trouver des approches non manichéennes.
Mais là on s'éloigne du sujet. Enfin, ça dépend comment on appréhende les choses. Le conditionnement on le subit avec ou sans les réseaux sociaux. Si on va par là , l'école c'est déjà un conditionnement à vivre en société, à suivre des règles, à devoir apprendre un programme qui peut t'inclure ou t'exclure de la société, etc. Lire Marx sans lire Rand a t'il un intérêt si l'on veut pouvoir choisir ?
Revenons en au sujet : la reprise en main des algorithmes.
Un des moyens de pression, ce ne sont pas les amendes imposées par l'UE en cas de manquement aux règles du DSA. Visiblement, elles ne sont pas dissuasives.
Le meilleur moyen c'est un bannissement, temporaire puis définitif, des plateformes. L'UE, c'est un marché de 450 millions de consommateurs. S'il ne collaborent pas en ouvrant leurs algorithmes aux autorités, la sanction peut être celle-ci.
Imaginons un instant que votre réseaux social favori soit inaccessible suite à une sanction de l'UE. Comment réagiriez vous ?
Comprendriez vous la mesure ? Consentiriez vous Ă celle-ci ou tenteriez vous de contourner le blocage ?
___
Vous allez aimer me détester... -
modifié 11/04 (14:06)Arnold de Schartzenprout a écrit :
Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse.
Tu as une source sur le fait qu'inviter l'extrême droite et lui donner des tribunes au nom de thèse/antithèse/synthèse, ça permet de lutter efficacement contre ses idées ?
Ça me semble trivialement faux : il suffit de regarder les sondages après le débat Attal/Bardella, dans lequel tous les commentateurs disaient que Bardella était ridicule, et que Attal l'avait écrasé (voir par exemple cette analyse). En tout cas je vais partir du principe que tu n'as aucune source sérieuse pour étayer ta croyance.
Ce qui amène à une conclusion assez simple : imaginons qu'on ait des moyens et qu'on cherche à faire monter les idées racistes, xénophobes, antisémites, etc : comment s'y prendrait-on ? Il n'y a en fait pas besoin d'imaginer, il suffit d'observer ce que Bolloré ou Stérin font : ils achètent des médias. C'est donc que c'est utile et efficace (du reste, ce n'est pas une stratégie récente, de Berlusconi à Murdoch). Comment justifier de brider l'accès aux RS pour les jeunes au motif qu'ils seraient influencés, sans voir qu'on laisse des vieux (qui ont le droit de vote, eux) se faire influencer bien plus directement par des chaines TV ? Un rapide passage sur FB donne même l'impression qu'ils sont plutôt plus crédules.
Bien entendu, l'influence politique n'est qu'un aspect des effets redoutés des RS (tu as cité l'incitation au suicide, et je mets ça sur un autre plan, CNEWS n'encourage la dépression que des gens qui ne la regardent pas), mais si on parle de celui-ci, il me semble qu'on aurait un raisonnement partiel en ciblant les RS uniquement.Lire Marx sans lire Rand a t'il un intérêt si l'on veut pouvoir choisir ?
Lire Gilles Karmasyn (PHDN) sans lire Faurisson a-t-il un intérêt si on veut avoir un avis sur la shoah ?
Lire le rapport du GIEC sans lire Claude Allègre a-t-il un intérêt si on veut forger une politique du climat ?
Lire les enquêtes sur la violence policière sans lire les communiqués de presse de la préfecture a-t-il un intérêt si on veut comprendre à quoi sert la police ?
La réponse à toutes ces questions est oui, et il ne faut pas confondre avoir l'esprit ouvert et avoir des trous béants dans le cerveau : tous les avis ne se valent pas. -
posté 11/04 (16:09)Uncurieux a écrit :
Tu as une source sur le fait qu'inviter l'extrême droite et lui donner des tribunes au nom de thèse/antithèse/synthèse, ça permet de lutter efficacement contre ses idées ?
Alors sérieuse, je ne sais pas, mais oui, j’ai une source : toi et ce que tu as écris juste après avec le lien que tu y as inséré. Je te laisse y réfléchir.
Par contre je n’entrerai pas dans ce débat qui est complètement hors sujet, mais si tu veux ouvrir un topic sur l’utilité des débats contradictoires, je participerai volontiers.
Concernant les RS, personne n’a dit qu’ils étaient seuls responsables d’être un support à telle ou telle propagande.
Evidemment que les médias concentrés dans les mains de l’oligarchie sont aussi des vecteurs importants. D’ailleurs la reprise en main de ces médias est au programme de Juan Branco. Cela s’inscrit logiquement dans le fait de pouvoir apporter une information non biaisée aux citoyens qui seront amenés à être très régulièrement consultés via les RIC.
Autant être éclairé au mieux quand on doit donner son avis.
___
Vous allez aimer me détester... -
modifié 11/04 (17:12)Arnold de Schartzenprout a écrit :
Alors sérieuse, je ne sais pas, mais oui, j’ai une source : toi et ce que tu as écris juste après avec le lien que tu y as inséré. Je te laisse y réfléchir.
Si quelqu'un d'autre qu'Arnold arrive à m'expliquer ce qu'Arnold a voulu dire, je suis preneur (et impressionné). -
modifié 11/04 (19:52)Alors qu'on discute, une perspective concrète existe déjà , qui questionne les algorithmes, les pratiques, les modèles économiques. Je m'étonne qu'elle n'ait pas été mentionnée. Peut-être dans une vie précédente de ce forum.
RĂ©actions en vrac aux Ă©changes.
1. "Faut-il reprendre en main" : qui ? A quelles fins, émancipation citoyenne face à la Big Tech ou défense nationale face aux ingérences extérieures ?"Guerre cognitive" (titre)
"Je propose déjà de s'emparer du sujet. Je ne prétends pas qu'il y a de solution simple, mais avoir conscience du problème et agir au niveau de l'Etat."
"...ça ne répond pas à la problématique dont on parle"
Le cadrage initial est flou, le recadarge régulier étrange et dérangeant, et l'intention (poser comme normale une vision de l'Etat au centre d'une lutte et des services publics comme instruments de cette "guerre" (sic)) se révèle à mesure que se déroule l'argument.
Je suis en désaccord avec ce cadrage.
A la question initiale, ma réponse est oui, mais toutes les façons ne se valent pas, selon le projet de société préconisé.
Au glissement qui pose l'Etat au centre de cette "guerre" et les individus au service de cet Etat, non. La communauté du logiciel libre que défend Chavalarias est mondiale (certes avec les biais sociologiques liés à la mise à l'échelle de cette innovation, compensés au fil de la diffusion).
Les règlements européens sont mentionnés et sont une bonne base de travail pour faire prendre conscience des enjeux et de l'échelle (aussi globale que possible) à laquelle ces questions doivent être traitées. Ils sont clairement insuffisants pour traiter l'ensemble du sujet, et particulièrement le projet économique sous-jacent.
Enter Shoshana Zuboff, qui présente dans son ouvrage Capitalisme de surveillance la notion que les êtres humains sont une sorte de matière première cognitive à extraire à l'infini. Dans les faits, très bon pour les tableurs de la comptabilité nationale, mais une expérience humaine asservissante. Extrait choisi:Spoiler
Si l'économie européenne, française, etc, repose sur cette subordination et sur le fait de nous vendre de la publicité, alors la chose menacée n'est pas l'Etat ou la nation ou je ne sais quel espace collectif, mais notre humanité même. Et la solution à apporter n'est pas uniquement plus de contrôle, mais aussi probablement une économie alternative, basée sur une utilisation juste, durable (et donc frugale) des ressources (naturelles, cognitives, ce qu'on veut) qui restaure notre humanité. Cet aspect est clairement contraire au projet de développement/protectionnisme économique qui nous est présenté comme inéluctable.
Bannir les plateformes, pourquoi pas, en soi, à discuter. Mais avec les conséquences. Dans la mesure où elles sont ancrées dans les pratiques, la transition n'est pas anodine et doit être pensée. Si c'est pour lancer une nouvelle plateforme qui utilise des algorithmes favorisant la dépendance numérique, a-t-on remporté la "guerre cognitive"? Non, puisque les gens sont maintenus dans la dépendance et les libertés individuelles restent sous attaque par les mécanismes de surveillance en place.
Un exemple:"Imaginons un instant que votre réseau
xsocial favori soit inaccessible suite à une sanction de l'UE. Comment réagiriez vous ?"
Penser la sanction sans penser la gestion de l'addiction et de la dépendance économique aux réseaux, c'est penser le problème à moitié. (Cela étant dit, le fait de porter la discussion sur la réaction individuelle quand le cadrage est maintenu à une échelle globale est un déplacement du cadre. La cible est mouvante. Comment répondre ?)
Se sentir assiégé·e·s par une menace extérieure et chercher à reprendre le contrôle est légitime. Reste à ne pas se faire manipuler en cherchant à se libérer.
2."Je trouve très suspect donc que l'algorithme propose à une situation de mal-être quelque chose d'encore plus négatif."
=> Le fantôme du grand méchant se dessine, sans se préciser. Quelle forme a-t-il : celle de l'argent, ou de la puissance étrangère malveillante ? Ou pire![[%(]](http://img7.kraland.org/s/12.gif)
?
(Zuboff a une réponse à proposer, puisqu'elle fait "sens de la prolifération de dispositifs techniques de surveillance en apparence hétérogènes en identifiant la logique économique qui pourrait les réunir", source)
3."Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse."
Remarque limite classiste et donc excluante dans la forme (voire le fond) quand on pose des questions de politique et société à un public large et relativement inconnu qui peut raisonner différemment. Ca, et la cible mouvante, ne donne franchement pas envie de donner son avis, comme je le mentionnais ici.
(Mais bon, je ne m'en suis pas privé, et mon pavé ne donne pas nécessairement envie non plus.) -
modifié 11/04 (20:20)Artemis Première a écrit :
J'aime bien cette approche qui consiste à considérer que le but d'un système est ce qu'il produit concrètement (ce qui est plus intéressant que de se poser la question de l'intention des acteurs). Sous cet angle, le produit des RS est multiple : exploitation capitaliste des humains (prestations marchandes, escroquerie, surveillance généralisée) mais aussi organisation collective et/ou résistances à l'oppression. Bien entendu, tant qu'un RS est organisé par des concepteurs avec leur propre agenda, il est difficile de lui faire confiance pour garantir l'intérêt de ses utilisateurs/trices, cf twitter, et pourtant même sur des plateformes commerciales il est ressorti des effets intéressants par le passé.
Du coup, je suis à peu près également suspicieux des gens qui administrent un réseau social commercial et des gens qui se jettent sur les problèmes qu'ils en perçoivent pour revendiquer des censures. Il y a une diminution mondiale de l'accès à l'information (en particulier pour les jeunes), dont on ne peut pas encore mesurer les effets globaux, et je crois qu'il y a toutes les raisons de s'inquiéter de voir cette panique morale se répandre. -
posté 11/04 (22:42)Artemis Première a écrit :
Merci pour ta réponse claire et assez complète.
Concernant le cadrage initial, tu as raison de souligner qu'il est flou. La raison en est simple : j'ai ouvert ce topic avec beaucoup plus de questions que de réponses. Je n'ai aucune réponse toute faite à apporter à la problématique, mais un constat et énormément de questions. Je le dis humblement.
Je compte sur l'intelligence collective pour avancer sur ma propre réflexion, et aider aussi les autres lecteurs à y réfléchir, ensemble. Disons que c'est un peu la vision idéale que j'ai du forum.
Le fait de se tourner vers l'Etat (ou l'UE), c'est parce que ce sont les seuls à pouvoir légiférer, tout simplement. Alors peut-être que notre système politique de représentation est trop "risqué" pour confier cette vision à l'Etat. A l'heure actuelle, il est difficile de prévoir aujourd'hui quel candidat avec un projet qui développerait plus de consultations démocratiques de la population (genre RIC) a des chances d'aboutir et de changer ce système de façon suffisamment satisfaisante pour que cette vision ne soit pas celle de l'Etat mais celle des citoyens, validée par l'Etat. Que voulons nous, nous, citoyens. Déjà répondre à cette question est quelque chose de primordial.
Restera à ce que les citoyens soient convenablement informés pour savoir ce qu'ils veulent, quels sont les enjeux pour eux (pas pour les sociétés) et faire des choix.
Quant à l'échelle à laquelle ces questions doivent être réglées... Là aussi, on ne sait pas trop où l'on va, FREXIT ou pas, ça va répondre de fait à la question. Je l'évoque là parce que malgré tout on voit bien que cette question prend de plus en plus d'importance.
Concernant le capitalisme de surveillance, j'ai plus un sentiment d'opportunisme du capitalisme et des services de renseignements du fait d'un développement anarchique des RS. En fait, les RS ont été crée par des personnes qui n'avaient pas de visées capitalistes initialement. La légende veut que Mark Z (et ses 4 camarades) a crée FB d'abord pour rencontrer des filles sur son campus avant d'en faire une plateforme sociale mondiale.
Rapidement, ce genre de réseau a pu attirer l'attention à la fois des sociétés voulant faire du business et des services de renseignement.
Pour l'anecdote, je me souviens que mon inscription sur les réseaux sociaux FB et Twitter avaient été motivée par un reportage sur France Info en 2009 qui les annonçait comme les futures plateformes publicitaires au monde gratuites, et comme j'étais déjà à mon compte, c'est uniquement pour des raisons professionnelles que j'avais créé un compte sur chacune à l'époque. C'était donc déjà présenté comme un outil de commerce.
Et à l'époque, même si les datas centers existaient déjà , à titre personnel, n'évoluant pas dans ce monde de l'internet, je ne voyais pas l'essor de ces derniers et ne pensais pas un seul instant que nos données personnelles vaudraient de l'or. En 2021, les datas brokers se partageaient un marché de 400 milliards d'euros en Europe, je n'ose imaginer le chiffre aujourd'hui.
Le profilage prédictif est quelque chose de vraiment puissant, je crois que chacun d'entre nous peut le mesurer au quotidien.
Le levier sanction devient tout de suite très concret si l'on privait les opérateurs économiques de nos données.
Et là , on ne parle que business, même si cela est un sujet déjà bien assez inquiétant pour ses effets induits, notamment en terme d'impacts environnementaux. L'aspect souveraineté économique se joue ailleurs à mon humble avis.
Je suis d'accord avec toi concernant la dépendance numérique. Si seule la "nationalité" des algorithmes change mais que le but reste le même, ça n'a aucun intérêt : nous resterons le jus de cerveau à extraire et à exploiter pour nous vendre des produits.
C'est pour ça que l'aspect commercial n'est pas pour moi central dans cette discussion. Je pense vraiment plus à l'aspect sécuritaire. Sécurité mentale de nos adolescents mais aussi des adultes, sécurité des données, sécurité des élections, ingérences, etc.
Ce topic, dans mon esprit, visait donc plus la sécurité des utilisateurs, mais aussi celle des Etats et son rôle à jouer.
Pour les utilisateurs, je crois que l'exemple de Tik-Tok est assez Ă©loquent.
Maintenant, on peut aussi s'interroger sur le fait que la CNIL ait autorisé Microsoft a héberger nos données médicales quand on connait les lois américaines d'extra-territorialité et notamment le Foreign Intelligence Surveillance Act (je ne parle même pas des conditions d'attribution déjà louches). Je ne suis pas certain que cela soit conforme au RGPD européen d'ailleurs...
Alors il y a des initiatives européennes en cours de certification au niveau de la sécurité des données, mais milieu 2025, la Health Data Hub n'avait toujours pas commencé à migrer de la plateforme Microsoft Azure vers ces nouveaux acteurs.
Enfin lĂ je m'Ă©loigne un peu du sujet initial.
___
Vous allez aimer me détester...
