Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ?
-
modifié 23/04 (23:15)Arnold de Schartzenprout a écrit :
Tu pourrais être plus clair stp ?
Je traduis : les solutions simplistes que tu préconises ont des conséquences dramatiques à moyen terme quand elles sont appliquées : elles nécessitent une récupération de l'identité des utilisateurs/trices d'un site, et l'association entre cette identité et le contenu publié ou consulté par cette personne.
Autrement dit, au nom de ta super problématique de "protéger les jeunes" (mais en écartant quand même les solutions qui sont recommandées par les professionnels), tu milites pour des solutions qui ont des impacts colossaux sur le droit à la vie privée et la liberté d'expression. Ce n'est pas nouveau, il y a régulièrement des ignares qui viennent dire que ce serait bien d'en finir avec l'anonymat sur internet (dont Macron, tiens).
Suffit de se demander qui ça arrange de pouvoir remonter trivialement à l'identité de n'importe quel lanceur d'alerte, de pouvoir ficher les gens selon leur orientation sexuelle, etc. etc. -
posté 24/04 (00:11)Arnold de Schartzenprout a écrit :
Tu pourrais être plus clair stp ?
C'est facile, n'importe quel système de collecte de donnée est à la merci de hacker aujourd'hui.
Dans l'idée, chaque ligne c'est une breach dont ce site est au courant. Bon j'ai pris un site un peu au hasard, j'en ai vu quelques un dans le même style. Mais en gros, t'as une data breach majeure environ chaque jour. C'est juste une question de semaines/mois avant que les données d'une entreprise qui fait de la collecte de donnée soit hackée.
Ce n'est pas une question de "si" ; C'est une question de "quand".
Et ce quand, il approche à grands pas. A très grands pas. Il faut comprendre qu'aujourd'hui on est incapables de luter, rien qu'à cause des outils à disposition en face. Quand Claude Mythos sera accessible à n'importe quel hacker dans son garage, ça sera un véritable carnage en terme de data breach.
Maintenant, je parlais d'authentification multifacteur, ou MFA. Ce qu'on appelle facteur c'est une des façons qu'on a de t'identifier, et c'est divisé en trois parties (c'est une base de la cybersécu). "Ce que je sais"/"ce que je suis"/"ce que je possède". En gros : mon mot de passe, ma tronche, et mon téléphone. L'idée c'est que si un hackeur arrive à trouver ton mot de passe, normalement il ne peut pas avoir les 2 autres facteurs. Parce qu'il n'a pas ta tête et qu'il n'a pas ton téléphone.
Généraliser à tout prix l'authentification d'age ça ne peut passer que par 2 méthodes (qui sont déjà utilisées aujourd'hui) : La carte d'identité ou l'identification faciale.
Et quand il y aura un databreach avec ta tête partout vendue à 0.000007c, avec ta photo d'identitée, cumulée avec la databreach du mot de passe, cumulé avec la databreach de ton activité, c'est mettre toute personne dans des risques qui sont extrêmes.
La question, c'est de savoir si on veut que les jeunes sachent utiliser internet [et pour rappel, je pense qu'on est assez vieux dans cette discussion pour reconnaitre qu'on a grandi dans le far west de l'internet ou le porno à gogo était disponible, où au détour d'une discussion tu pouvais recevoir 2 girls one cup ou un goatse alors que t'as 13 ans, et des groomers en liberté sur sim city online et second life, et que donc c'est parfaitement possible], ou bien de savoir si on veut juste mettre des systèmes en place qui vont être attaqués et exploser au bout de 3 minutes et juste mettre en danger tous les gens qui se servent de ça.
Je veux dire outre le fait qu'on impose des trucs totalement délirants à la population dans des trucs liberticides sous prétexte de "penser aux enfants", genre, les enfants ils vont juste se rendre compte que nord vpn qui "bypass les restrictions régionales pour netflix" comme on leur vend sur chaque sponso depuis 5 ans, bah ça marche aussi pour tiktok.
___
The seagull / wonder if she is sad / left alone without being touched / by the blue of the sky / or the blue of the sea. -
posté 26/04 (16:23)Satori
![[*n]](http://img7.kraland.org/s/51.gif)
9960 a écrit :
Ok, alors si je résume ton discours, tu ne crois pas en l'efficacité de la cyber sécurité, c'est ça ?
Tellement pas que tu penses que moins tu donnes d'information pour t'identifier, plus tu te protèges ?
Je ne remets pas en cause l'insécurité en terme de hacking, je trouve juste paradoxal que cela serve à entretenir le fait de ne pas agir en terme de protection.
J'en profite pour te poser une petite question. Plusieurs candidats à la présidentielle ont parlé de créer (en réalité renforcer parce qu'elle existe déjà ) une cyber-armée. Dans ses missions, il y a notamment :
- La lutte informatique défensive (LID),
- La lutte informatique offensive (LIO),
- La lutte informatique d'influence (L2I).
Est-ce que pour toi ça ne sert à rien ? Est-ce qu'on peut envisager le développement d'unités cyber luttant contre le hacking pour protéger les populations, particuliers comme entreprises (lutte contre les ransomwares par exemple) ?
Ill existe des entreprises privées pour la protection informatique. Est-ce que ça doit rester une mission privée, payante, ou est-ce que ça doit être une fonction régalienne au même titre que la sécurité des biens et des personnes confiées à la police/gendarmerie ? -
modifié 07/05 (13:57)Je partage ici une ressource que j'ai trouvé très éclairante sur l'articulation des enjeux. Et en cette période à haut voltage politique ça me semblait intéressant de présenter un texte qui articule un grand nombre d'enjeux. Même si ça sera noyé page 9 d'un sujet connexe. Deux points donc :
- Le cadrage "intérêt étatique" continue à me poser problème. J'ai lancé une discussion sur le terme de "guerre" justement pour préciser que prendre pour argent comptant une doctrine portée par l'armée occulte le projet politique sous-jacent.
- Cet article en deux parties (en anglais, vive les traducteurs automatiques) présente justement le projet politique derrière les plateformes comme elles sont conçues aujourd'hui.
Il établit le lien entre :- les réseaux sociaux, le scroll infini, la quête à l'engagement et le biais politique (susciter l'énervement et l'isolation pour maximiser l'engagement)
- la collecte de données pour les publicitaires (dont les GAFAM qui concentrent le plus gros du marché aujourd'hui) et process par des LLM pour nous envoyer des pubs toujours plus ciblées
- le traitement des données dans des data centers qui mobilisent les ressources en eau, énergie et métaux rares, pour nous vendre plus de choses qui détruisent l'environnement,
- la concentration des richesses induite et les liens avec le pouvoir politique, qui facilite l'adoption de méthodes numériques propices à l'addiction et la multiplication de data centers pour gérer les données nationales
- la collusion entre sphères de pouvoir politique et économique (ex. Bolloré) pour porter ce projet et la nécessité de régulation
- et d'autres choses sourcées (on aime)...
Ne penser qu'une seule de ces choses en isolation, c'est activement, voire consciemment, biaiser la réflexion pour arriver à une conclusion donnée ("c'est en tapant sur les méchants qu'on construit une solution"). Et c'est manquer d'éducation politique, ce qui est tout à fait ok : on apprend chaque jour que Dieu fait, et ce forum m'a énormément appris sur ce qui pouvait exister - car j'étais ouvert à l'altérité. Quitte à me fourvoyer un certain temps.ex. invoquer la santé mentale des jeunes sans réfléchir au monde extérieur qui les attend, la crise du chômage et la déshumanisation du travail
ex. proposer une meilleure modération des plateformes en occultant que la mauvaise modération is a feature, not a bug*
ex. ignorer d'emblée l'émergence de modèles alternatifs sous prétexte que c'est pas user-friendly pour un échantillon de une personne qui l'a essayé deux minutes, c'est oublier (ou consciemment ignorer?) que pour généraliser le rail ou l'ampoule il a fallu du temps et de la volonté politique, et que c'est le cas de toutes les innovations
En soi, rapporter un témoignage personnel c'est ok, tant qu'on est capable d'admettre la contradiction, et de ne pas utiliser de posture ou de techniques discursives manipulatoires (citations et paraphrases: "c'est simple", "c'est évident", "tu comprends mal", "si tu penses pas comme moi alors tu fais partie du problème**", "ce que tu proposes c'est ne pas agir pour la protection des gens") qui maintiennent le problème en surface et nous empêchent de discuter du fond.
Notre rôle de citoyenn·e·s dans tout ça est d'agir sur chacun de ces leviers : exercer toute la pression possible pour réguler et soutenir activement la nationalisation de certains services, pour critiquer la corruption et les projets industriels écocidaires, pour faire communauté autour des gens isolés, etc. On n'a que 24h dans une journée, mais on est nombreux·ses. L'important c'est de penser tout ça dans sa globalité.
Si on part d'emblée résigné·e·s et en donnant un blanc-seing à je ne sais quelle entité étatique sans contrôle (genre l'armée) alors on abdique notre liberté pour la simplicité. Ca, c'est une discussion intéressante à laquelle je participerais volontiers. Pour peu qu'on s'écoute.
* Ce n'est pas un bug, c'est une fonctionnalité.
** Littéralement, "ça nous affaiblit de ne pas penser qu'on est en guerre" présuppose qu'on vit dans un monde de forts et de faibles où l'objectif est de vaincre. Non. Discutons-en, plutôt que de tourner autour du pot. -
posté 12/05 (19:11)Arnold de Schartzenprout a écrit :
Ma réponse risque d'être un peu désordonnée, mais répondre à chaque message donnerait un quote-to-quote 'crade'.
Il me semble qu'ici personne n'est contre une amélioration de la modération sur les RS.
Par, étant peut-être plus 'conscient' des implications techniques, on se rend compte que :
Tout système 'simple' de modération, n'existe pas. Il y a rien qu'à voir sur KI, un 'petit' site, et une équipe de volontaire, que ce n'est pas facile.
Alors sur des sites avec plusieurs milliers/millions d'utilisateur, c'est forcément 'compliqué'
S'ajoutant à ça, que si des 'malvaillants' ont en vraiment envie de 'pourrir' un site/RS, c'est 'facilement' ...
Reste la possibilité, qu'on soit tous 'fichés', et même ça, n'a durera qu'un temps. Le temps qu'un hacker récupère le/la/les listes, et mette en ligne. Quid de qui garde ces données ? Et imagines que quelqu'un ait les identités de tous les utilisateurs Facebook (je prend celui-là que très utilisé) ?!?
Améliorer la modération n'est vraiment triviale.
D'où, si on veut protéger les enfants, réfléchir à ce qu'on peut faire d'autre, et il me semble, qu'à l'heure actuelle, c'est la 'meilleure' voix : C'est le contrôle parental.
Quand j'étais 'jeune', le 'grand problème' c'était la TV et les jeux vidéos. Mes parents vérifiaient ce qu'on regardait, nous imposaient des temps limites, donc on devait choisir notre programme, et ne pas passer la journée devant la téloche. Voir certains jours : "Il fait trop beau là , allez jouer dehors".
Si j'avais des enfants, le premier truc que j'aurais fait (niveau ordi'), ça aurait été de leur créer un chacun, et tout limiter, qu'il n'y ait vraiment que le minimum pour se familiariser. Et puis petit à petit, débloquer les possibilités.
Sauf que, t'es bien gentil Zarg, mais, combien on fait des études/travaillé dans l'Informatique ?
Ce qui amène une autre question : Est-ce que les parents ont les moyens d'appliquer ce contrôle parental ?
Est-ce qu'ils ont assez de temps ? Est-ce qu'ils savent configurer un PC, une tablette, un smartphone, etc ? Est-ce que 'dans leur dos', les enfants ne 'subissent' pas d'autres influences ? Est-ce qu'à l'école on leur apprend à se méfier un peu d'Internet, qu'il n'y a pas que du bon ?
je n'ai pas les réponses, pas de source a proposer, mais il me semble que quand même, ce serait 'mieux' pour les enfants.
Il y a quelques années, j'ai été 'pion' dans un collège/lycée de 1'200 élèves, en quelques jours, je savais toutes et tous, qui avait 'des parents derrière', et qui non. Et quand je dis 'parents derrière', toutes classes sociales, des manières de faire/convictions différentes, certains qui 'galéraient'. Il faisait du contrôle parental, chacun(e)s à sa façon, mais ça 'se sentait' direct sur les enfants.
Ce n'est pas un 'argument' sur Pol & Soc, mais ça a participé à ma propre réflexion.
Pour finir, un truc facile, qui ne sera pas la bonne évidement, mais après un tel pavé (désolé), je m'autorise à rêver un peu : Que les RS soient 'taxés' sur le 'produit de nocif', pour X messages toxiques non modéré, une somme de Y sera versée à des Associations formant les parents et les enfants à l'Informatique, et les prévenant des dangers du Web.
(Rien qu'en le formulant, je vois déjà plein de soucis : Comment on définit ce qui est nocif ? Quelles Asso' y aurait le droit ? Comment on s'occupe de la répartition ? Mais là tout de suite, ça me fait rêver comme idée) -
modifié 13/05 (15:24)Zarg a écrit :
Que les RS soient 'taxés' sur le 'produit de nocif', pour X messages toxiques non modéré, une somme de Y sera versée à des Associations formant les parents et les enfants à l'Informatique, et les prévenant des dangers du Web. (Rien qu'en le formulant, je vois déjà plein de soucis : Comment on définit ce qui est nocif ? Quelles Asso' y aurait le droit ? Comment on s'occupe de la répartition ? Mais là tout de suite, ça me fait rêver comme idée)
Comme l'industrie du tabac ? Ca me semble super, comme idée. Oui le mécanisme de redistribution est à travailler, mais comme tout est à réinventer de ce côté là de toute façon, c'est un chantier enthousiasmant.
Pour la nocivité, des paliers pourraient être mis en place, à partir de données collectées à l'école - ce qui impliquerait une prévention et une détection de la violence par l'équipe (instits/profs, psys, pions, AESH, etc).
J'ai du mal à imaginer autre chose que le mécanismes d'appels d'offre actuel par lequel les assos se positionnent sur ces dossiers, mais il y a certainement bien mieux : compter sur le tissu associatif local pour faire de la prévention (fablabs/hackerspaces), impliquer les associations de parents d'élèves...
Tout ça dépend bien entendu d'une volonté de renforcer les acteurs et le tissu social local.
A partir de là , des préconisations sur les algorithmes et les outils les plus appropriés émergeraient, qui guideraient le remodelage des RS. Ca, couplé à une offensive directe sur les RS prédateurs/extractivistes (nationalisation ou autre), constituerait à mes yeux une politique cohérente.
Merci Zarg, j'ai rêvé avec toi quelques minutes.
![[*b]](http://img7.kraland.org/s/4F.gif)
curieux
