ia / agents conversationnel > Réponse Politique & Société sujet

Dans cet article (en pré-publi), il est question des limites de l'auto apprentissage (l'idée que des modèles pourraient progresser en s'auto-alimentant est donc prouvée fausse). Une version vulgarisée est ici.

Cela pose à mon avis une difficulté importante : le pourrissement du web par les IA.

Les LLM sont entrainés sur des données récupérées sur Internet, or internet est désormais (depuis 2022 et de plus en plus rempli de textes/images/vidéos produites par IA. Comment éviter le pourrissement des IA par assimilation de contenu produit par IA ? Ben simplement en payant de plus en plus d'humains pour déterminer l'origine des messages et leur caractère "humanesque". Et cela deviendra obligatoire, parce que dans un contexte de compétition économique, il est impensable de ne pas sortir une nouvelle version régulièrement, et un narratif pour justifier de la vendre plus ou plus cher. Comment filer de plus en plus de données à ces modèles ? En triant les données.

Je ne sais pas s'il existe déjà une catégorie de travailleurs/euses du clic dont la mission consiste à trier des documents pour filtrer ceux produits manifestement par IA, mais il me semble clair que ça existera à terme. Autrement dit ce n'est pas du tout sûr que l'IA (en tant que technologie capitaliste développée dans un environnement capitaliste) fait gagner la moindre heure de travail à qui que ce soit : elle va surtout déplacer du travail des sociétés occidentales vers du travail besogneux et aliénant, exécuté par des personnes de pays du sud global sous-payées.

Je signale aussi cette vidéo récente de Garys economics (économiste signalé par Fuga sur l'autre topic). Lui postule que l'IA est porteuse d'un gain de rendement important, mais il conclut que c'est une mauvaise nouvelle pour quasiment tout le monde (avec un détour apprécié par les luddites).