ia / agents conversationnel > Réponse Politique & Société sujet

Prémices du topic : "Bref, sur ce sujet on est dans le monde des bisounours où les ia sont fiables, gentilles, honnêtes etc. Et j'ai déjà l'impression que ça nous mène droit à des horribles dystopies, c'est là-dessus que j'aimerais l'avis de gens compétents et moins compétents. "


Moi je suis dans les "moins compétents" et je profite de ce topic pour avoir votre ressenti. D'une manière moins cantonnée à "l'IAG pour le code informatique" je lis çà et là l'impact qui semble avéré de l'IA sur la cognition, même dans le cas d'une IA fiable, honnête et gentille.
De la même manière qu'on a "délégué" (et même "augmenté") une partie de notre sens de l'orientation au GPS, l'IA est un dispositif exogène auquel on transfèrerait (et même grâce auquel on augmenterait, si on part du principe qu'on a toujours accès à ce dispositif) une partie de notre faculté de réflexion. (Je ne sais pas si tout le monde sera d'accord là-dessus déjà.)

Alors, est-ce que c'est grave ? On peut être content d'avoir un GPS. Là où la pente me semble glissante c'est que :
- on ne parle pas de déléguer juste un sens (celui de l'orientation) mais des pans plus large de la cognition (la capacité de synthétiser des informations, de rédiger, de faire des liens de causalité, etc.) Donc ça peut rendre con
- on parle de remplacer sa propre cognition, fondée sur son vécu, son éducation propre, etc. par un système étranger formaté identique pour tous donc qui uniformise et lisse la pensée
- c'est un service privé, il y a le risque que ce soit de plus en plus en cher, et qu'à la longue des gens qui se sont formés avec n'aient pas le choix que de suivre et soient de plus en plus enfermés
Bon donc moi ça m'ennuie. et je n'ai même pas évoqué les conséquences indirectes sur l'eau, l'énergie, le droit d'auteur etc.

A votre avis (et si vous partagez mon avis "ennuyé"), que pourrait-on faire et que devrait-on faire au niveau étatique et au niveau personnel ?

Au niveau étatique : "interdire" l'accès à tout outil d'IAG ? (est-ce seulement possible ?!) ou au moins la bannir dans les structures éducatives ? (les élèves vont sans doute continuer de l'utiliser à la maison) et les structures publiques ? (interdire les chatbots pour l'interface public - administration ? mais dans la recherche publique ça peut rendre des services tout de même, non ?) ou au contraire développer une IA française / européenne / open-source / une IA conçue de manière à améliorer et pas impacter la cognition de l'utilisateur (mais je ne sais pas trop à quoi ça pourrait ressembler...) ?

Au niveau personnel : quelle "éthique" vous imposez-vous ? Aucune utilisation de l'IAG ? Utilisation de l'IAG comme "interlocuteur intelligent" pour améliorer vos compositions ? Ou comme "super-moteur de recherche ?" - sachant que ça peut être différent au travail et pour le cadre personnel je suppose.

Personnellement je me refuse à utiliser l'IA tant perso que pro mais je me sens tout à fait impuissante à faire plus... (A part donner des sous à la quadrature du Net par exemple... - mais il y a sans doute d'autres assos) - D’OÙ mes interrogations