ia / agents conversationnel > Réponse Politique & Société sujet

Uncurieux a écrit :

D'ailleurs, j'en suis à me demander : est-ce qu'on sait faire un captcha qui piège un agent IA ?

Peut-être, mais sans doute pas pour longtemps, vu que les ia sont déjà capable d'analyser et décrire des images, et les modèles de génération d'image de les éditer. Les éditer en les analysant. Je précise : je suis tombé sur un article de recherche (que je sais plus retrouver) indiquant qu'actuellement une méthode d'attaque des "modérateurs ia" (qui bloquent certaines générations d'images en analysant le prompt) est de mettre les instructions de modification directement sur l'image à éditer (et rien dans le prompt). Voilà où on en est. Et j'ai l'impression que c'était même pas un comportement voulu des modèles d'édition d'images (...mais pas si étonnant vu que ces modèles sont sensé pouvoir comprendre et appliquer un prompt du type "traduis le contenu du panneau d'affichage en français, garde la même police d'écriture" : ils sont supposés pouvoir comprendre un texte dans une image).

Je pense qu'il est plus simple de faire une ia qui détermine où cliquer dans une image, ou quoi écrire dans une textbox à partir d'une image, que ce que je viens de décrire.