Je ne suis pas un robot : les agents IA et la fin des Captchas

S’il n’était pas déjà assez étrange que les humains doivent prouver quotidiennement qu’ils ne sont pas des robots , il est certainement étrange que les robots soient désormais capables de réussir ces tests mieux que nous.

Le dernier épisode, dans cette sorte de version inversée de Blade Runner , est apparu sur Reddit il y a quelques jours, lorsqu'un utilisateur a publié des captures d'écran montrant comment le nouvel agent ChatGPT d'OpenAI avait facilement surmonté le code Captcha le plus courant, celui qui nous oblige à cliquer sur « Je ne suis pas un robot ».

Qu'est-ce que ChatGPT Agent ?

ChatGPT Agent est un nouveau système qui permet à l'assistant artificiel d'OpenAI de contrôler son propre navigateur pour accéder, naviguer et effectuer des opérations sur le Web en notre nom (par exemple, faire des achats en ligne ou acheter un billet de train), tandis que nous supervisons simplement l'ensemble du processus et intervenons directement uniquement dans la phase la plus importante, par exemple au moment du paiement.

En surfant sur le Web, ChatGPT Agent a inévitablement rencontré des captchas.

Mais au lieu de demander à l'utilisateur humain de les corriger, il l'a fait lui-même, commentant : « Le lien a été inséré, je vais donc cliquer sur le bouton « Vérifier que je suis un humain » pour finaliser la vérification sur Cloudflare. Ce processus est nécessaire pour prouver que je ne suis pas un robot et poursuivre l'action. »

Le robot qui se prend pour un humain

L'ironie d'un bot rencontrant un obstacle conçu spécifiquement pour le bloquer et décidant consciemment, si vous voulez, de le contourner a été capturée par les utilisateurs de Reddit, qui ont commenté : « Après tout, il a été formé avec des données humaines, pourquoi devrait-il s'identifier comme un bot ? »

Le paradoxe selon lequel, en résolvant si souvent des captchas, nous, les humains, formions des machines à les résoudre a toujours été, comme nous le verrons, l’une des limites de ces tests .

Officiellement connu sous le nom de Test de Turing public entièrement automatisé pour distinguer les ordinateurs des humains, les captchas ont un objectif bien précis : éviter que certains sites – notamment ceux proposant des services – ne soient inondés de requêtes provenant de programmes automatisés capables d'effectuer la même opération encore et encore .

S’assurer qu’il y a un humain de l’autre côté de l’écran permet d’éviter qu’Internet ne soit inondé de spam , de tentatives d’escroquerie, etc.

La complexité des captchas

Ces dernières années, les captchas ont souvent été divisés en deux niveaux. Le premier, et le plus simple, est la case à cocher « Je ne suis pas un robot ». Comme l'explique Ars Technica, cette case analyse plusieurs signaux, notamment les mouvements de la souris, le temps de clic , l'empreinte du navigateur permettant d'identifier l'utilisateur, etc., pour déterminer si le cliqueur est humain ou non.

Si ce premier test n’est pas réussi, on passe au deuxième niveau – et détesté – : celui où l’on nous demande d’identifier des feux de circulation, des voitures, des passages piétons ou d’autres objets au sein d’une série d’images.

Ces quiz visuels peuvent être plus difficiles, mais en 2016, des chercheurs de l'Université de Columbia ont démontré qu'ils pouvaient résoudre 70 % des captchas à l'aide d'outils de reconnaissance d'images.

Un paradoxe inévitable

C'est inévitable, compte tenu de ce qui se passe après la résolution des captchas : les données relatives à nos actions pour identifier correctement les feux de circulation ou autres éléments servent à entraîner les systèmes d'intelligence artificielle , qui deviennent ainsi plus performants dans la reconnaissance d'images, mais aussi, par conséquent, dans la résolution des captchas . C'est un paradoxe qui a toujours été au cœur de ces quiz et qui a probablement permis à l'agent ChatGPT de simuler des mouvements humains lorsqu'on lui demandait de confirmer qu'il n'était pas un robot.

Ce n'est même pas le seul paradoxe dans ce domaine, car de plus en plus de fermes à clics embauchent des escouades d'humains pour battre les codes captcha en masse, transformant ainsi ces personnes en robots et trompant ainsi une fois de plus le système.

L'avenir au-delà des captchas

Alors, est-il temps d’abandonner définitivement ces captchas détestés ?

Actuellement, la direction suivie est souvent l'inverse, et consiste à créer des quiz de plus en plus complexes : certains demandent aux utilisateurs de reconnaître des sons (initialement destinés aux personnes aveugles) ou d'écouter des mélodies et d'indiquer où la séquence de notes se répète ; dans d'autres cas, on demande aux utilisateurs de faire pivoter une image 3D d'un animal jusqu'à ce que son museau pointe dans la direction indiquée.

Même ces captchas plus avancés ne suffisent plus à arrêter l’intelligence artificielle.

S'adressant à MIT Tech Review , le professeur d'ingénierie informatique Mauro Migliardi a expliqué que puisque l'IA peut désormais être entraînée à résoudre n'importe quel défi cognitif, il est nécessaire d'utiliser des « captchas physiques », qui nécessitent, par exemple, de faire pivoter le téléphone lors de la navigation via un smartphone.

Mais peut-on vraiment être obligé de manipuler son téléphone comme une manette de jeu à chaque fois que l'on souhaite accéder à un site web ? Une solution plus simple, baptisée Privacy Pass , est actuellement testée par une coalition d'entreprises (dont Apple, Google et Cloudflare). Elle stocke localement, de manière chiffrée et anonyme, les tests précédents réussis pour prouver notre intégrité, sans avoir à répéter le processus à chaque fois . Cette solution est certes préférable aux captchas, mais selon une analyse menée par Mozilla, elle n'est pas sans inconvénients, notamment en termes de risques pour la vie privée.

Les armées de robots ne peuvent pas être arrêtées (complètement)

Il n'existe pas de solution parfaite pour l'instant. En effet, le trafic généré par les robots représente désormais la majorité du trafic en ligne , et même les captchas les plus complexes sont désormais conçus pour rendre le déploiement d'armées de robots plus coûteux et plus complexe, et non pour les arrêter complètement.

À l'avenir, la situation risque de se complexifier encore davantage : si nous confions les clés de notre expérience en ligne à des agents IA, voulons-nous vraiment devoir intervenir physiquement à chaque fois qu'ils rencontrent des tests de plus en plus complexes, les empêchant ainsi de les résoudre seuls ? Une chose est sûre : le temps est venu d'inventer de nouvelles solutions et d'abandonner les codes captcha. Personne ne les regrettera.