Google a créé un Internet parallèle pour ses IA : ce qu’il cherche à éviter sur le vrai Web est inquiétant

Author:

Cela vous intéressera aussi

[EN VIDÉO] Nos dernières vidéos à ne pas manquer.

En janvier dernier, Google a lancé sa fonctionnalité « Auto Browse », la navigation automatique, dans son navigateur Chrome. Le logiciel intègre désormais des agents basés sur le modèle d’intelligence artificielle Gemini, capables d’effectuer de nombreuses tâches à votre place. Toutefois, ces fonctionnalités doivent être entraînées, et ce n’est pas une bonne idée de lâcher des agents sur le Web sans les avoir testés auparavant.

Google Chrome devient un agent IA : gain de temps, perte de maîtrise ? Ce qu’il faut savoir

Avec une nouvelle fonctionnalité baptisée Auto Browse, Google transforme son navigateur Chrome en agent IA capable d’agir à la place de l’utilisateur sur le web. L’agent n’est pour l’instant disponible qu’aux États‑Unis. Dans un paysage concurrentiel marqué par les navigateurs IA de Perplexity et d’OpenAI, Chrome impose son modèle intégré à l’écosystème déjà implanté…. Lire la suite

Nous avons ainsi vu différentes IA, comme celles d’OpenAI ou d’Anthropic, partir en vrille et pirater des sites Web. Pour éviter de reproduire ce scénario, Google a donc décidé de créer un Internet parallèle. Dans une nouvelle publication, la firme a détaillé sa « dimension miroir pour agents », une version factice du Web conçue pour tromper complètement les agents.

Le défi technique : rendre l’illusion parfaite

L’un des problèmes des bacs à sable conçus pour tester les agents, c’est que les IA se rendent généralement compte qu’elles sont évaluées, et que ce n’est pas un environnement réel. Cela modifie leurs décisions, ce qui signifie que certains comportements problématiques n’apparaissent qu’une fois que les agents sont lâchés sur le véritable Internet. Côté technique, Google a dû ruser avec redirections de DNS et falsification de certificats TLS pour que l’IA ne se doute de rien et pour éviter qu’elle ne croit à une attaque. Cette solution n’est possible que parce que Google a la possibilité de modifier le navigateur Chrome pour l’accepter.

Qu’est-ce que dots, cette nouvelle IA d’OpenAI qui n’attend plus que vous lui donniez des ordres ?

Après avoir popularisé les agents IA capables d’agir de manière autonome, OpenAI passe à l’étape suivante avec dots, des collègues virtuels qui continuent à travailler même lorsque vous quittez ChatGPT. Toutefois, comme d’habitude, la France devra attendre avant de pouvoir y accéder…. Lire la suite

Ensuite, il a fallu reproduire des centaines de sites Web, comme des sites de vente en ligne, des réseaux sociaux, des sites de recettes, avec toutes les fonctionnalités attendues. Pour ce faire, Google a fait appel à trois types d’agents. Le premier est dédié à la recherche et détermine le type de site et les fonctionnalités nécessaires à chaque test. Le second génère le code pour construire les sites. Le troisième évalue le résultat et s’assure que tout fonctionne correctement.

L’architecture de l’Internet miroir créé pour évaluer les agents de Chrome. © Google

Un terrain de jeu idéal pour simuler des cyberattaques

Cet environnement de test sécurisé permet d’évaluer les agents intégrés dans Chrome sans risque pour les sites Web réels, mais il offre aussi certains avantages. Il est possible d’y intégrer des attaques par « prompt injection », ou infiltration de requête. L’un des principaux dangers, du point de vue de l’utilisateur, est que certains sites cachent des instructions destinées aux agents, leur demandant d’effectuer des actions non autorisées ou de partager des informations. Avec cet Internet parallèle, Google peut tester les protections mises en place pour parer à ce genre d’attaque, en incluant des instructions frauduleuses dans ses sites factices.

« Les agents IA pourraient voir les humains comme un obstacle » : l’alerte glaçante d’un cadre d’OpenAI

L’IA pourrait-elle bientôt devenir la première cause de mortalité ? Certains spécialistes, comme Geoffrey Hinton, ont désormais une vision très pessimiste de l’IA. C’est le cas aussi de Paul Christiano, qui pense que l’IA pourrait prendre le contrôle dans les trois prochaines années…. Lire la suite

Selon Google, cette fonctionnalité permet à chaque ingénieur de créer un millier d’attaques factices par jour, soit 30 fois ce qu’il était possible de faire manuellement auparavant. Ainsi, la firme peut mettre son navigateur agentique à l’épreuve sans mettre en danger le Web. Google compte même partager sa méthode pour que d’autres chercheurs puissent y avoir recours. Toutefois, il reste à voir si ces sites factices sont suffisamment réalistes pour offrir une véritable évaluation des agents, et que ces derniers se doutent pas de la supercherie.

Leave a Reply

Your email address will not be published. Required fields are marked *