Google DeepMind dévoile sa riposte contre une menace invisible mais redoutable : les attaques par injection rapide indirecte
Face à l’évolution rapide des cybermenaces visant l’intelligence artificielle, Google DeepMind lève le voile sur sa toute nouvelle stratégie défensive contre un type d’attaque aussi sophistiqué qu’invisible : les injections rapides indirectes adaptatives, également appelées IPI (pour Indirect Prompt Injections). Grâce à une approche itérative mêlant entraînement intelligent et tests de sécurité continus, la dernière version du modèle Gemini 2.5 montre des avancées significatives en matière de cybersécurité.
Lire aussi :
- Android muscle sa défense contre les voleurs et les arnaques pendant que Gemini s’invite dans tous les appareils de l’écosystème Google
- Ce que Google prépare avec Android 16 va bien au-delà des smartphones : votre montre, votre voiture et votre télé sont les prochains cibles
Des attaques invisibles, mais redoutablement efficaces
Les attaques IPI ne ciblent pas les failles classiques des systèmes. Leur force réside dans leur discrétion. Elles exploitent le fonctionnement même des IA dites « agentiques », c’est-à-dire autonomes, capables d’apprendre et d’agir dans des environnements complexes. Un exemple frappant : un assistant IA qui accède à vos e-mails pour vous aider à gérer votre emploi du temps peut être manipulé… par un simple message piégé.
L’attaquant n’a besoin d’aucune connaissance interne du modèle. Il peut simplement insérer une instruction cachée dans un e-mail. Si cette commande est apprise et interprétée par l’IA, elle peut modifier son comportement : fuite d’informations sensibles, surveillance du calendrier, ou réponses inappropriées en présence de mots-clés comme « mise à jour importante ».
Un processus défensif adaptatif et automatisé
Pour contrer cette menace, DeepMind a développé une réponse à la hauteur : une stratégie de défense continue et évolutive. Le cœur de cette approche repose sur une technique nommée ART (Adversarial Red Teaming) : un système automatisé de simulation d’attaques, qui cherche à tester et à contourner les défenses du modèle comme le ferait un véritable pirate informatique.
À chaque attaque réussie par l’ART, le modèle est réentraîné pour ignorer les instructions malveillantes similaires. Le but : apprendre au modèle à se concentrer uniquement sur la demande de l’utilisateur, et non sur des données cachées dans l’environnement.
Des résultats concrets avec Gemini 2.5
Les fruits de ce travail apparaissent clairement dans Gemini 2.5. Par rapport à la version précédente (Gemini 2.0), le taux de réussite des attaques par injection a considérablement chuté. Dans un scénario de messagerie, le taux de réussite des attaques dites TAP (arbre d’attaques avec élimination) est passé de 99,8 % à 53,6 % grâce à ces nouvelles défenses.
Il ne s’agit pas d’une solution miracle. Les chercheurs de DeepMind insistent : ces défenses doivent être considérées comme un complément aux protections existantes, et non comme un remplacement. Elles rendent simplement les attaques plus coûteuses, plus complexes et donc moins fréquentes.
Combiner les couches de sécurité pour plus d’efficacité
DeepMind souligne l’importance de l’approche combinée. En associant leur nouveau processus d’entraînement adversaire à des méthodes plus simples, comme les instructions préventives données au modèle (« ne jamais divulguer d’informations sensibles »), les résultats sont encore meilleurs. Cette stratégie hybride crée une défense en profondeur, qui oblige l’attaquant à déployer davantage de ressources pour espérer réussir.
L’objectif est clair : allonger le temps et augmenter le coût nécessaire pour qu’une attaque aboutisse. C’est cette barrière invisible qui renforce la résilience globale du système.
Pourquoi cette avancée est capitale pour l’avenir de l’IA agentique
Les IA capables d’agir seules dans des environnements ouverts « les IA agentiques » seront de plus en plus présentes dans nos vies : assistants intelligents, agents financiers, systèmes de gestion d’entreprise… Leur autonomie est une force, mais aussi une faiblesse potentielle si elle est exploitée par des acteurs malveillants.
En développant des mécanismes de défense dynamique, DeepMind trace une voie vers une IA plus sûre, plus fiable, et capable d’évoluer en résistant aux manipulations. Une exigence devenue cruciale à l’heure où l’IA devient un actif stratégique pour les entreprises, les États et les citoyens.
Scandale chez Google : l’IA Gemini propose des résultats dangereux ! Découvrez-les !
En résumé : ce qu’il faut retenir de la défense anti-IPI de DeepMind
- Type d’attaque visée : injection rapide indirecte (IPI), via des instructions cachées
- Technologie de défense : ART (Adversarial Red Teaming), entraînement adaptatif
- Résultat concret : réduction de moitié du taux de réussite des attaques TAP entre Gemini 2.0 et 2.5
- Approche combinée : fusion de défenses internes et de règles explicites (comme les avertissements)
- Objectif : rendre les attaques plus coûteuses et détectables, donc plus rares
Avec Gemini 2.5, Google DeepMind ne promet pas une IA invulnérable. Mais elle pose les fondations d’une nouvelle génération d’intelligences artificielles plus résilientes face aux manipulations invisibles un enjeu critique à l’ère de l’automatisation intelligente.
Ça vous a plu ? 4.5/5 (23)
