Cisco intensifie la protection des agents d’intelligence artificielle pour une sécurité renforcée – Le Monde Informatique

À l’ère où l’intelligence artificielle s’impose au cœur des infrastructures informatiques, la sécurisation des agents autonomes devient un enjeu crucial. Cisco, leader mondial en solutions de réseaux et cybersécurité, se positionne en acteur incontournable en renforçant la sécurité des agents d’intelligence artificielle grâce à une panoplie d’outils innovants et intégrés. Cet effort s’inscrit dans un contexte où la complexification des menaces pousse les entreprises à adopter des dispositifs de défense plus sophistiqués. La récente conférence RSA de San Francisco a ainsi mis en lumière la volonté de Cisco de protéger non seulement les réseaux mais l’ensemble des composantes IA évolutives, avec un accent particulier sur la gestion des identités et l’automatisation de la sécurité.

Cette intensification de la protection s’appuie notamment sur le déploiement de DefenseClaw, un framework open source conçu pour encadrer et sécuriser le déploiement des agents IA autonomes comme AgentClaw. Par ailleurs, la société développe l’extension de sa solution Duo pour une gestion fine des privilèges des agents IA, un élément clef afin d’éviter les risques liés aux accès non contrôlés. Dans un univers où la confiance devient la monnaie d’échange principale pour l’intégration de ces technologies, Cisco s’inscrit dans une démarche proactive pour permettre aux entreprises de bénéficier pleinement des avantages de l’intelligence artificielle sans compromis sur la sécurité informatique.

Les défis spécifiques de la cybersécurité liés aux agents d’intelligence artificielle

Au fil des années, le rôle des agents autonomes en intelligence artificielle ne cesse de croître, accompagnant la digitalisation massive des systèmes et processus métier. Ces agents, capables de prendre des initiatives, d’effectuer des opérations indépendamment des interventions humaines, représentent cependant une nouvelle frontière en matière de sécurité informatique. Leur nature même, combinant autonomie et manipulation de données sensibles, expose les environnements numériques à des vecteurs d’attaques jusque-là peu exploités.

Parmi les dangers majeurs, la compromission d’un agent IA peut entraîner des conséquences graves : détournement de ressources, vol de propriété intellectuelle, ou encore propagation d’attaques en chaîne. En effet, l’autonomie des agents peut jouer en leur défaveur en accélérant la propagation d’intrusions ou malwares avant que des mesures de défense traditionnelles n’interviennent. Cette vulnérabilité nécessite une réflexion approfondie sur la manière d’injecter une confiance stricte dans les agents IA dès leur conception et durant leur cycle de vie opérationnel.

De plus, les agents IA opèrent fréquemment dans des environnements hybrides, mêlant cloud, périphérie, mobile et datacenters, ce qui multiplie la surface d’attaque. Cisco souligne l’importance d’une approche globale de la cybersécurité, intégrant la sécurité des charges de travail, la gestion des identités et une visibilité complète sur les flux d’information. À ce titre, le concept de Zero Trust Access appliqué aux agents IA s’affirme comme une solution de choix, garantissant que chaque interaction est authentifiée, autorisée et surveillée en temps réel.

Dans ce contexte, la gouvernance des agents IA devient également un enjeu stratégique. Il s’agit de pouvoir non seulement sécuriser ces agents mais aussi tracer leurs activités. La solution Duo Agentic Identity de Cisco représente ici une avancée majeure, permettant d’attribuer un identité distincte à chaque agent, avec un contrôle précis des droits d’accès et une association obligatoire à un responsable humain. Cette traçabilité complète est indispensable pour répondre aux exigences de conformité et limiter les risques liés aux agents à privilèges trop élevés. En sécurisant le lien entre l’agent IA et ses actions, les entreprises peuvent ainsi éviter les comportements malveillants ou les erreurs critiques générées par ces intelligences autonomes.

Au final, les défis liés à la protection des agents d’intelligence artificielle soulignent la nécessité d’une stratégie de défense informatique poussée, capable de couvrir tous les niveaux de responsabilité et d’interaction dans un écosystème IA complexe et distribué.

DefenseClaw : un cadre open source pour la sécurisation avancée des agents IA

L’innovation majeure présentée par Cisco dans ce domaine est certainement DefenseClaw, un framework open source qui complète et s’appuie sur NemoClaw, un environnement de test développé par Nvidia. Ce partenariat technologique met en place une plateforme robuste pour la création, le déploiement et surtout la sécurisation des agents autonomes OpenClaw, une catégorie d’agents IA qui interagit sans supervision humaine constante.

Le fonctionnement de DefenseClaw repose sur des garde-fous essentiels, destinés à garantir que chaque agent opère dans des limites strictes de sécurité et de confidentialité. Il applique notamment des listes de blocage et d’autorisation qui, en temps réel, limitent les capacités des agents à accéder à certaines fonctions ou serveurs indispensables à leur opération. Par exemple, si une compétence est bloquée, l’agent se voit refuser l’accès à son environnement d’exécution, ses fichiers sont isolés en quarantaine et toute tentative d’exécution suscite une erreur immédiate. Cette réaction se produit en moins de deux secondes, évitant toute interruption de service ou redémarrage, assurant ainsi une sécurité continue et efficace.

DefenseClaw intègre cinq outils complémentaires pour couvrir l’ensemble des aspects liés à la défense : un analyseur de compétences pour vérifier les aptitudes des agents, un gestionnaire MCP pour contrôler les points de communication entre agents et services, un module A2A pour sécuriser les interactions agent-à-agent, un système CodeGuard pour réaliser une analyse statique des codes et prévenir les vulnérabilités, ainsi qu’un générateur de nomenclature basé sur l’intelligence artificielle pour standardiser les éléments clés du framework.

Cette architecture modulaire et adaptable est conçue pour répondre aux exigences variées des organisations, qu’elles travaillent dans la finance, la santé, ou l’industrie. L’intégration transparente avec les solutions Nvidia comme NemoClaw confère à DefenseClaw un avantage certain dans la visualisation et simulation des risques, facilitant la mise en place de mécanismes de défense précis et performants.

Par ailleurs, DefenseClaw contribue à répondre à la problématique du phénomène AgentClaw, un agent IA autonome très répandu et susceptible de générer des risques importants en cas de malveillance ou défaillance. Ce cadre est une réponse structurelle aux besoins de protection renforcée des agents d’intelligence artificielle dans un écosystème où la complexité des interactions impose une vigilance constante.

Pour en savoir plus en détail sur cette technologie, le site officiel de Cisco AI Defense propose des ressources approfondies.

Gestion des identités et des accès : l’extension Duo Agentic Identity pour l’IA

La gestion des identités et des accès (IAM) se trouve au cœur de la stratégie de sécurité renforcée visant les agents d’intelligence artificielle. Dans ce domaine, Cisco a étendu sa solution Duo, traditionnellement dédiée aux utilisateurs humains, pour couvrir spécifiquement les agents IA. Cette adaptation permet aux entreprises de découvrir, identifier et contrôler chaque agent comme une entité distincte au sein de leur infrastructure.

Chaque agent IA est enregistré dans Duo Directory comme un objet d’identité, associé à un responsable humain. Ce lien humain-agent est indispensable pour que les actions entreprises par les agents soient traçables, et pour appliquer les règles de gouvernance strictes imposées par des standards comme le RGPD ou la directive NIS2. Ainsi, l’équipe de sécurité peut contrôler quels agents ont accès à quelles ressources et s’assurer que ces accès sont désactivés dès que leurs tâches prennent fin.

Un élément clé de ce dispositif est la mise en œuvre du principe du moindre privilège, particulièrement critique dans le contexte agentique où les agents peuvent avoir des accès étendus s’ils ne sont pas correctement régulés. Duo Agentic Identity fait appel à une passerelle MCP (Multi-Cloud Proxy) servant d’interface standardisée qui évalue chaque requête d’accès des agents avant de les autoriser ou bloquer. Ce mécanisme centralise les règles d’autorisation, évitant ainsi que chaque outil prenne indépendamment des décisions d’accès parfois incohérentes.

Le contrôle en temps réel des interactions via cette passerelle contribue à renforcer la défense informatique des environnements complexes, où l’enchainement automatisé de tâches par les agents doit rester sous surveillance stricte. Cette approche réduit considérablement les risques d’expositions indésirables et de propagation de compromissions en chaîne. En matière de cybersécurité, la capacité d’avoir une visibilité instantanée sur le cycle de vie des agents IA, ainsi que leurs actions, consolide la confiance des organisations dans leurs déploiements IA.

Guillaume de Saint Marc, expert chez Cisco, souligne : « L’observabilité des agents et la qualité des identités sont fondamentales pour assurer une gestion éclairée des privilèges et prévenir les abus. » Cette citation illustre bien la montée en puissance d’outils spécifiques à l’ère de l’IA agentique au sein des architectures sécurisées actuelles.

Automatisation et exploration avancée avec AI Defense Explorer

Pour s’attaquer aux menaces spécifiques aux modèles d’intelligence artificielle, Cisco a enrichi son offre avec AI Defense Explorer, une fonctionnalité destinée à tester et éprouver la robustesse des modèles et agents déployés. Cette innovation s’inscrit dans la logique d’automatisation avancée visant à anticiper et réduire les risques avant même qu’ils ne se manifestent dans les environnements en production.

L’exploration algorithmique développée par Explorer se repose sur des tests d’intrusion pointus qui évaluent en vingt minutes seulement plus de 200 sous-catégories de risques, allant de la toxicité du contenu à l’exfiltration de données sensibles. Cette évaluation rapide permet aux ingénieurs de disposer d’un score de risque précis et complet, à partir duquel ils peuvent ajuster les défenses et corriger les vulnérabilités identifiées.

Par ailleurs, AI Defense Explorer s’intègre avec les principaux frameworks IA et fournisseurs de services cloud, renforçant ainsi la cohérence des politiques de sécurité adoptées par les entreprises. En combinant cette exploration avec les autres modules d’AI Defense (validations des modèles, visibilité cloud, protection runtime), Cisco offre une plateforme exhaustive pour la défense informatique des agents IA.

Cette méthode proactive illustre parfaitement la transformation des opérations SOC (Security Operations Centers) avec une montée en puissance des outils capables d’automatiser la détection et les réponses aux menaces spécifiques à l’intelligence artificielle. L’objectif final est d’améliorer sensiblement la réactivité en réduisant la charge des équipes de cybersécurité, souvent submergées par la complexité des incidents modernes.

Evolution du SOC agentique grâce à l’intégration de Splunk Enterprise Security

Cisco ne s’arrête pas aux protections directes des agents IA, elle envisage une modernisation profonde des centres opérationnels de sécurité (SOC). La dernière version de Splunk Enterprise Security est pensée pour évoluer vers ce que l’on appelle un SOC « agentique », où les agents logiciels ne se limitent plus à collecter des données mais participent activement à l’analyse, la priorisation et la réponse aux menaces.

Cette plateforme révolutionne les processus traditionnels en introduisant des agents capables d’importer automatiquement des procédures opérationnelles standards, facilitant ainsi la standardisation des réponses aux incidents. Un agent dédié au triage permet également d’enrichir les alertes tout en les priorisant de manière autonome, contribuant à alléger significativement la charge des analystes et à accélérer les cycles de réaction.

La solution intègre également Detection Studio, un espace unique où les équipes peuvent planifier, développer et superviser l’ensemble des détections en temps réel. La cartographie avec le framework MITRE ATT&CK aide à identifier les vulnérabilités et à mieux répartir les ressources de surveillance.

Quelques agents complémentaires offrent des analyses précises des malwares et des scripts malveillants, complétées par une recherche fédérée fournissant une vue exhaustive des données réparties sur divers systèmes. Enfin, une fonction d’analyse d’exposition détecte automatiquement les ressources et utilisateurs exposés. Cette couche intégrée de « vérité sécuritaire » maximise la visibilité opérationnelle sans nécessiter d’installation supplémentaire.

Avec cette approche holistique, Cisco propose une défense informatique où la sécurité renforcée intègre la puissance de l’intelligence artificielle pour anticiper, détecter et neutraliser les menaces émergentes dans un monde numérique toujours plus connecté et complexe, comme détaillé dans Le Monde Informatique et d’autres sources spécialisées.

Quels sont les principaux risques liés aux agents d’intelligence artificielle ?

Les agents autonomes peuvent être détournés pour lancer des attaques, accéder à des données sensibles ou propager des malwares rapidement. Leur autonomie amplifie la rapidité et l’impact des intrusions potentielles.

Comment DefenseClaw assure-t-il la sécurité des agents IA ?

DefenseClaw implémente des listes de blocage et d’autorisation en temps réel, analyse les compétences des agents, isole les éléments malveillants automatiquement et limite l’accès aux ressources selon des règles strictes.

Quel rôle joue Duo Agentic Identity dans la protection des agents d’IA ?

Duo Agentic Identity permet de gérer finement les identités et privilèges des agents IA, les associe à des responsables humains, et contrôle chaque accès grâce à une passerelle centrale qui filtre et autorise les interactions.

Quelle valeur apporte AI Defense Explorer aux équipes de sécurité ?

AI Defense Explorer automatise les tests d’intrusion algorithmiques, offre une évaluation rapide des risques sur les modèles IA, et fournit des scores précis pour guider les remédiations et renforcer la sécurité préventive.

En quoi Splunk Enterprise Security révolutionne-t-il le SOC agentique ?

Cette plateforme intègre des agents autonomes capables de gérer les alertes, importer des SOP, analyser les menaces et fournir une visibilité centralisée, optimisant ainsi les opérations et la réactivité des équipes SecOps.