L'intelligence artificielle change les règles de la cybersécurité
Pendant des décennies, la cybersécurité a principalement consisté à protéger les systèmes contre des attaques initiées par des humains. Les outils évoluaient, les méthodes se perfectionnaient, mais derrière chaque intrusion se trouvait généralement une personne ou un groupe capable d'identifier une vulnérabilité, de l'exploiter et de progresser dans l'infrastructure ciblée. Cette réalité évolue rapidement.
Les plus récentes recherches tendent à démontrer que certains agents d'intelligence artificielle sont désormais capables d'enchaîner de manière autonome plusieurs étapes d'une attaque informatique. Dans des environnements expérimentaux contrôlés, ils ont réussi à identifier des vulnérabilités, compromettre des serveurs, déployer leur propre environnement d'exécution et poursuivre leurs opérations sur d'autres systèmes, sans intervention humaine pendant l'exécution du scénario.
Ces travaux ne signifient pas que les entreprises sont aujourd'hui confrontées à des intelligences artificielles autonomes qui se propagent librement sur Internet. Les chercheurs ont réalisé leurs expériences dans un laboratoire contrôlé, sur des applications volontairement vulnérables et sans les mécanismes de protection que l'on retrouve habituellement dans les environnements de production. Ils reconnaissent eux-mêmes ces limites. En revanche, ces résultats démontrent une tendance importante : l'intelligence artificielle devient progressivement capable d'exécuter des séquences complètes d'actions qui nécessitaient auparavant une intervention humaine à chacune des étapes.
Pour les organisations, cette évolution change profondément la façon de penser la cybersécurité. Dans le passé, les entreprises ont concentré leurs efforts sur la protection des périmètres : pare-feu, antivirus, contrôle des accès, segmentation des réseaux, correctifs de sécurité et surveillance des événements. Ces mécanismes demeurent indispensables mais ils ne répondent plus à eux seuls à une question essentielle.
Est-ce que mon organisation se comporte, en ce moment même, comme elle devrait normalement se comporter ?
Chaque entreprise possède une signature numérique qui lui est propre. Les employés se connectent selon certaines habitudes, les applications échangent des données à des rythmes relativement prévisibles, les sauvegardes s'exécutent à des moments connus, les systèmes communiquent avec des partenaires identifiés et la consommation de bande passante suit généralement des profils relativement stables.
Lorsqu'un comportement s'écarte soudainement de cette réalité, il ne s'agit pas nécessairement d'une cyberattaque. Il peut s'agir d'une nouvelle application, d'un projet exceptionnel, d'une erreur de configuration ou d'un changement opérationnel légitime. Mais il peut aussi s'agir d'un événement qui mérite une investigation immédiate. C'est pourquoi la compréhension du comportement normal de l'organisation devient un complément essentiel aux outils traditionnels de cybersécurité.
Nous croyons que les entreprises devront progressivement dépasser la simple surveillance des équipements pour développer une véritable intelligence comportementale des flux numériques. Il ne s'agit plus seulement de savoir si un serveur est actif ou si un pare-feu bloque une connexion, mais de comprendre comment l'organisation fonctionne normalement afin de reconnaître rapidement tout comportement qui s'écarte de cette référence.
Cette approche permet d'ajouter une nouvelle dimension à la cybersécurité. Elle aide à détecter des activités inhabituelles, qu'elles proviennent d'une erreur humaine, d'un logiciel malveillant, d'une compromission interne ou, demain, d'agents d'intelligence artificielle capables d'agir avec une autonomie croissante.
L'intelligence artificielle représente une formidable occasion d'accélérer l'innovation, d'améliorer la productivité et d'augmenter la capacité d'analyse des organisations. Elle transforme également la nature des risques auxquels les entreprises devront faire face au cours des prochaines années.
Quantum Beyond pense que la résilience numérique reposera encore sur l'accumulation de technologies de sécurité mais qu’elle reposera aussi sur la capacité de comprendre le fonctionnement réel de l'organisation, d'en apprendre les comportements normaux et de reconnaître, presque instantanément, lorsqu'un événement ne correspond plus à ce qui devrait normalement se produire.