Intelligence artificielle : sommes-nous aussi ambitieux pour ses possibilités que vigilants face à ses risques?
Les discussions entourant l’intelligence artificielle donnent parfois l’impression qu’il faudrait choisir entre enthousiasme et prudence. Certains mettent l’accent sur sa capacité à transformer l’économie, la science, les organisations et le travail, tandis que d’autres insistent sur les risques que des systèmes toujours plus puissants peuvent créer. Pour les dirigeants, cette opposition est pourtant beaucoup moins utile que la question de savoir comment progresser simultanément sur ces deux dimensions.
Dans une entrevue accordée à Fortune, Lila Ibrahim, Chief AI Readiness Officer de Google DeepMind, ramène justement la réflexion à deux préoccupations particulièrement pertinentes pour les organisations : faisons-nous tout ce que nous pouvons pour réduire les risques liés à l’intelligence artificielle et faisons-nous également tout ce que nous pouvons pour maximiser les possibilités qu’elle nous offre?
Ces deux questions devraient être posées ensemble. L’IA devient suffisamment puissante pour transformer profondément la manière dont les organisations travaillent, prennent des décisions, utilisent leurs connaissances et développent leurs capacités. Cette puissance exige simultanément une gouvernance, une architecture de sécurité et une réflexion organisationnelle à la hauteur de ce qu’elle permet désormais d’accomplir.
Chez Quantum Beyond, nous considérons que cette double progression constitue l’un des meilleurs indicateurs de maturité en matière d’intelligence artificielle. Une organisation mature cherche à augmenter la valeur qu’elle peut créer grâce à l’IA tout en développant sa capacité à comprendre, gouverner et sécuriser cette nouvelle puissance opérationnelle.
Les possibilités offertes par l’intelligence artificielle sont déjà considérables. Elle peut accélérer la recherche, analyser des volumes d’information dépassant largement les capacités humaines, automatiser certaines tâches, assister des spécialistes, améliorer la prise de décision et permettre à des organisations relativement petites d’accéder à des capacités qui exigeaient auparavant des ressources beaucoup plus importantes.
L’arrivée des agents IA amplifie cette transformation. Les systèmes peuvent maintenant recevoir un objectif, utiliser des outils, consulter plusieurs sources d’information, interagir avec des applications et accomplir une succession d’actions afin d’atteindre un résultat. Google DeepMind souligne notamment le développement de capacités agentiques dans des domaines aussi variés que la cyberdéfense, la découverte scientifique et le développement de produits.
Pour les organisations, cette évolution ouvre un espace considérable. Une partie du travail administratif peut être automatisée, les spécialistes peuvent être assistés dans leurs recherches, des connaissances dispersées peuvent devenir accessibles beaucoup plus rapidement et certains processus peuvent être exécutés à une vitesse difficilement envisageable auparavant. Des équipes peuvent progressivement apprendre à travailler avec des capacités numériques disponibles en permanence pour rechercher, analyser, préparer, vérifier ou exécuter certaines activités.
Maximiser ces possibilités demande cependant beaucoup plus que l’achat de licences ou l’ajout d’un assistant IA aux outils déjà utilisés. L’organisation doit déterminer où l’intelligence artificielle peut réellement créer de la valeur, quels processus méritent d’être repensés, quelles connaissances doivent être structurées, quelles compétences doivent évoluer et quelles activités peuvent être automatisées, assistées ou profondément transformées.
Elle doit également mesurer ce qu’elle obtient. Une augmentation du nombre de requêtes, d’agents, de licences ou d’automatisations ne constitue pas automatiquement une amélioration de performance. La maturité exige de relier l’utilisation de la technologie à des résultats : qualité, productivité, rapidité, capacité décisionnelle, expérience client, réduction du travail sans valeur ajoutée, amélioration des connaissances disponibles ou création de nouvelles capacités organisationnelles.
C’est dans cette perspective que Quantum Beyond aborde l’AI Adoption et l’AI Organizational Transformation. Le Qb Knowledge Standard – AI Readiness & Knowledge Governance prépare les connaissances nécessaires aux systèmes, tandis que l’AI Onboarding structure l’intégration opérationnelle des agents. Ces disciplines poursuivent un même objectif : permettre à l’organisation d’exploiter davantage les capacités de l’intelligence artificielle de manière concrète et productive.
Cette ambition devient inséparable de la seconde question soulevée par Lila Ibrahim : développons-nous suffisamment notre capacité à maîtriser les risques qui accompagnent cette puissance?
Ces risques existent déjà à une échelle parfaitement familière aux entreprises. Une IA peut recevoir de l’information confidentielle. Un agent peut accéder à une boîte de courriel, un CRM, un environnement cloud ou des données financières. Un système peut produire une recommandation erronée qui influence une décision importante. Une automatisation peut reproduire une erreur des milliers de fois avant qu’une personne ne la détecte, tandis qu’un agent disposant de permissions trop larges peut accomplir une action dépassant largement l’intention initiale de son utilisateur.
Plus nous augmentons les capacités d’un système, plus la distinction entre ce qu’il peut faire et ce qu’il est autorisé à faire devient importante. Une organisation pourrait disposer d’un agent techniquement capable d’envoyer des courriels, modifier des données financières ou supprimer des fichiers sans pour autant souhaiter lui accorder automatiquement chacune de ces autorités.
Cette distinction entre capacité et autorité devrait devenir fondamentale dans la gouvernance de l’IA agentique. La technologie détermine ce qui est possible. L’organisation doit déterminer ce qui est permis, dans quelles circonstances, sous quelles conditions et avec quel niveau de supervision.
Les travaux actuels sur la sécurité de l’IA reflètent cette évolution. Google DeepMind utilise notamment son Frontier Safety Framework afin d’identifier l’apparition de capacités susceptibles de créer des risques sévères et de prévoir différentes mesures lorsque certains seuils sont atteints. Les interactions entre agents constituent également un domaine important puisque des systèmes individuellement maîtrisés peuvent produire, lorsqu’ils collaborent, des comportements ou des chaînes d’actions plus difficiles à anticiper.
À l’échelle des organisations, le NIST AI Risk Management Framework propose une approche complémentaire en intégrant les questions de fiabilité et de gestion du risque dans la conception, le développement, l’utilisation et l’évaluation des systèmes d’intelligence artificielle. Le principe qui en ressort est particulièrement utile : la sécurité de l’IA doit progresser avec son adoption plutôt que d’être ajoutée lorsque les systèmes sont déjà profondément intégrés aux opérations.
C’est précisément là que l’ambition et la vigilance cessent d’être contradictoires. Une organisation qui maîtrise mieux son environnement peut raisonnablement permettre davantage de choses à ses systèmes.
Un agent doit pouvoir accéder aux informations nécessaires à son travail sans obtenir automatiquement accès à toute la connaissance de l’entreprise. Il peut utiliser les outils nécessaires à sa mission sans recevoir des privilèges administratifs permanents. Certaines opérations peuvent être automatisées, alors que d’autres déclenchent une validation humaine en fonction de leurs conséquences potentielles.
L’identité propre aux agents, le moindre privilège, Zero Trust, Continuous Trust, la segmentation, la journalisation, la surveillance comportementale et la capacité de retirer rapidement des accès ne servent donc pas uniquement à restreindre l’IA. Ces mécanismes créent les conditions permettant de lui accorder davantage de capacités lorsque le niveau de maîtrise est suffisant.
Cette relation entre contrôle et capacité mérite d’être soulignée. Une organisation qui sait précisément ce qu’un agent peut consulter, quels outils il peut utiliser, quelles actions il peut accomplir et comment interrompre son fonctionnement possède davantage de latitude pour lui confier des responsabilités qu’une organisation qui ignore ces éléments.
L’Hypersécurité permet d’étendre cette réflexion à l’écosystème dans lequel les agents évoluent. Avec l’IA agentique, le risque ne réside plus uniquement dans le modèle. Il se trouve également dans les identités, les connaissances, les API, les applications, les fournisseurs, les données, les permissions et les interactions entre plusieurs systèmes. Chacun de ces éléments peut être raisonnablement sécurisé individuellement alors que leur combinaison crée de nouveaux chemins d’action.
L’enjeu consiste donc à observer l’ensemble de l’architecture et son évolution. L’Hypersécurité relie les disciplines de cybersécurité à la gouvernance, à la résilience, aux connaissances, aux dépendances technologiques et à la souveraineté afin de maintenir une capacité continue à anticiper, résister, détecter, contenir, récupérer et s’adapter. Dans un environnement agentique, cette vision devient particulièrement importante puisque les capacités d’un système peuvent évoluer sans que son rôle officiel ait changé.
Un modèle est mis à jour, une application est connectée, une API évolue, un agent reçoit un nouvel outil, une source de données devient disponible ou deux agents auparavant indépendants commencent à collaborer. Une permission appropriée au moment du déploiement peut ainsi devenir excessive quelques mois plus tard.
La gouvernance doit par conséquent devenir dynamique. C’est ce que Quantum Beyond désigne comme la cybervigilance agentique : maintenir une connaissance suffisamment précise de ce que les agents peuvent réellement accomplir, observer leur comportement et réévaluer leurs identités, permissions, interactions et capacités à mesure que leur environnement évolue.
Cette vigilance deviendra d’autant plus importante lorsque les organisations passeront de quelques agents facilement identifiables à des dizaines, des centaines ou éventuellement davantage de capacités agentiques distribuées dans leurs opérations. La question ne sera alors plus seulement de savoir si chaque modèle est suffisamment sécuritaire. Il faudra comprendre si l’écosystème dans lequel tous ces systèmes ont été placés demeure lui-même maîtrisé.
L’autre condition essentielle à une utilisation ambitieuse de l’IA concerne la connaissance organisationnelle. Une entreprise peut posséder des décennies d’expérience dispersées dans ses documents, bases de données, procédures, courriels et, surtout, dans la mémoire de ses employés. Cette connaissance peut contenir des contradictions, être devenue désuète, demeurer implicite ou être difficilement accessible.
Connecter une intelligence artificielle à cet environnement ne transforme pas automatiquement toute cette information en connaissance fiable. Une IA capable d’accéder plus rapidement à une mauvaise information peut simplement produire plus rapidement une mauvaise réponse.
Le Qb Knowledge Standard – AI Readiness & Knowledge Governance vise précisément à préparer cette couche essentielle. Avant de demander aux systèmes d’IA de comprendre une organisation, il faut rendre ses actifs informationnels suffisamment structurés, fiables et gouvernés pour qu’ils puissent être utilisés correctement. Cette démarche augmente simultanément le potentiel de l’intelligence artificielle et réduit les risques associés à des informations erronées, contradictoires, obsolètes ou inappropriées.
Nous retrouvons encore la même relation : la qualité de la gouvernance permet d’augmenter la capacité. Une meilleure connaissance organisationnelle améliore la pertinence des systèmes tout en renforçant le contrôle sur ce qu’ils peuvent savoir et utiliser.
Cette logique s’applique également à l’autonomie. Chez Quantum Beyond, l’AI Onboarding considère l’autonomie comme une capacité qui doit être proportionnelle au rôle, au risque et aux résultats observés. L’agent peut commencer par travailler dans un environnement contrôlé, observer un processus, assister une personne ou produire des recommandations. Certaines actions peuvent ensuite lui être accordées avec approbation humaine avant qu’une autonomie plus importante soit envisagée lorsque son comportement et ses résultats le justifient.
Cette progression permet d’éviter deux situations également improductives : maintenir durablement des systèmes puissants dans des rôles tellement limités qu’ils créent peu de valeur, ou leur accorder immédiatement une autonomie que l’organisation ne possède pas encore les moyens de gouverner.
L’objectif n’est donc pas l’autonomie maximale. Il consiste à déterminer le niveau d’autonomie optimal pour chaque responsabilité. Une tâche répétitive, réversible et peu risquée peut justifier une automatisation importante, tandis qu’une décision produisant des conséquences juridiques, financières ou humaines majeures peut exiger une intervention explicite. Entre les deux existe tout un continuum de supervision et d’autorité que l’organisation peut adapter.
Cette approche nous ramène à la notion même de maturité IA. Une organisation mature ne devrait pas être mesurée uniquement selon la sophistication des technologies qu’elle déploie. Elle devrait également être évaluée selon sa capacité à transformer ses processus, préparer ses connaissances, développer les compétences de ses équipes, mesurer la valeur produite, gouverner ses agents, contrôler leurs identités et faire évoluer leur autonomie.
La maturité réside précisément dans la capacité à faire progresser ces dimensions ensemble. Plus l’organisation devient capable de gouverner l’IA, plus elle peut raisonnablement être ambitieuse dans son utilisation. Et plus elle devient ambitieuse, plus elle doit renforcer les mécanismes lui permettant de conserver cette maîtrise.
Cette progression doit finalement demeurer orientée vers les personnes. Lila Ibrahim souligne l’importance d’utiliser ces technologies pour améliorer le monde dans lequel nous vivons et augmenter le potentiel humain. Cette perspective rejoint directement la manière dont Quantum Beyond conçoit la transformation par l’intelligence artificielle.
Nous ne voulons pas simplement aider les organisations à accumuler des outils d’IA. Nous voulons les aider à devenir meilleures grâce à eux : permettre aux employés d’accomplir davantage, rendre la connaissance plus accessible, réduire certaines tâches sans valeur ajoutée, donner aux spécialistes davantage de temps pour exercer leur expertise, accélérer la résolution de problèmes et créer de nouvelles capacités organisationnelles.
Cette ambition implique également de protéger les personnes, leurs informations, leur autonomie et leur capacité de jugement. Les travaux de Google DeepMind sur les risques de manipulation par des systèmes d’intelligence artificielle rappellent d’ailleurs que la sécurité ne concerne pas uniquement les données et les infrastructures. À mesure que les systèmes conversationnels deviennent plus convaincants et personnalisés, comprendre leur capacité à influencer les comportements humains devient également un enjeu de sécurité et de gouvernance.
La technologie devient véritablement utile lorsqu’elle augmente les possibilités humaines tout en préservant notre capacité à décider des objectifs qu’elle doit poursuivre et des limites dans lesquelles elle peut agir. La performance d’un modèle, le nombre d’agents déployés ou la proportion de tâches automatisées demeurent des moyens. La valeur créée pour les personnes et pour l’organisation constitue la finalité.
Les deux questions proposées par Lila Ibrahim offrent finalement un excellent test de maturité pour les organisations qui investissent aujourd’hui dans l’intelligence artificielle : faisons-nous suffisamment pour exploiter ses possibilités et faisons-nous suffisamment pour maîtriser les risques qui accompagnent cette nouvelle capacité?
Ces questions gagnent à être examinées ensemble parce qu’elles se renforcent mutuellement. Une organisation qui structure ses connaissances peut obtenir de meilleurs résultats tout en réduisant les erreurs. Une organisation qui maîtrise les identités et les permissions de ses agents peut leur accorder davantage de responsabilités. Une organisation qui mesure la performance peut identifier les domaines où l’autonomie produit réellement de la valeur. Une architecture capable de détecter et de contenir les comportements inattendus permet d’expérimenter avec davantage de confiance.
Chez Quantum Beyond, cette relation entre ambition et vigilance relie directement l’AI Adoption, l’AI Organizational Transformation, l’AI Onboarding, l’AI Governance Office, le Qb Knowledge Standard, l’IAM, Zero Trust et Continuous Trust, la cybervigilance agentique, la cyberrésilience et l’Hypersécurité. Ces disciplines ne constituent pas une accumulation de contrôles autour de l’intelligence artificielle. Elles forment l’architecture permettant à l’organisation d’en exploiter progressivement davantage les capacités tout en conservant la compréhension et le contrôle nécessaires.
La question déterminante ne sera donc probablement pas de savoir jusqu’où l’intelligence artificielle peut aller. Ses capacités continueront d’évoluer et nous en découvrirons régulièrement de nouvelles. Pour les organisations, la question beaucoup plus utile consiste à déterminer jusqu’où elles peuvent aller avec elle en développant simultanément leur propre capacité à la comprendre, à la gouverner et à l’intégrer intelligemment au travail humain.
C’est dans cette progression commune que se trouve probablement la véritable maturité : devenir plus ambitieux parce que nous sommes mieux préparés, et devenir plus vigilants précisément parce que nous voulons aller plus loin. L’intelligence artificielle peut considérablement augmenter les possibilités des organisations. Notre responsabilité est de faire progresser avec elle notre capacité à nous assurer que les humains demeurent les bénéficiaires de cette transformation.