Points clés
- Selon Gartner, d’ici 2028, plus de 50 % des entreprises utiliseront des plateformes de sécurité de l’IA pour sécuriser l’utilisation de services IA de tiers et protéger les applications IA construites sur mesure.
- Gartner prévoit aussi que cinquante pour cent des efforts de réponse aux incidents de cybersécurité des entreprises porteront sur des incidents impliquant des applications construites sur mesure et pilotées par l’IA d’ici 2028.
- Les contrôles sont techniques et opérationnels : liaison d’identité, filtrage des destinations, DLP, surveillance et réponse. La vitesse d’innovation comme laissez-passer. Les intégrations accélérées qui sautent l’examen de sécurité et de vie privée entraînent l’organisation à router le risque autour du plan de contrôle.
Les programmes de sécurité des entreprises ont passé une décennie à affiner les contrôles pour le SaaS, l’identité et le routage réseau. L’IA générative et agentique brise ce modèle dans deux directions à la fois : les employés amènent des outils externes dans leurs flux de travail quotidiens, et les équipes d’ingénierie livrent des applications qui raisonnent, récupèrent et agissent avec des privilèges qui ne ressemblent en rien à un compte de service traditionnel.
Cette double pression explique pourquoi les plateformes de sécurité de l’IA (AISP) passent du vocabulaire des laboratoires d’innovation au langage des conseils d’administration et des comités des risques. Le manque n’est pas une présentation manquante. C’est l’absence d’un système de contrôle qui traite l’IA à la fois comme un canal que les gens utilisent et comme une catégorie d’applications que les organisations construisent.
Pourquoi cela apparaît dans le langage des conseils maintenant
Selon Gartner, d’ici 2028, plus de 50 % des entreprises utiliseront des plateformes de sécurité de l’IA pour sécuriser l’utilisation de services IA de tiers et protéger les applications IA construites sur mesure. Gartner prévoit aussi que cinquante pour cent des efforts de réponse aux incidents de cybersécurité des entreprises porteront sur des incidents impliquant des applications construites sur mesure et pilotées par l’IA d’ici 2028.
Relisez cela en praticien de la vie privée et de la sécurité. La moitié du futur travail de réponse aux incidents pourrait ne ressembler ni à un rançongiciel ni à une boîte de courriel hameçonnée. Ce pourrait être un agent qui en a trop partagé, un modèle qui a ingéré le mauvais corpus, ou un plugiciel livré sans évaluation d’impact sur la vie privée.
Gartner a aussi nommé les plateformes de sécurité de l’IA parmi ses principales tendances technologiques stratégiques pour 2026. Les analyses secondaires de cette tendance, dont le résumé de Cato Networks sur la tendance AISP de Gartner, décrivent la même courbe d’adoption : une petite part des entreprises au milieu des années 2020, le territoire majoritaire d’ici 2028.
Pas besoin de boule de cristal. Il faut une architecture qui suppose que l’IA est déjà en production — souvent sans étiquette dans le registre des risques.
Deux piliers pour expliquer l’AISP aux dirigeants non spécialistes de la sécurité
Quand les responsables de la sécurité, de la vie privée, du produit et du risque alignent les parties prenantes, le bingo des outils aide rarement. Un modèle plus clair utilise deux seaux qui correspondent proprement à la propriété et au budget.
1. Contrôle de l’utilisation de l’IA (AIUC)
C’est le problème du « qui utilise quoi, avec quelles données ».
Dans bien des entreprises, le modèle est familier :
- Des travailleurs du savoir qui collent du matériel confidentiel dans des outils de clavardage grand public
- Des équipes de vente ou de marketing qui connectent des GRC aux copilotes sans examen des flux de données
- L’ingénierie qui crée des clés API de modèles « temporaires » pour des projets parallèles
- Des fournisseurs qui ajoutent discrètement des fonctions IA dans des produits SaaS approuvés avant l’existence de ces fonctions
L’AIUC, c’est la politique plus l’application. L’usage acceptable seul ne suffit pas. Les programmes matures combinent des contrôles tenant compte de l’identité, des frontières de classification des données, la journalisation et la capacité de bloquer les destinations à haut risque quand des renseignements personnels ou des données réglementées sont en jeu.
Dans les examens de la vie privée et de la gouvernance, l’inventaire est souvent tout le jeu. Si une organisation ne peut pas lister les services IA approuvés et les catégories de données permises dans chacun, les évaluations d’impact sur la vie privée deviennent des vœux pieux plutôt qu’opérationnelles.
2. Sécurité des applications IA (AIAS)
C’est le problème du « nous l’avons construit, maintenant il peut échouer de nouvelles façons ».
Les applications et agents IA sur mesure introduisent des modes de défaillance que la sécurité applicative traditionnelle ne couvre qu’à moitié :
- L’injection d’invites et l’abus d’outils
- La fuite de données d’entraînement ou de récupération
- Des comptes de service sur-privilégiés agissant au nom d’utilisateurs
- La conception non sécurisée de plugiciels et de connecteurs
- Des actions de modèles et d’agents qui semblent « autorisées » uniquement parce qu’un jeton était valide
L’AIAS se situe plus près de la sécurité applicative, de la modélisation des menaces et du cycle de développement sécurisé — avec des tests propres à l’IA en couches. Si une équipe peut livrer un agent qui lit les courriels, écrit des billets et appelle des API internes, l’examen de sécurité doit traiter cet agent comme une nouvelle catégorie d’utilisateur privilégié, pas comme une habile enveloppe d’interface.
Des modèles illustratifs dans le travail de vie privée et de risque
Les programmes AISP solides commencent rarement par un appel d’offres de plateforme. Ils commencent par des modèles opérationnels concrets.
Premier modèle : l’IA fantôme. Un analyste utilise un outil gratuit parce que l’option approuvée semble lente. Le contenu comprend des plans de produits non publiés ou des renseignements personnels de clients. Aucune signature DLP ne se déclenche parce que le trafic ressemble à du HTTPS ordinaire vers un domaine populaire.
Deuxième modèle : outil approuvé, configuration faible. Une licence d’entreprise existe. La journalisation est désactivée pour la « performance ». Les paramètres de conservation ne correspondent pas aux besoins d’enquête ou de mise sous scellés. L’avis de confidentialité dit une chose; les sous-traitants du fournisseur et les clauses d’entraînement des modèles en disent une autre.
Troisième modèle : l’agent qui fonctionne trop bien. Un assistant interne reçoit un large accès en lecture « pour la précision ». Il résume un dépôt qu’il n’aurait jamais dû voir. Personne de malveillant. Le modèle de permissions était optimiste.
Ces modèles expliquent pourquoi les conversations AISP se tiennent maintenant à côté des discussions sur la confiance zéro et les CASB — pas seulement à côté des laboratoires d’innovation.
Une séquence pratique sans faire bouillir l’océan
Le choix de plateforme est plus facile une fois la séquence du programme claire. Un chemin durable pour le prochain trimestre ressemble à ceci :
- Inventoriez ce que les gens utilisent déjà. Les extensions de navigateur, les fonctions IA SaaS, les clés API dans les gestionnaires de secrets et les comptes d’équipe sur cartes corporatives dépassent souvent les catalogues officiels.
- Classifiez les données qui ne doivent jamais quitter les canaux contrôlés. Les renseignements personnels des clients, les données des employés, les dossiers financiers, les secrets commerciaux et le matériel sous scellés formels sont des frontières non négociables.
- Séparez la politique d’utilisation de la politique de construction. Des employés qui utilisent l’IA de tiers, ce n’est pas le même ensemble de contrôles que des ingénieurs qui livrent des flux agentiques.
- Branchez la journalisation sur la réponse aux incidents. Si la moitié de la future charge de réponse aux incidents concerne les applications IA, les jeux ont besoin de preuves propres à l’IA : invites, appels d’outils, versions de modèles, sources de données, et qui a approuvé l’intégration.
- Placez les examens de la vie privée et de la sécurité tôt. Une évaluation d’impact sur la vie privée après le lancement, c’est du contrôle des dégâts. Pour les fonctions IA, la limitation des finalités, la conservation et la minimisation des données appartiennent avant la première invite de production.
- Cartographiez les capacités de la plateforme sur l’AIUC et l’AIAS. Priorisez la visibilité centrale, l’application des politiques et les protections contre les abus natifs de l’IA. Le cadrage public de Gartner se centre sur la visibilité, la politique d’utilisation et les garde-fous pour l’IA de tiers et sur mesure.
Modes de défaillance courants (modèles sectoriels)
Les programmes calent quand ils confondent les artefacts avec les contrôles.
L’usage acceptable traité comme application. Un PDF de politique d’IA générative est une hygiène nécessaire. Ce n’est pas un contrôle. Les contrôles sont techniques et opérationnels : liaison d’identité, filtrage des destinations, DLP, surveillance et réponse.
La vitesse d’innovation comme laissez-passer. Les intégrations accélérées qui sautent l’examen de sécurité et de vie privée entraînent l’organisation à router le risque autour du plan de contrôle. La vitesse et la gouvernance ne sont pas des opposés; la vitesse non gouvernée déplace simplement le risque résiduel en production.
Les évaluations statiques des fournisseurs. Les suites de collaboration et les plateformes de productivité livrent de nouvelles fonctions IA en cours de contrat — résumés de réunions, mémoire de clavardage, connecteurs vers des systèmes jamais évalués à cette fin. L’examen continu des tiers et le langage contractuel comptent autant que le questionnaire initial.
L’investissement à pilier unique. Acheter seulement la surveillance de l’utilisation en ignorant les privilèges des agents — ou financer la sécurité applicative pour les modèles sur mesure pendant que des outils fantômes tournent sans contrôle — laisse un angle mort que la direction redécouvrira pendant un incident.
Là où la pensée CISSP aide
C’est de la gestion des risques et de l’architecture de sécurité classiques, avec de nouveaux objets dans la portée.
- La gestion des actifs comprend maintenant les modèles, les agents, les invites, les plongements lexicaux et les connecteurs
- La gestion des identités et des accès doit couvrir les acteurs non humains avec de vrais privilèges
- La journalisation et la surveillance ont besoin d’une télémétrie tenant compte de l’IA
- La réponse aux incidents a besoin de scénarios d’exfiltration de données via des invites et des actions automatisées
- Le risque lié aux tiers doit réévaluer les fournisseurs quand des fonctions IA apparaissent en cours de contrat
Si un programme de sécurité traite encore l’IA comme un pilote de nouveauté, le risque résiduel est déjà en production. Il n’est simplement pas étiqueté ainsi dans le registre.
L’alignement des domaines se situe principalement dans la gestion de la sécurité et des risques, avec de forts liens vers l’architecture et l’ingénierie de sécurité (conception de contrôles pour de nouveaux types de systèmes), la gestion des identités et des accès (identités non humaines) et les opérations de sécurité (détection et réponse pour les événements médiés par l’IA).
À retenir — passage à l’action
Cette semaine, rédigez une carte d’une page à deux colonnes : le contrôle de l’utilisation de l’IA et la sécurité des applications IA.
Sous l’utilisation, listez les cinq principaux services IA que les gens touchent réellement et les types de données permis dans chacun. Sous les applications, listez chaque fonction ou agent IA interne en production ou en pilote, les privilèges qu’il détient, et si la réponse aux incidents pourrait reconstituer ses actions demain matin.
Si l’une ou l’autre colonne est vide ou pleine d’« inconnus », l’organisation n’a pas encore un problème de plateforme. Elle a un problème d’inventaire. Réglez cela d’abord. Les plateformes amplifient le contrôle; elles n’inventent pas la visibilité qu’un programme a refusé de recueillir.
Apportez ensuite cette carte au prochain examen des risques ou de l’architecture. Posez une question : quelles lacunes nous surprendraient encore si la prédiction de Gartner sur la réponse aux incidents en 2028 arrivait en avance?
Cette conversation est plus utile qu’une autre diapositive intitulée « Stratégie IA ».