Le glossaire de la sécurité et de la gouvernance de l’IA
Des définitions claires des notions qui comptent dans un déploiement d’IA en entreprise : menaces de sécurité, cadres de gouvernance et réglementations applicables.
Injection de prompt
L’injection de prompt est une attaque qui consiste à dissimuler des instructions malveillantes dans un contenu traité par une IA, par exemple un e-mail, un document ou une page web. Le modèle exécute alors le texte de l’attaquant au lieu de respecter ses consignes initiales. Le Top 10 OWASP des applications LLM en fait le premier risque de sécurité de ce type de système.
Qu’est-ce que l’injection de prompt ?Gouvernance de l’IA
La gouvernance de l’IA désigne l’ensemble des politiques, rôles, processus et contrôles techniques qu’une organisation met en place pour un usage sûr, légal et responsable de l’IA. Elle définit quels outils sont approuvés, qui peut les utiliser avec quelles données, comment l’usage est supervisé, et comment les risques sont évalués avant toute mise en production.
Qu’est-ce que la gouvernance de l’IA ?AI Act (règlement européen sur l’IA)
L’AI Act (règlement (UE) 2024/1689) est la première loi au monde encadrant l’intelligence artificielle de manière globale. Entré en vigueur en août 2024, il s’applique par étapes. Le règlement classe les systèmes d’IA selon leur niveau de risque, des pratiques interdites aux systèmes à haut risque strictement encadrés, avec des obligations de transparence allégées pour des usages comme les chatbots.
Qu’est-ce que l’AI Act européen ?Shadow AI
Le shadow AI désigne l’utilisation d’outils d’IA dans une organisation à l’insu des équipes IT et sécurité, ou sans leur approbation. Exemples typiques : des collaborateurs qui collent des données d’entreprise dans des comptes personnels de chatbots, des extensions d’IA non vérifiées, des fonctions d’IA branchées sur des processus métiers hors de tout contrôle.
Qu’est-ce que le shadow AI ?Génération augmentée par récupération (RAG)
La génération augmentée par récupération (RAG) est une technique qui connecte un modèle de langage à vos propres sources de connaissances. À chaque question, le système récupère d’abord les documents les plus pertinents, puis les transmet au modèle avec la question. La réponse s’appuie sur vos données, et non uniquement sur ce que le modèle a appris à l’entraînement.
Qu’est-ce que le RAG (retrieval-augmented generation) ?Red teaming LLM
Le red teaming LLM est le test adversarial structuré des systèmes d’IA. On attaque délibérément un modèle ou une application avec des jailbreaks, des charges d’injection de prompt, des tentatives d’extraction de données et des scénarios d’abus, afin de découvrir les failles avant les utilisateurs réels ou les attaquants.
Qu’est-ce que le red teaming LLM ?
Déployez l’IA en toute confiance
Code75 déploie l’IA en production dans les équipes des entreprises, avec les tests de sécurité et la gouvernance qui vont avec. Votre interlocuteur sera un ingénieur.