Chapitre 8 sur 10 · Sécurité de l'IA 80%

🤖 En 2023, des chercheurs ont fait appeler à un assistant IA un plugin que l'utilisateur n'avait jamais choisi, juste en plantant des instructions dans une page qu'il lisait. Que peut-on faire faire aux outils de votre agent ?

Un agent, c'est un modèle plus des outils plus une boucle. Vous en construirez un, puis un mot planté lui fera récupérer une adresse interne et fuiter des identifiants : SSRF, RCE et perte de données, via les outils que vous lui avez donnés. 🛠️

Chapitre Premium

Créez un compte gratuit pour accéder à ce chapitre et commencer à apprendre avec des labs pratiques.

Créer un Compte Gratuit

Prêt à suivre votre progression?

Créez un compte gratuit pour sauvegarder votre progression, gagner des XP et accéder à plus de 170 labs pratiques de cybersécurité.

Commencer à Apprendre Gratuitement

Progression du Cours

Suivez votre parcours d'apprentissage

0 /10

0 % Terminé

10 Restant

Chapitres du Cours

Aucun chapitre trouvé pour ce filtre

Sécurité de l'IA

🤖 En 2023, des chercheurs ont fait appeler à un assistant IA un plugin que l'utilisateur n'avait jamais choisi, juste en plantant des instructions dans une page qu'il lisait. Que peut-on faire faire aux outils de votre agent ?

Chapitre Premium

Prêt à suivre votre progression?

Progression du Cours

Chapitres du Cours

Fondamentaux de la sécurité de l'IA

Architecture des applications LLM

Attaques par injection de prompt

Injection de prompt indirecte

Jailbreaks et contournement des garde-fous

Divulgation d'informations sensibles

Attaques RAG et embeddings

Agents LLM et abus d'outils

Gestion non sécurisée de la sortie

Défense des applications LLM