Capítulo 8 de 10 · Segurança de IA 80%

🤖 Em 2023, pesquisadores fizeram um assistente de IA chamar um plugin que o usuário nunca escolheu, só plantando instruções em uma página que ele lia. O que dá para convencer as ferramentas do seu agente a fazer?

Um agente é um modelo mais ferramentas mais um laço. Você vai montar um, e um bilhete plantado o fará buscar um endereço interno e vazar credenciais: SSRF, RCE e perda de dados, pelas ferramentas que você deu a ele. 🛠️

Capítulo Premium

Crie uma conta gratuita para acessar este capítulo e começar a aprender com labs práticos.

Criar Conta Grátis

Pronto para acompanhar seu progresso?

Crie uma conta gratuita para salvar seu progresso, ganhar XP e acessar mais de 170 labs práticos de cibersegurança.

Comece a Aprender Grátis

Progresso do Curso

Acompanhe sua jornada de aprendizado

0 /10

0 % Completo

10 Restante

Capítulos do Curso

Nenhum capítulo encontrado para este filtro

Segurança de IA

🤖 Em 2023, pesquisadores fizeram um assistente de IA chamar um plugin que o usuário nunca escolheu, só plantando instruções em uma página que ele lia. O que dá para convencer as ferramentas do seu agente a fazer?

Capítulo Premium

Pronto para acompanhar seu progresso?

Progresso do Curso

Capítulos do Curso

Fundamentos de segurança de IA

Arquitetura de aplicações LLM

Ataques de injeção de prompt

Injeção de prompt indireta

Jailbreaks e contorno de proteções

Divulgação de informações sensíveis

Ataques a RAG e embeddings

Agentes LLM e abuso de ferramentas

Tratamento inseguro da saída

Defesa de aplicações LLM