Prompt Injection: faça o jailbreak de um assistente de IA
Faça jailbreak de um chatbot LLM real, contorne seus guardrails e capture as flags
Aprenda a fazer jailbreak de uma IA injetando prompts em um modelo de linguagem real para vazar seu system prompt oculto e abusar de sua ferramenta interna. Um lab prático de OWASP LLM01 e LLM06 para resolver no Terminal de Ataque com curl.
O que é prompt injection?
Prompt injection é o principal risco de segurança das aplicações com grandes modelos de linguagem (OWASP LLM01). Ela ocorre quando uma entrada de usuário não confiável chega a um modelo que também carrega instruções confiáveis, e o atacante molda essa entrada para sobrepor tais instruções: vazar segredos, ignorar regras de segurança ou disparar ações que o desenvolvedor nunca pretendeu. Aprender a fazer jailbreak de uma IA em um ambiente seguro e legal é a forma mais rápida de entender por que essa classe de bug é tão difícil de eliminar.
Como este lab funciona
Você está conversando com o Qwenly, um assistente de suporte ao cliente movido por um modelo de linguagem real, executado localmente. Nada aqui é falso: um modelo genuíno lê um system prompt e aplica o próprio treinamento de segurança, e uma camada adiciona um filtro de entrada e um filtro de saída ao redor dele, exatamente como as equipes em produção acoplam guardrails a um LLM. Trabalhando inteiramente no Terminal de Ataque com curl no endpoint /api/chat, você fará prompt injection para vazar a flag de usuário escondida no system prompt e então convencerá a ferramenta interna de base de conhecimento a ler um arquivo bem fora do escopo que lhe foi dado (a flag de root). Os truques óbvios estão bloqueados, então você precisa descobrir o que um modelo pequeno pode, ou não, ser convencido a fazer.
Por que praticar jailbreak de IA?
Toda empresa que lança um recurso de IA agora se defende exatamente desses ataques. Prompt injection e agência excessiva (OWASP LLM06) estão por trás de incidentes reais como o exploit zero-click EchoLeak de 2025 contra o Microsoft 365 Copilot. Produtos de guardrail, endurecimento do system prompt e filtros de saída são as defesas padrão, e este lab prático mostra como elas falham do lado do atacante. Praticar prompt injection no HackerDNA desenvolve o instinto de identificar um filtro de entrada fraco, perceber quando a saída de um modelo pode ser contrabandeada por um redator ingênuo e entender que dar uma ferramenta a um LLM entrega essa capacidade a qualquer um que possa falar com ele.
O que você vai aprender
- Explorar prompt injection para sobrepor as instruções de segurança de um assistente de IA
- Vazar um system prompt oculto apesar de um guardrail de entrada e um de saída
- Contornar um filtro de saída com injeção de delimitadores em vez de codificação
- Abusar da agência excessiva de uma ferramenta de LLM para ler arquivos fora do escopo
- Encadear um path traversal pela ferramenta de leitura de arquivos de um agente de IA
- Relacionar o ataque ao OWASP LLM01 prompt injection e LLM06 excessive agency
Pré-requisitos
Pronto para hackear este lab?
Crie uma conta gratuita e pratique cibersegurança.
Comece Seu Desafio
Novo aqui? Veja o que fazer
Pronto para hackear este lab?
Crie uma conta gratuita para iniciar seu próprio servidor dedicado, enviar flags e ganhar XP no ranking.
Começar a Hackear Grátis