Pod & Dev
De épocas mais remotas, onde a Hotmart era uma promissora startup mineira trabalhando na sua fundação, até as estruturas de uma gigante da Creator Economy que está na vanguarda da tecnologia impactando milhões de pessoas em todo o mundo.
Você meu amigo(a) tech, Pod & Dev se aventurar conosco nesse podcast cheio de conhecimento e bom humor que vai transformar o seu dia a dia de trabalho para melhor.
Pod & Dev
EP 129 | IA Blindada
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
No episódio 129 do Pod&Dev, falamos sobre um dos maiores desafios da adoção de inteligência artificial: como proteger aplicações, dados e ideias em um cenário onde ataques também podem acontecer por meio de linguagem natural.
Neste papo, mergulhamos no Prompt Injection, nas vulnerabilidades de aplicações que utilizam IA e nos cuidados necessários para que o ganho de produtividade não venha acompanhado de uma nova onda de riscos de segurança.
Entre os principais tópicos do episódio:
• O que é Prompt Injection e como atacantes podem manipular uma IA usando apenas linguagem natural
• Por que uma IA não sabe, por conta própria, o que é confidencial, seguro ou permitido
• Como prompts mal estruturados podem gerar ambiguidades e abrir espaço para vulnerabilidades
• Por que o excesso de permissões para agentes, plugins e ferramentas aumenta a superfície de ataque
• Como monitorar conversas entre usuários e IA usando agentes especializados e análise estática
• A diferença entre testar vulnerabilidades do modelo e testar a segurança da aplicação que utiliza esse modelo
• Como técnicas de exploração conseguem contornar guard rails ao alterar a forma como uma instrução é escrita
• A importância de revisar constantemente prompts, testar aplicações e nunca confiar cegamente nas entradas do usuário
• Como proteger o próprio código, conteúdo e ideias ao utilizar ferramentas de inteligência artificial
• Por que segurança precisa fazer parte da implementação da IA desde o início, e não ser tratada como uma etapa posterior
Se você trabalha com tecnologia, desenvolvimento ou inteligência artificial, este episódio traz um alerta importante: quanto maior a autonomia da IA, maior também precisa ser o cuidado com aquilo que ela pode acessar, interpretar e executar.
Connecte-se com os bastidores desse episódio.
Jess
Zé Albano
Douglas
___________________________________________
Assine nossa newsletter e fique por dentro dos eventos da nossa comunidade.
SE INSCREVA NA HOT HACKERS
___________________________________________
Quer ficar por dentro de todas as novidades da Hotmart?
Siga-nos nas redes sociais e visite nosso site:
LinkedIn
Instagram
Site
