O Programa de Pós-Graduação Profissional em Engenharia Elétrica (PPEE) informa que a discente Júlia Jamile Oliveira Gonçalves realizou, no dia 29 de janeiro de 2026, a defesa de sua dissertação de mestrado, intitulada “Detecção de prompt injection em modelos de linguagem”, concluindo mais uma etapa de sua trajetória acadêmica no programa.
Desenvolvido na área de Inteligência Artificial aplicada à Segurança da Informação, o trabalho investiga vulnerabilidades associadas ao uso de Modelos de Linguagem de Grande Escala (LLMs), com foco específico nos ataques de Prompt Injection. Esses ataques exploram entradas maliciosas inseridas em comandos textuais, podendo comprometer a integridade, a confiabilidade e a segurança de sistemas baseados em inteligência artificial.
A pesquisa propõe uma abordagem baseada em aprendizado de máquina para a detecção automática desses ataques, comparando seu desempenho com modelos tradicionais. Foram conduzidos experimentos utilizando técnicas como BERT, CountVectorizer e TfidfVectorizer, além da aplicação de estratégias de oversampling para lidar com o desbalanceamento de dados. Os resultados demonstraram que o uso de técnicas de reamostragem contribui significativamente para o aprimoramento da capacidade de identificação de ameaças.
Ao propor métodos para reconhecer tentativas de manipulação maliciosa em interações com modelos de linguagem, o trabalho contribui para o uso mais seguro dessas tecnologias por organizações públicas e privadas, mitigando riscos como vazamento de informações, execução indevida de comandos e outras ameaças emergentes no contexto da inteligência artificial.
O PPEE parabeniza a discente Júlia Jamile Oliveira Gonçalves pela relevante dissertação desenvolvida e deseja sucesso em sua trajetória profissional e acadêmica.
