SEGURANÇA DAS LLMS NA EDUCAÇÃO: PERIGOS, VULNERABILIDADES E ESTRATÉGIAS PARA A CAPACITAÇÃO DE EDUCADORES

No ambiente educacional, o uso de grandes modelos de linguagem (LLMs) e agentes autônomos de inteligência artificial está crescendo rapidamente, afetando diretamente a formação de professores e os ambientes de aprendizagem. No entanto, essas tecnologias emergentes também trazem grandes riscos. Neste capítulo, exploramos vulnerabilidades, incluindo injeção de prompt, exfiltração de dados, alucinações e quebra de restrições em LLMs aplicados a professores, alunos ou sistemas educacionais. Alguns exemplos reais e fictícios são oferecidos, juntamente com medidas de mitigação independentes de nuvem, como firewalls de prompt, filtros de conteúdo, sistemas de prevenção de vazamento de dados (DLP) e políticas de acesso mínimo. E o objetivo é fornecer conselhos tanto técnicos quanto pedagógicos para professores, desenvolvedores educacionais e pesquisadores que estão preocupados com a implementação segura da IA na educação.