Inconsistência de informações em Modelos de Linguagem de Grande Escala (LLMs) e seus impactos na Segurança da Informação

Resumo

Modelos de Linguagem de Grande Escala (LLMs), como o ChatGPT, têm revolucionado a interação com informações, mas também geram conteúdos imprecisos que podem comprometer a segurança da informação. Este artigo tem como objetivo analisar de que forma essas inconsistências impactam os pilares da Confidencialidade, Integridade e Disponibilidade (CID), especialmente em contextos organizacionais que utilizam sistemas automatizados para apoio à decisão. A pesquisa foi conduzida por meio de revisão bibliográfica de caráter sistemático, com foco em publicações científicas entre 2020 e 2025, aliada a uma etapa experimental com diferentes modelos de linguagem. Os resultados evidenciam falhas recorrentes, como alucinação de IA, respostas contraditórias e viés, que comprometem decisões automatizadas e podem expor sistemas a riscos técnicos e operacionais. Observou-se também variação significativa entre os modelos quanto à consistência e à gravidade das falhas identificadas, indicando tendências distintas de comportamento. Como contribuição, o estudo propõe diretrizes para mitigação desses riscos, incluindo validação cruzada de informações, supervisão humana e uso de técnicas como Retrieval Augmented Generation (RAG). Conclui-se que, apesar do potencial dos LLMs, seu uso seguro exige auditorias contínuas, validação sistemática das respostas e integração com práticas de governança de IA, contribuindo para a aplicação responsável dessas tecnologias em ambientes corporativos.