Pular para o conteúdo principal

Questão de Engenharia de Software — Inteligencia Artificial — FGV 2026

Engenharia de SoftwareInteligencia Artificial
Código
fg133788
Banca
FGV
Órgão
TJ-RJ
Ano
2026
Nível
Superior
Cargo
Analista Judiciário - Tecnologia da Informação - Analista de Inteligência Artificial
Um órgão de controle estuda implantar uma plataforma avançada baseada em grandes modelos de linguagem para apoiar a análise de documentos, a consulta a bases normativas e a execução de fluxos complexos (por exemplo, checagem automática em diários oficiais, sistemas internos e bases abertas). A arquitetura em estudo combina LLMs, geração aumentada por recuperação (RAG), agentes de IA com uso de ferramentas externas e mecanismos de monitoramento para riscos éticos e de segurança.Com base em conceitos de transformers e LLMs, RAG, agentificação, engenharia de prompts, bem como ética e segurança em IA, analise as afirmativas a seguir.I. Em uma arquitetura com RAG, o LLM é utilizado principalmente como gerador condicionado a evidências: os documentos relevantes são buscados por similaridade de embeddings em um índice vetorial e incorporados ao contexto de entrada, de modo que decisões sobre fragmentação (tamanho dos trechos, sobreposição, estratégia de indexação) influenciam diretamente tanto a recuperação quanto a qualidade e a fundamentação das respostas.II. Em arquiteturas que combinam LLMs com RAG, o risco de exposição indevida de dados sensíveis tende a ser intrinsecamente menor do que no uso direto de LLMs, porque os documentos sigilosos não precisam ser indexados: o modelo passa a depender principalmente de representações paramétricas já aprendidas no pré-treinamento, reduzindo a necessidade de controles específicos sobre o ciclo de vida dos dados no índice vetorial.III. Técnicas de alinhamento com preferências humanas, como Reinforcement Learning e variantes de preference optimization, são frequentemente combinadas com boas práticas de engenharia de prompts (zero-shot, few-shot, encadeamento de pensamento) e com avaliações sistemáticas de prompts e saídas, pois, mesmo após o alinhamento, permanecem desafios como viés algorítmico, suscetibilidade a jailbreaks e prompt injection, exigindo camadas adicionais de governança, monitoramento e auditoria.Está correto o que se afirma em:
  1. AI, apenas;
  2. BI e II, apenas;
  3. CI e III, apenas;
  4. DII e III, apenas;
  5. EI, II e III.
Revelar gabarito e comentário

GabaritoC — I e III, apenas;

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Arquitetura com LLMs, RAG e Agentes de IA

Gabarito: letra C (I e III, apenas). A afirmativa I descreve corretamente o funcionamento do RAG: o LLM atua como gerador condicionado a documentos recuperados por similaridade de embeddings, e as decisões de fragmentação impactam a qualidade das respostas. A III é verdadeira ao afirmar que, mesmo com alinhamento (RLHF, preference optimization), persistem riscos como viés e jailbreaks, exigindo governança adicional. Já a II é falsa: em RAG, dados sensíveis podem ser indexados e recuperados, aumentando o risco de exposição – ao contrário do que afirma.

Item

Afirmativa

Análise

Conclusão

I

Em RAG, o LLM é gerador condicionado a evidências recuperadas por similaridade de embeddings; fragmentação impacta qualidade.

Descrição precisa do funcionamento do RAG, conforme literatura (Lewis et al., 2020; Gao et al., 2023).

✅ Correto

II

RAG reduz risco de exposição de dados sensíveis, pois LLM depende de representações paramétricas.

Afirmativa falsa: o índice vetorial armazena embeddings que podem reconstruir informações sensíveis, aumentando o risco sem controles adequados.

❌ Incorreto

III

Mesmo com alinhamento (RLHF, preference optimization), persistem riscos como viés e jailbreaks, exigindo governança adicional.

Técnicas de alinhamento mitigam, mas não eliminam riscos; governança contínua é necessária.

✅ Correto

Item I — ✅ Correto

A descrição do RAG está precisa. No RAG, o LLM não é usado isoladamente; ele recebe como contexto os documentos mais relevantes recuperados de um índice vetorial (via similaridade de embeddings). A fragmentação (tamanho dos chunks, sobreposição, estratégia de indexação) afeta tanto a recuperação quanto a qualidade e fundamentação das respostas, conforme literatura consolidada (Lewis et al., 2020; Gao et al., 2023).

Item II — ❌ Incorreto

A afirmativa inverte a lógica de segurança em RAG. Ao contrário do que diz, o risco de exposição indevida de dados sensíveis não é intrinsecamente menor; pode ser maior, pois o índice vetorial precisa armazenar representações dos documentos – incluindo os sigilosos – para que sejam recuperados. O LLM em RAG depende dos documentos recuperados como contexto, e não apenas de representações paramétricas pré-treinadas. Portanto, controles específicos sobre o ciclo de vida dos dados no índice são indispensáveis. A banca tenta confundir o candidato ao afirmar que o modelo “passa a depender principalmente de representações paramétricas”, o que é falso.

NÃO CAIA NESSA!

A banca explora o erro comum de achar que RAG reduz riscos de vazamento por “não usar os dados diretamente”. Na verdade, o índice vetorial contém embeddings que podem reconstruir informações sensíveis; o correto é que o risco aumenta sem controles adequados. Atenção ao ciclo de vida dos dados no índice.

Item III — ✅ Correto

Técnicas de alinhamento (RLHF, DPO, etc.) são combinadas com engenharia de prompts para mitigar riscos, mas não os eliminam. Desafios como viés algorítmico, jailbreaks e prompt injection persistem, exigindo camadas adicionais de governança, monitoramento e auditoria. Esse é o entendimento atual da comunidade de segurança em IA (Bommasani et al., 2021; OWASP Top 10 for LLM Applications).

Conclusão: Estão corretos apenas os itens I e III, correspondendo à letra C.

Link permanente: /questoes/fg133788