Questão de Direito Digital — Aspectos Conceituais e Fundamentos do Direito Digital — FCC 2025

Direito Digital – Riscos da IA Generativa

Gabarito: letra C. O uso de sistemas de Inteligência Artificial generativa no âmbito do Poder Judiciário – ou em qualquer contexto – apresenta riscos concretos já amplamente discutidos na literatura e em normativas (como a LGPD, que exige relatórios de impacto para tratamentos de alto risco). Entre esses riscos, destacam-se a disseminação de desinformação (produção de conteúdo falso ou enganoso) e a violação de direitos autorais (uso não autorizado de obras para treinamento ou geração de material). As demais alternativas confundem benefícios ou características desejáveis com riscos.

Alternativa A — ❌ Incorreta

Afirma que a IA generativa aumentaria a transparência e reduziria vieses. Na prática, a opacidade dos modelos ("caixa-preta") e a amplificação de vieses presentes nos dados de treinamento são problemas graves, não soluções. Trata-se de um benefício almejado, mas não de um risco – e, mesmo como benefício, não é automático.

Alternativa B — ❌ Incorreta

Sugere que a IA generativa fortalece a autoria individual. Ocorre o oposto: a geração automática de textos, imagens e códigos dificulta a atribuição de autoria e levanta questões sobre originalidade e plágio. A autoria torna-se difusa, não fortalecida.

Alternativa C — ✅ Correta ⟵ GABARITO

A IA generativa pode criar conteúdo falso (deepfakes, notícias falsas) com aparência de veracidade, alimentando a desinformação. Além disso, ao ser treinada com obras protegidas sem autorização, pode reproduzir trechos ou estilos, violando direitos autorais. Esses são riscos reais e amplamente reconhecidos.

Alternativa D — ❌ Incorreta

Afirma que a automação eliminaria impactos sociais negativos. Na realidade, a automação com IA pode gerar desemprego, aprofundar desigualdades e concentrar poder econômico. A eliminação de impactos seria positiva, mas não é um risco – é o contrário do que se observa.

Alternativa E — ❌ Incorreta

Diz que a IA generativa protege intrinsecamente dados sensíveis, dispensando regulamentação adicional. É o inverso: a IA pode expor dados pessoais ou sensíveis de forma não intencional (por exemplo, memorização de informações de treinamento). A LGPD exige medidas de proteção e relatórios de impacto justamente para mitigar esses riscos (art. 38 da LGPD).