Questão de Engenharia de Software — Inteligencia Artificial — FGV 2023
Engenharia de Software›Inteligencia Artificial
Código
fg068141
Banca
FGV
Órgão
SEDUC-SP
Ano
2023
Nível
Superior
Cargo
Professor de Ensino Fundamental e Médio (Educação Profissional) - Eixo 5 - Informação e Comunicação
No contexto da IA geracional, representada pelo ChatGPT e modelos similares, surge um desafio crítico relacionado ao viés.Em relação ao significado do termo “biased AI” (IA enviesada) na IA geracional, assinale a afirmativa correta.
ATrata da incapacidade dos modelos de IA de aprender com exemplos de texto humano.
BRefere-se à tendência de modelos de IA geracional em gerar respostas tendenciosas ou discriminatórias com base em dados de treinamento enviesados.
CDescreve a capacidade da IA geracional de entender e aplicar princípios éticos em suas respostas.
DSignifica que a IA geracional não é capaz de reconhecer ou interpretar o contexto em que uma pergunta é feita.
ERefere-se à tendência da IA geracional de gerar respostas excessivamente longas e detalhadas.
Revelar gabarito e comentário▾
GabaritoB — Refere-se à tendência de modelos de IA geracional em gerar respostas tendenciosas ou discriminatórias com base em dados de treinamento enviesados.
Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.
IA generativa e viés algorítmico
Gabarito: letra B. No contexto da IA generativa, "biased AI" (IA enviesada) refere-se à tendência de modelos como ChatGPT gerarem respostas tendenciosas ou discriminatórias devido a vieses presentes nos dados de treinamento. O conceito é amplamente discutido na literatura sobre ética em inteligência artificial.
A questão testa a compreensão do termo específico "biased AI" e sua aplicação em modelos generativos. O principal ponto é que o viés surge dos dados, não de uma incapacidade técnica ou de características como verbosidade.
Alternativa A — ❌ Incorreta
Afirma que o viés seria a incapacidade de aprender com exemplos humanos. Na verdade, os modelos generativos aprendem excessivamente a partir dos dados – e é justamente esse aprendizado que pode incorporar vieses. A alternativa descreve o oposto do problema real.
Alternativa B — ✅ Correta ⟵ GABARITO
Define corretamente o viés algorítmico: a tendência de gerar respostas tendenciosas ou discriminatórias com base em dados de treinamento enviesados. É a definição padrão adotada na literatura de ética em IA (por exemplo, em publicações da ACM e IEEE).
Alternativa C — ❌ Incorreta
Descreve a capacidade de entender e aplicar princípios éticos. Modelos generativos não possuem compreensão ética intrínseca; o viés é justamente a ausência desse alinhamento. O termo "biased AI" é antônimo de "ethical AI".
Alternativa D — ❌ Incorreta
Refere-se à incapacidade de reconhecer contexto. Embora modelos generativos possam ter limitações contextuais, isso não é o que se denomina "biased AI". O viés é uma distorção sistemática, não uma falha de compreensão.
Alternativa E — ❌ Incorreta
Refere-se à geração de respostas longas e detalhadas (verbosidade). Esse é um fenômeno diferente, relacionado à parametrização do modelo (temperatura, tokens máximos), e não a vieses sociais ou discriminatórios.
PEGA ESSA DICA!
Para distinguir "biased AI" de outros problemas, lembre-se: o viés é sempre sistemático e decorrente dos dados de treinamento. Se a alternativa descreve uma limitação técnica (falta de contexto, verbosidade, incapacidade de aprender), ela não se refere a viés.