Pular para o conteúdo principal

Questão de Algoritmos e Estrutura de Dados — Algoritmos — IF-SP 2022

Algoritmos e Estrutura de DadosAlgoritmos
Código
qq760118
Banca
IF-SP
Órgão
IF-SP
Ano
2022
Nível
Superior
Cargo
Analista de Tecnologia da Informação - Ciência de Dados
Entre os modelos de aprendizado de máquina mais comuns, estão as árvores de decisão. Elas são métodos de aprendizado de máquinas muito utilizados em tarefas de classificação e regressão. Em problemas de classificação, os modelos em árvore são designados de árvore de decisão. Para resolver um problema de decisão, esse tipo de método utiliza a estratégia de dividir para conquistar. Uma proposta natural é rotular cada conjunto da divisão por sua classe mais frequente e escolher a divisão que tem menores erros. O conceito fundamental nessa proposta é denominado de entropia. Considerando as árvores de decisão, assinale a alternativa que define corretamente o conceito de entropia.
  1. AA entropia é uma medida que representa a soma de todos os valores, dividida pelo número de valores do conjunto de dados.
  2. BA entropia é uma medida que representa a probabilidade de obter uma ocorrência do evento, a partir de uma seleção aleatória do subconjunto de dados.
  3. CA entropia é uma medida que representa a diferença entre o maior e o menor valor, dentro de um conjunto de dados.
  4. DA entropia é uma medida que representa a categoria, ou o valor, de maior ocorrência em um conjunto de dados.
Revelar gabarito e comentário

GabaritoB — A entropia é uma medida que representa a probabilidade de obter uma ocorrência do evento, a partir de uma seleção aleatória do subconjunto de dados.

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Entropia em Árvores de Decisão

Gabarito: letra B. A entropia é uma medida de impureza que quantifica a incerteza de uma distribuição de probabilidades. Ela é zero quando todos os dados pertencem a uma única classe e aumenta à medida que as classes se misturam. A alternativa B é a única que relaciona entropia a uma probabilidade de ocorrência, o que está alinhado com seu cálculo (somatório de -p * log p). As demais alternativas confundem entropia com média aritmética (A), amplitude (C) e moda (D).

A banca testa o conceito fundamental de entropia no contexto de aprendizado de máquina, especialmente em árvores de decisão. O conteúdo de apoio indica que "a entropia é utilizada como uma medida de impureza, isto é, é zero quando os dados são pertencentes a uma única classe" e que o objetivo é reduzi-la para obter partições mais homogêneas.

1Medida de impureza
Zero → classe única (pura)
Alta → classes misturadas
2Cálculo
Σ (-p × log p)
Baseada em probabilidades
3Função
Escolher divisões
Maximizar ganho de informação
Entropia (árvores de decisão)
LEVELsoulevel.com.br
Entropia (árvores de decisão): Medida de impureza (Zero → classe única (pura), Alta → classes misturadas); Cálculo (Σ (-p × log p), Baseada em probabilidades); Função (Escolher divisões, Maximizar ganho de informação)

Alternativa A — ❌ Incorreta

Define entropia como a soma dos valores dividida pelo número de elementos, que é a média aritmética. Entropia não é uma medida de tendência central, mas de dispersão da distribuição de classes.

Alternativa B — ✅ Correta ⟵ GABARITO

A entropia está intrinsecamente ligada à probabilidade de cada classe. Embora a definição apresentada não mencione explicitamente o logaritmo, ela captura corretamente que a entropia depende das probabilidades de ocorrência dos eventos (classes) em uma seleção aleatória. Dentre as opções, é a única que se aproxima do conceito verdadeiro.

Alternativa C — ❌ Incorreta

Descreve entropia como a diferença entre o maior e o menor valor, que é a amplitude (range). Trata-se de uma medida de variabilidade numérica, não de impureza de classes.

Alternativa D — ❌ Incorreta

Apresenta entropia como a categoria ou valor de maior ocorrência, ou seja, a moda. A moda é uma medida de tendência central, enquanto a entropia mede o grau de mistura entre as classes.

PEGA ESSA DICA!

Na hora da prova, lembre-se de que entropia está sempre associada a probabilidades e impureza. Ela é usada no cálculo do ganho de informação para escolher divisões em árvores de decisão. Quanto mais pura a partição (apenas uma classe), menor a entropia. Confunda entropia com outras medidas estatísticas? Nunca mais!

Link permanente: /questoes/qq760118