Questão de Algoritmos e Estrutura de Dados — Algoritmos — IF-SP 2022
Algoritmos e Estrutura de Dados›Algoritmos
Código
qq760118
Banca
IF-SP
Órgão
IF-SP
Ano
2022
Nível
Superior
Cargo
Analista de Tecnologia da Informação - Ciência de Dados
Entre os modelos de aprendizado de máquina mais comuns, estão as árvores de decisão. Elas são métodos de aprendizado de máquinas muito utilizados em tarefas de classificação e regressão. Em problemas de classificação, os modelos em árvore são designados de árvore de decisão. Para resolver um problema de decisão, esse tipo de método utiliza a estratégia de dividir para conquistar. Uma proposta natural é rotular cada conjunto da divisão por sua classe mais frequente e escolher a divisão que tem menores erros. O conceito fundamental nessa proposta é denominado de entropia. Considerando as árvores de decisão, assinale a alternativa que define corretamente o conceito de entropia.
AA entropia é uma medida que representa a soma de todos os valores, dividida pelo número de valores do conjunto de dados.
BA entropia é uma medida que representa a probabilidade de obter uma ocorrência do evento, a partir de uma seleção aleatória do subconjunto de dados.
CA entropia é uma medida que representa a diferença entre o maior e o menor valor, dentro de um conjunto de dados.
DA entropia é uma medida que representa a categoria, ou o valor, de maior ocorrência em um conjunto de dados.
Revelar gabarito e comentário▾
GabaritoB — A entropia é uma medida que representa a probabilidade de obter uma ocorrência do evento, a partir de uma seleção aleatória do subconjunto de dados.
Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.
Entropia em Árvores de Decisão
Gabarito: letra B. A entropia é uma medida de impureza que quantifica a incerteza de uma distribuição de probabilidades. Ela é zero quando todos os dados pertencem a uma única classe e aumenta à medida que as classes se misturam. A alternativa B é a única que relaciona entropia a uma probabilidade de ocorrência, o que está alinhado com seu cálculo (somatório de -p * log p). As demais alternativas confundem entropia com média aritmética (A), amplitude (C) e moda (D).
A banca testa o conceito fundamental de entropia no contexto de aprendizado de máquina, especialmente em árvores de decisão. O conteúdo de apoio indica que "a entropia é utilizada como uma medida de impureza, isto é, é zero quando os dados são pertencentes a uma única classe" e que o objetivo é reduzi-la para obter partições mais homogêneas.
Entropia (árvores de decisão): Medida de impureza (Zero → classe única (pura), Alta → classes misturadas); Cálculo (Σ (-p × log p), Baseada em probabilidades); Função (Escolher divisões, Maximizar ganho de informação)
Alternativa A — ❌ Incorreta
Define entropia como a soma dos valores dividida pelo número de elementos, que é a média aritmética. Entropia não é uma medida de tendência central, mas de dispersão da distribuição de classes.
Alternativa B — ✅ Correta ⟵ GABARITO
A entropia está intrinsecamente ligada à probabilidade de cada classe. Embora a definição apresentada não mencione explicitamente o logaritmo, ela captura corretamente que a entropia depende das probabilidades de ocorrência dos eventos (classes) em uma seleção aleatória. Dentre as opções, é a única que se aproxima do conceito verdadeiro.
Alternativa C — ❌ Incorreta
Descreve entropia como a diferença entre o maior e o menor valor, que é a amplitude (range). Trata-se de uma medida de variabilidade numérica, não de impureza de classes.
Alternativa D — ❌ Incorreta
Apresenta entropia como a categoria ou valor de maior ocorrência, ou seja, a moda. A moda é uma medida de tendência central, enquanto a entropia mede o grau de mistura entre as classes.
PEGA ESSA DICA!
Na hora da prova, lembre-se de que entropia está sempre associada a probabilidades e impureza. Ela é usada no cálculo do ganho de informação para escolher divisões em árvores de decisão. Quanto mais pura a partição (apenas uma classe), menor a entropia. Confunda entropia com outras medidas estatísticas? Nunca mais!