Saltar al contenido
Omnikalc

Calculadora de impureza de Gini y de ganancia de información

Introduce el número de positivos y de negativos en las ramas izquierda y derecha de una división para obtener la impureza de Gini, la entropía y la ganancia de la división.

Actualizado el
Tus datos

Valor fuera de rango

Valor fuera de rango

Valor fuera de rango

Valor fuera de rango

Resultados

Ganancia de información de la división

0,2781 bits

La división hace las ramas más puras
Ganancia de Gini de la división
0,1800
Impureza de Gini del nodo padre
0,5000
Impureza de Gini ponderada de los hijos
0,3200
Entropía del nodo padre
1,0000 bits
Entropía ponderada de los hijos
0,7219 bits
Positivos en el nodo padre
50,0 %

La calculadora de impureza de Gini y de ganancia de información evalúa una división binaria de un árbol de decisión: da la impureza de Gini, la entropía y la ganancia a partir del número de ejemplos positivos y negativos de cada rama.

Cómo se hace el cálculo

  • Introduce los positivos y los negativos de la rama izquierda.
  • Introduce los positivos y los negativos de la rama derecha.
  • La calculadora da la ganancia de información, la ganancia de Gini, las impurezas del padre y de los hijos y las entropías.

Ejemplo

Una división envía 40 positivos y 10 negativos a la izquierda y 10 positivos y 40 negativos a la derecha. El padre tiene un 50,0 % de positivos, un Gini de 0,5000 y una entropía de 1,0000 bit. Cada hijo tiene un 80 % o un 20 % de positivos, por lo que su Gini es 0,32 y su entropía 0,722 bits. El Gini ponderado es de 0,3200, una ganancia de 0,1800, y la ganancia de información es de 0,2781 bits.

Por qué es útil

La calculadora ayuda a estudiantes de ciencia de datos, a analistas y a desarrolladores que construyen o explican árboles de decisión y bosques aleatorios, y que quieren comprobar a mano por qué un algoritmo ha elegido una división. Es un ejercicio frecuente en asignaturas de aprendizaje automático y minería de datos.

Conviene saber

El cálculo abarca dos clases y una división binaria. Con más clases, el Gini vale 1 menos la suma de las proporciones al cuadrado, y la entropía la suma de −p log2 p sobre las clases. La ganancia favorece las divisiones con muchas ramas, por lo que C4.5 usa una razón de ganancia, y los árboles imponen además un número mínimo de ejemplos por hoja. La mejor división de un paso no es necesariamente el mejor árbol, porque la elección es voraz. Las cifras dependen de los recuentos, no solo de las proporciones: un nodo muy pequeño puede dar una gran ganancia por azar, de ahí la poda y la validación cruzada. Una ganancia nula significa que la división deja sin cambios la mezcla de clases en las dos ramas.

Herramientas relacionadas

La calculadora de entropía de Shannon explica la medida de información, la de matriz de confusión evalúa los clasificadores, la de sensibilidad y especificidad cubre el rendimiento de las pruebas y la de probabilidad trata las probabilidades sencillas.

Preguntas frecuentes

¿Qué son la impureza de Gini y la entropía?

Ambas miden la mezcla de clases en un nodo. Para dos clases con una proporción p de positivos, la impureza de Gini vale 1 − p² − (1 − p)² y la entropía −p log2 p − (1 − p) log2 (1 − p). Ambas valen 0 en un nodo puro y son máximas con 50 / 50, donde el Gini vale 0,5 y la entropía 1 bit.

¿Cómo se calcula la ganancia?

La ganancia es la impureza del padre menos la impureza media de los dos hijos, ponderada por sus tamaños. Un árbol de decisión prueba muchas divisiones candidatas y se queda con la de mayor ganancia, y luego vuelve a empezar en cada rama.

¿Gini o entropía: cuál usar?

En la práctica eligen casi las mismas divisiones. El Gini es algo menos costoso porque no necesita logaritmo, mientras que la ganancia de información procede de la teoría de la información y se usa en los algoritmos ID3 y C4.5. La opción por defecto de muchas bibliotecas es el Gini.

¿Te ha resultado útil esta calculadora?

¡Gracias por tu opinión!

Resultados orientativos con fines informativos. No sustituyen el consejo de un profesional.