510 likes | 820 Views
Introducción al Análisis Cluster. Índice. Introducción Conceptos básicos Elementos Características de los elementos Distancias Particiones Jerarquías Modelos de análisis cluster Modelo de análisis cluster jerárquico Métodos aglomerativos Dendograma El problema del número de clusters
E N D
Índice • Introducción • Conceptos básicos • Elementos • Características de los elementos • Distancias • Particiones • Jerarquías • Modelos de análisis cluster • Modelo de análisis cluster jerárquico • Métodos aglomerativos • Dendograma • El problema del número de clusters • Ejemplo • Cuestiones complementarias
Introducción • El problema de la clasificación • Identificar grupos de individuos/objetos de características similares • Tipologías • Economía: segmentación del mercado de consumidores • Biología: creación de una sistemática sobre el mundo vegetal y animal • Medicina: clasificación de las enfermedades en función de su sintomatología • Definición de análisis cluster Conjunto de técnicas multivariantes cuyo principal propósito es la agrupación de individuos en conglomerados (cluster) basándose en las características de los mismos • Cuestiones a tratar • Características • Similaridad • Modelos a utilizar • El problema del número de cluster o conglomerados • Interpretación de las características de los cluster
Conceptos básicos • Objetos: son los elementos a clasificar • Características de los objetos • Escala • Nominal
Conceptos básicos • Matriz de datos
Conceptos básicos Representación gráfica de la matriz de datos
Conceptos básicos • Distancia • La distancia es un índice de disimilaridad que verifica las siguientes propiedades:
Conceptos básicos • Existe una gran variedad de distancias; enumeramos unicamente las más habituales • Distancia euclídea • Distancia euclídea al cuadrado • Distancia de Manhattan • Distancia de correlación de Pearson
Conceptos básicos • Distancia euclídea
Conceptos básicos • Distancia de Manhattan
Conceptos básicos • Distancia de correlación de Pearson Esta distancia esta basada en el coeficiente de correlación de Pearson y por lo tanto hereda todas sus propiedades. El coeficiente de correlación de Pearson mide el grado de asociación lineal entre dos objetos, es decir, hasta que punto dos objetos son proporcionales. A diferencia de otras medidas, este coeficiente no se ve afectado por las escalas de medidas utilizadas. El recorrido de este coeficiente varía entre -1 y 1 (1 indica una relación proporcional perfecta).
Conceptos básicos • La estandarización de variables. • Debido a la propia definición de distancia se deduce que ésta va a ser sensible a los cambios de escala, es decir, va a ser afectada por las unidades de medida que hemos utilizado para medir las características de los elementos. • Si los rangos de las distintas características son dispares el cálculo de las distancias se vería seriamente afectado.
Conceptos básicos (1,76-1,65)^2=0,01 (86-60)^2=676
Conceptos básicos • El problema de utilizar variables con distinto recorrido. -Homogeneizar las escalas en el intervalo 0-1.
Conceptos básicos • Estandarizar variables Realizar una transformación de forma que las variables transformadas tengan media 0 y varianza 1.
Conceptos básicos • Partición • Sea A un conjunto finito, consideramos una clase de subconjuntos de A, denominada H: • H es una partición de A si se verifica:
Conceptos básicos • Jerarquía Dado un conjunto finito A, consideramos una clase H de subconjuntos de A. Se dice que H es una jerarquía de A si:
Modelos de análisis cluster • Métodos de agrupación jerárquica. • Se establecen n agrupamientos. Cada agrupamiento contiene exactamente un elemento. • Se agrupan los dos cluster más cercanos formando un único cluster. • Se recalcula la matriz de distancias. • Pasamos al punto 1. Este algoritmo realiza exactamente n-1 iteraciones.
Métodos de agrupación jerárquica • Ventajas del modelo de agrupación jerárquica. • No requiere hacer inferencias sobre el número de cluster. • Permite representar las sucesivas agrupaciones en forma de árbol (dendograma). • Inconvenientes • Alto coste computacional. • Sensible respecto de las primeras agrupaciones. • Complicado de interpretar cuando el número de elementos a clasificar es grande.
Métodos de agrupación no jerárquica • Se determina a priori el número de clusters que se desea construir (k). • Se establece una configuración aleatoria de los centros de estos clusters, estos centros se denominan centroides. • Los elementos se asignan al cluster cuyo centroide esté más cerca. • Se recalculan (actualizan) nuevamente los centroides en función de los elementos que les han sido asignados • Se repite el algoritmo desde el paso 3, hasta que los centroides dejan de cambiar.
Métodos de agrupación no jerárquica • Ventajas del análisis cluster no jerárquico. • Rapidez. • Permite el procesamiento de gran número de datos. • Inconvenientes • Hay que determinar el número óptimo de cluster a priori. • Muy sensible ante la presencia de datos extremos. • Sólo se pueden utilizar medidas euclídeas. • Sensible respecto de la ordenación de los datos.
Análisis cluster jerárquico • Fases de un análisis cluster jerárquico. • Determinar qué características vamos a utilizar para comparar los elementos a clasificar. • Considerar la conveniencia de estandarizar o no dichas características. • Determinar qué distancia debemos utilizar para medir la similaridad entre elementos. • Fijar el método de conglomeración. • Examinar el dendograma para determinar el número óptimo de agrupaciones. • Estudio e interpretación de la partición obtenida. • Verificar la estabilidad de la solución.
Análisis cluster jerárquico • Métodos de conglomeración • Vecino más cercano. • Vecino más lejano. • Centroide • Vinculación intergrupos
Análisis cluster jerárquico • Vecino más cercano. • La distancia entre dos conglomerados se define como la distancia (en la métrica considerada) de los dos elementos más cercanos. • Este método tiende a maximizar lo conexo.
Análisis cluster jerárquico • Vecino más lejano. • La distancia entre dos conglomerados se define como aquélla entre los elementos más alejados. • Este método tiende a minimizar las distancias dentro de los conglomerados.
Análisis cluster jerárquico • Método del centroide. • La distancia entre dos cluster se define como la distancia entre las medias (centroides) de los mismos.
Análisis cluster jerárquico • Vinculación entre grupos • Se define la distancia entre dos clusters como el promedio de las distancias entre todos los pares de elementos de los dos conglomerados.
Análisis cluster jerárquico • Dendograma • El dendograma es un diagrama con estructura de árbol binario que muestra las fusiones de los elementos en cada paso del procedimiento jerárquico. • El dendograma se representa por medio de dos ejes perpendiculares. En uno de ellos se representan los elementos a clasificar, en el otro eje se representan las distancias a la que se van juntando los elementos.
Análisis cluster jerárquico • El problema del número de clusters. • No existe ningún criterio general que nos permita determinar el número óptimo de clusters, pues influyen factores como el número de elementos con valores extremos, las distribuciones que siguen las variables … etc. • Una forma de determinar el número óptimo de cluster es examinar atentamente el historial del algoritmo de aglomeración y el dendograma del mismo. • Un factor a tener muy en cuenta es el tamaño de los clusters resultantes.