INTRODUCTION TO KERNEL PCA AND OTHER SPECTRAL METHODS APPLIED TO UNSUPERVISED LEARNING INTRODUCCIÓN A KERNEL ACP Y OTROS MÉTODOS ESPECTRALES APLICADOS AL APRENDIZAJE NO SUPERVISADO

• Main Authors: Sánchez Luis Gonzalo, Osorio Germán Augusto, Suárez Julio Fernando
• Format: Article
• Language: English
• Published: Universidad Nacional de Colombia 2008-05-01
• Series: Revista Colombiana de Estadística
• Subjects: Kernel method; Cluster analysis; Model selection; Graph theory
• Online Access: http://www.revistas.unal.edu.co/index.php/estad/article/view/29589

In this work, the techniques of Kernel Principal Component Analysis (Kernel PCA or KPCA) and Spectral Clustering are introduced along with some illustrative examples. This work focuses on studying the effects of applying PCA as a preprocessing stage for clustering data. Several tests are carried out on real data to establish the pertinence of including PCA. The use of these methods requires of additional procedures such as parameter tuning; the kernel alignment is presented as an alternative for it. The results of kernel alignment expose a high level of agreement between the tuning curves their respective Rand indexes. Finally, the study shows that the success of PCA is problem-dependent and no general criteria can be established.<br>En el presente trabajo, se introducen las técnicas de kernel ACP (KACP) y conglomeramiento espectral con algunos ejemplos ilustrativos. Se pretende estudiar los efectos de aplicar ACP como preproceso sobre las observaciones que se desean agrupar, para lo cual se hacen experimentos con datos reales. Entre las tareas adicionales que requieren estos procedimientos está la sintonización de parámetros (ajuste de valores); el alineamiento del kernel se presenta como alternativa de solución. La técnica de alineamiento del kernel presenta buenos resultados al contrastar las curvas de alineamiento con los índices de Rand obtenidos para los datos evaluados. Finalmente, el estudio muestra que el éxito de ACP depende del problema y que no se tiene un criterio general para decidir.