Guia docente 2013_14 Escuela de Ingeniería de Telecomunicación

Máster Universitario enTeoría de la Señal y Comunicaciones.

Reconocimiento Estadístico de Patrones y Redes Neuronales

Contenidos

Tema	Subtema
Introducción	Aproximación al problema de reconocimiento de patrones. Repaso de Teoría de la Probabilidad y Regla de Bayes
Conceptos clásicos de clasificación y reducción de dimensionalidad	Clasificación no supervisada o clustering. El algoritmo de las K-medias. Clasificación supervisada no paramétrica. El algoritmo de los K vecinos más próximos. Clasificación estadística. Clasificador de mínima distancia. Clasificador óptimo de Bayes. Métodos de extracción de características: optimización para representación (PCA), optimización para clasificación (LDA)
Modelos de mezclas gausianas para estimar funciones de densidad	Modelos de mezclas gausianas para representación y para clasificación. Estima de máxima verosimilitud para el modelo: El algoritmo EM. Casos particulares. Aplicación a reconocimiento de habla y locutores: Modelos ocultos de Markov
Procesos de aprendizaje e introducción a las redes neuronales artificiales	Bases de la teoría del aprendizaje. La naturaleza estadística del proceso de aprendizaje. Reglas de aprendizaje más utilizadas. Conceptos de teoría del aprendizaje: error de aproximación, error de estimación y error de cálculo. Sesgo y varianza de modelos. Técnicas de aprendizaje: corrección de error, regla de Hebb, competición y supervisión. Taxonomía de las RNA. Modelos discriminativos frente a modelos generativos.
El perceptrón multicapa (MLP).	La regla del perceptrón. Teorema de convergencia. Separabilidad, el problema XOR. Minimización del error cuadrático medio. El perceptrón multicapa. El algoritmo de retropropagación. El problema de la generalización, validación cruzada. Interpretación de las salidas como probabilidades a posteriori.
Funciones de base radial (RBF).	radial (RBF). Teorema de Cover sobre la separabilidad de patrones. El problema de la interpolación. Teoría de la Regularización. Funciones de base radial generalizadas. Estrategias de aprendizaje. Comparación entre RBF y MLP. Analogía RBF-GMM (discriminación versus representación)
Máquinas de vectores soporte (SVM).	Clasificadores de margen máximo. La dimensión de Vapnik-Chervonenkis. Espacios de características basados en kernels. SVM para clasificación binaria (SVC). SVM para regresión no lineal (SVR). SVM para clustering (SVND).
Redes autoorganizadas.	Red de aprendizaje Hebbiano: análisis de las componentes principales. Mapas de características autoorganizados, clasificación de patrones adaptativa, cuantificación vectorial (LVQ). Redes autoasociativas.