Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales...
Transcript of Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales...
![Page 1: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/1.jpg)
Aprendizaje Supervisado Redes Neuronales,
Métodos de Consenso y Potenciación
![Page 2: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/2.jpg)
Redes Neuronales
X1 X2 X3 Y
1 0 0 0
1 0 1 1
1 1 0 1
1 1 1 1
0 0 1 0
0 1 0 0
0 1 1 1
0 0 0 0
X1
X2
X3
Y
Black box
Output
Input
La salida Y es 1 si al menos 2 de las 3 entradas son iguales a 1.
![Page 3: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/3.jpg)
Redes Neuronales
X1 X2 X3 Y
1 0 0 0
1 0 1 1
1 1 0 1
1 1 1 1
0 0 1 0
0 1 0 0
0 1 1 1
0 0 0 0
X1
X2
X3
Y
Black box
0.3
0.3
0.3 t=0.4
Output
node
Input
nodes
caso otroEn 0
verdaderoes Si1)( donde
)4.03.03.03.0( 321
zzI
XXXIY
![Page 4: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/4.jpg)
Redes Neuronales
• Modelo es un conjunto de nodos interconectados y enlaces ponderados
• Nodo de salida suma cada uno de su valor de entrada de acuerdo a los pesos de sus vínculos
• Comparar nodo de salida contra un umbral t
X1
X2
X3
Y
Black box
w1
t
Output
node
Input
nodes
w2
w3
)( tXwIYi
ii
Modelo Perceptron
)( tXwsignYi
ii
o
![Page 5: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/5.jpg)
Estructura General de una Red Neuronal
Activation
function
g(Si )
Si
Oi
I1
I2
I3
wi1
wi2
wi3
Oi
Neuron iInput Output
threshold, t
Input
Layer
Hidden
Layer
Output
Layer
x1
x2
x3
x4
x5
y
Entrenar una Red Neuronal significa descubrir los pesos de las neuronas
![Page 6: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/6.jpg)
Algoritmo de Aprendizaje
• Inicializar los pesos (w0, w1, …, wk)
• Ajustar los pesos de tal manera que la salida de la red Neuronal sea consistente con etiquetas de clase de ejemplos de entrenamiento:
• Función Objetivo:
– Encuentra el peso wi’s de que minimizan la función objetivo anterior (Error Cuadrático)
– Ej. Algoritmo “backpropagation”
2
),( i
iii XwfYE
![Page 7: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/7.jpg)
Métodos de Consenso (Bagging)
• La idea es tomar m muestras aleatorias con reemplazo (Boostrap) de los datos originales y luego aplicar en cada una de ellas un método predictivo para luego con algún criterio establecer un consenso de todos los resultados
• El consenso podría ser un promedio, un promedio ponderado basado en cuál método obtuvo los mejores resultados
• El que obtenga la “mayor cantidad de votos”
![Page 8: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/8.jpg)
![Page 9: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/9.jpg)
Bosques Aleatorios (Random Forest)
• El caso en el que todos los clasificadores del Método de Consenso son Árboles dicho método se denomina Bosques Aleatorios (Random Forest)
![Page 10: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/10.jpg)
Bosques Aleatorios (Random Forest)
![Page 11: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/11.jpg)
Métodos de Potenciación
• La idea es tomar una muestra aleatoria de los datos originales y aplicar sobre esta un método clasificatorio luego aumentar el peso (potenciar) a los individuos mal clasificados para que en la siguiente aplicación del método clasificatorio mejore su clasificación, y así sucesivamente…
• Además le asigna un peso al modelo construido en cada paso.
• Observación: Solo funciona para problemas de clasificación binarios (de 2 clases).
![Page 12: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/12.jpg)
Métodos de Potenciación
G(x)= Clasificador Final
Tabla de Entrenamiento
1° Muestra con nuevos pesos
2° Muestra con nuevos pesos
M° Muestra con nuevos pesos
![Page 13: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/13.jpg)
Métodos de Potenciación Algoritmo:AdaBoost.M1
![Page 14: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/14.jpg)
Métodos de Potenciación Algoritmo:AdaBoost.M1
![Page 15: Redes Neuronales, Métodos de Consenso y Potenciación · PDF fileRedes Neuronales • Modelo es un conjunto de nodos interconectados y enlaces ponderados • Nodo de salida suma cada](https://reader033.fdocumento.com/reader033/viewer/2022051522/5a70256b7f8b9ac0538bb804/html5/thumbnails/15.jpg)
Gracias….