Lista Exercicios Redes Neurais

5/20/2018 Lista Exercicios Redes Neurais

1/10

Centro de Informtica UFPEDisciplina: Redes NeuraisProf. Germano Vasconcelos

luno: E!erton Guerra "ar#uesResposta da $ista de E%erc&cios

1. Defina o que uma Rede Neural. Redes neurais s'o sistemas computacionais (aseados numa apro%ima)'o * computa)'o

(aseada em li+a),es. N-s simples s'o interli+ados para formar uma rede de n-s da& otermo /rede neural/.

inspira)'o ori+inal para esta t0cnica ad!0m do e%ame das estruturas paralelas doc0re(ro1 em particular do e%ame de neur2nios e #ue as redes neurais tentam reter al+umas desuas propriedades. 3u se4a1 s'o sistemas paralelos distri(u&dos compostos por unidades de

processamento simples1 interli+adas entre si e com o am(iente por um n5mero de cone%,es. s cone%,es est'o associadas a pesos #ue arma6enam con7ecimento da rede. Uma rede

neural pode ser interpretada como um es#uema de processamento capa6 de arma6enar

con7ecimento (aseado em aprendi6a+em 8e%peri9ncia e disponi(ili6ar este con7ecimento. l0m disso1 redes neurais possuem a 7a(ilidade de lidar com pro(lemas comple%os1imprecisos e ruidosos.

2. Quais os elementos fundamentais de uma Rede Neural? Ilustre e exemplifique.

3s elementos fundamentais de uma rede neural s'o:;.< fun)'o das unidades de processamento

;.; topolo+ia da rede ;.= estrat0+ia ou al+oritmo de aprendi6a+em

fun)'o das unidades de processamento 0 caracteri6ada por tr9s elementos (sicos:

;.


2/10

Fun)'o limiar

Fun)'o sinal

Fun)'o rampa

Fun)'o linear


3/10

Fun),es si+moids 8lo+&stica e tan+ente 7iper(-lica

l0m disso1 e%istem as se+uintes topolo+ias de rede:

;.;.< FeedFor>ard

;.;.; Recorrentes


4/10

;.;.= Construti!as

E as se+uintes estrat0+ias de aprendi6a+em s'o utili6adas:;.=.< ?uper!isionada @Um professor di6 #uanto a resposta fornecida pelo sistema

se apro%ima da resposta dese4ada. E%emplo: nota de um

aluno numa pro!a.

;.=.; Por refor)o um @cr&ticoA di6 apenas se a resposta fornecida est certa ouerrada. E%emplo: puni)'o B recompensa no treinamento deanimais

;.=.= N'o?uper!isionada o sistema tenta se autoor+ani6ar (aseado nassimilaridades entre os e%emplos apresentados.E%emplo: desen!ol!imento das c0lulas simples doc-rte% !isual estriado.

3. Explique os princpios da prendi!a"em #uper$isionada e da prendi!a"em N%o&super$isionada.

=.< prendi6ado ?uper!isionado usase um con4unto de pares1 entrada e sa&da1 pre!iamentecon7ecidos #ue representam a realidade Um @professorA di6 #uanto a resposta fornecida pelosistema se apro%ima da resposta dese4ada 8e. +. nota de um aluno numa pro!a.Em termosconceituais1 o professor tem con7ecimento 8representado p2r um con4unto de e%emplos deentradasa&da so(re o am(iente1 por0m este am(iente n'o 0 de con7ecimento da rede neural deinteresse. 3 con7ecimento do am(iente o #ual disp,e o professor 0 transferido para as redes

neurais atra!0s de treinamento da forma mais completa poss&!el1 podendo ent'o ser dispensado oprofessor dei%ando apenas a rede neural lidando com o am(iente.


5/10

3 Con4unto de treinamento 0 dado por: s ={(x1, f(x1)), (x2, f(x2)),..., (xn, f(xn))}. Possuicon!er+9ncia rpida.

=.; prendi6ado N'o ?uper!isionado n'o se usa um con4unto de e%emplos pre!iamentecon7ecidos. Uma medida da #ualidade da representa)'o do am(iente pela rede 0 esta(elecida eos parmetros s'o modificados de modo a otimi6ar esta medida. Este tipo de aprendi6ado 0

muito utili6ado na rea de recon7ecimento de padr,es. 3 sistema tenta se autoor+ani6ar (aseadonas similaridades entre os e%emplos apresentados 8e. +. desen!ol!imento das c0lulas simples doc-rte% !isual estriado. 3 Con4unto de treinamento 0 dado por: s = {(x1, ), (x2, ),..., (xn, )}. con!er+9ncia 0 lenta.?'o dadas condi),es para a reali6a)'o de uma medida independente da tarefa de #ualidade darepresenta)'o #ue a rede de!e aprender1 e os parmetros li!res da rede s'o otimi6ados em rela)'oa esta medida1 com isso 0 desen!ol!ida a 7a(ilidade de forma)'o de representa),es internas paracodificar as caracter&sticas da entrada +erando conse#entemente no!as classes. Para reali6areste aprendi6ado podese utili6ar a re+ra da aprendi6a+em competiti!a.

'. ( )erceptron um classificador linear* +ustifique. Qual a diferen,a entre o )erceptron

e o daline?.< 3 perceptron 0 um classificador linear pois1 como pode ser !isto atra!0s de clculosmatemticos1 a fun)'o de sa&da 0 dada por: %; >;.%< H #B >; 8 m.% Hc e como pode ser!isto1 a resposta o(tida 0 uma fun)'o linear. E uma fun)'o linear +era apenas uma reta 8num sistema

(idimensional1 o #ue n'o permite1 por e%emplo1 no caso de uma fun)'o %or1 a separa)'o dosresultados J dos situase no procedimento de treinamento. Na mesma 0poca em #ue Rosen(latt prop2s operceptron1 Kidro> e Loff propuseram o al+oritmo dos m&nimos #uadrados 8re+ra delta para arede daline 8dapti!e $inear Element1 similar ao perceptron1 por0m com fun)'o de ati!a)'olinear ao in!0s de fun)'o de+rau.

-. Explique as formas em que os parmetros de uma rede R/0 podem ser treinados. Re+ra de propa+a)'o de!e ser treinada com a utili6a)'o de fun),es radiais1 tais como: DistnciaEuclideana M net4 OC (xi ci)2.- Fun)'o de ati!a)'o de!e utili6ar fun),es locais tais como a fun)'o +aussiana M o4 f8net4 e%p8net4;Bc4; Fase de treinamento s'o tr9s con4untos de param9tros a serem estimados:

s lar+uras d das fun),es de (ase radial1 podem ser definidas se utili6ando de !aloresdefinidos a priori1 ou utili6ando a t0cnica de +radiente descendente e a 7eur&stica do !i6in7o

mais pr-%imo. 3s centros C4 #ue podem ser definidos atra!0s de distri(ui)'o uniforme ou aleatoriamente1tomando uma amostra do con4unto de treinamento1 ou m0todo n'o super!isionado dea+rupamento 8clusterin+1 por e%emplo1 usando o al+oritmo "0dias1 ou por 5ltimo1utili6ando o +radiente descendente. 3s Pesos K4i da camada de sa&da podem ser treinados com a utili6a)'o demanipula)'o de matri6es1 +radiente descendente1 m&nimo erro #uadrado1 m0todo dene>ton.

. )esquise e explique o funcionamento do al"oritmo DD Dnamic Deca d+ustment4

para o treinamento de R/0s.

Em redes RQF1 podese utili6ar um al+oritmo para treinamento c7amado DD 8DnamicDeca d4ustment1 #ue n'o possui uma ar#uitetura fi%a como os outros al+oritmos e reali6a otreinamento de forma (astante rpida. 3 DD foi criado a com intuito de resol!er uma defici9ncia


6/10

de um al+oritmo c7amado PRC 8Pro(a(ilistic Restricted Coulom( Ener+1 #ue n'o classifica!apadr,es em reas de conflito. rea de conflito 0 uma re+i'o onde duas ou mais +aussianas seso(rep,em. ?e um no!o padr'o da classe Q ficasse em uma re+i'o desse tipo1 ele n'o conse+uiriaser classificado pelo PRCE1 por0m o al+oritmo DD iria classificlo como sendo da classe Q.

3 al+oritmo DD 0 um al+oritmo de treinamento construti!o. No in&cio do processo detreinamento a camada escondida n'o possui nen7um neur2nio1 e a partir do momento #ue a fasetreinamento se inicia1 no!os neur2nios !'o sendo adicionados dentro dessa camada caso 7a4anecessidade. 3u se4a1 a #uantidade de neur2nios #ue de!em fa6er parte da camada escondida n'o 0

determinada inicialmente1 ela ser determinada automaticamente durante o treinamento pela anlisede dois parmetros1 o +e o -. Nas redes RQFDD1 os n-s da camada de entrada s'o totalmenteconectados aos neur2nios da camada intermediria. Dessa forma1 se um no!o neur2nio foradicionado * camada intermediria1 ele de!er ser conectado a todas as entradas.

3 al+oritmo DD utili6a dois parmetros para decidir se um no!o neur2nio de!er serintrodu6ido na camada intermediria. 3 primeiro parmetro 0 o t7res7old positi!o1 ou +1 #ue

possui um !alor padr'o de J1 e #ue !erifica se para um no!o padr'o1 usado durante o treinamentoda rede1 e%iste al+um prot-tipo da mesma classe com ati!a)'o acima do +. Caso e%ista1 nen7umno!o prot-tipo ser adicionado * rede. 3 se+undo parmetro 0 t7res7old ne+ati!o1 ou -1 #ue possuium !alor padr'o de J1< e 0 utili6ado para solucionar pro(lemas de conflito de padr,es #ue possam!ir a e%istir durante o treinamento.

Na camada de sa&da para uma rede RQFDD e%iste uma #uantidade n de neur2nios1 deforma #ue essa #uantidade 0 i+ual ao n5mero de classes utili6adas pelos padr,es de treinamento. 3use4a1 se durante o treinamento ti!emos padr,es de #uatro classes diferentes1 na camada de sa&dateremos #uatro unidades presentes e cada uma delas representa a sa&da de uma dessas classes. Parareali6ar essa classifica)'o1 os neur2nios da camada sa&da competem atra!0s do m0todo con7ecidocomo >innertaSesall1 onde o neur2nio #ue conti!er o maior !alor de ati!a)'o ser usado parareali6ar a classifica)'o.

Fi+ura a(ai%o 0 um e%emplo apresentado por Qert7old1 onde este ilustra os passos dofuncionamento do DD:


7/10

5. Descre$a o princpio de redu,%o da $i!in6an,a durante o treinamento do modelo de

7o6onen.

3 efeito da redu)'o da !i6in7an)a 0 para locali6ar reas de ati!idade similar. Todas as unidades emuma determinada rea s'o afetadas inicialmente1 e realin7amse li+eiramente no sentido do !etorpeso do n- !encedor. En#uanto o tempo passa1 a !i6in7an)a 0 redu6ida e somente os n-s na!i6in7an)a do +an7ador s'o alterados. Estes se alin7am mais e mais1 at0 #ue a rea em torno do!encedor consista de !etores com pesos similares.3 al+oritmo padr'o de treinamento 0 apresentado a(ai%o 8?I1


8/10

5nica maneira #ue n-s podemos asse+urar de #ue n-s este4amos comparando a orienta)'o dedois !etores1 usando a medida Euclidiana1 0 primeiramente certificase de #ue todos os !etores pesoest'o normali6ados. Para um con4unto de !etores no espa)o Euclidiano isto si+nifica #ue cada !etorreter sua orienta)'o1 mas ser de um comprimento fi%o1 diferente da sua ma+nitude anteriormente.

compara)'o entre os !etores peso e do !etor de entrada ser concernida a+ora somente com aorienta)'o1 como necessrio. 3utra !anta+em 5til de normali6ar o !etor 0 #ue redu6 o tempo de

treinamento da rede1 por#ue remo!e um +rau de !aria(ilidade no espa)o peso.

1:. Qual a idia por tr;s da opera,%o da fun,%o


9/10

W o sinal de controle

Lista Exercicios Redes Neurais

Documents

Transcript of Lista Exercicios Redes Neurais