Analiza iterativnih metoda učenja unaprijedne neuronske mreže

Baček, Tomislav (2011) Analiza iterativnih metoda učenja unaprijedne neuronske mreže. = Master's thesis (Bologna) , Sveučilište u Zagrebu, Fakultet strojarstva i brodogradnje, UNSPECIFIED. Mentor: Majetić, Dubravko.

[img] Text
30_06_2011_Diplomski_rad_Neuronske_mreze_Bacek_2011.pdf
Restricted to IP adress Jezik dokumenta:Croatian

Download (7MB)

Abstract (Croatian)

U ovom radu prikazana je analiza algoritama učenja unaprijednih (statičkih) neuronskih mreža, koje su ujedno najčešće korištene neuronske mreže. Testirane algoritme učenja čine algoritam povratnog rasprostiranja pogreške (eng. Error Back Propagation, EBP), koji je zapravo obična gradijentna metoda, Resilient BackPropagation algoritam (RPROP), algoritam konjugiranih gradijenata (eng. Conjugate Gradient, CG) te Levenberg-Marquard algoritam (LM), koji je kombinacija gradijentne i Gauss-\Newtonove metode. Spomenuti algoritmi učenja uključuju metode prvog i drugog reda, kao i lokalne i globalne adaptivne tehnike učenja. Ukupno je testirano deset verzija algoritama - četiri verzije gradijentnog algoritma te po dvije verzije Resilient BackPropagation, Levenberg-Marquardt i algoritma konjugiranih gradijenata. Tesiranje i analiza algoritama provedeni su na sedam različitih realnih problema koji uključuju predviđanje nelinearnog, kaotičnog dinamičkog sustava, identifikaciju dinamičkog sustava prvog reda, estimaciju trošenja oštrice noža alatnog stroja te aproksimaciju potrošnje energije i vode u zgradi kao regresijske probleme, te klasifikaciju vrste raka dojke i klasifikaciju (ne)oboljenja od dijabetesa kao klasifikacijske probleme. Za funkciju cilja odabrana je suma kvadrata pogreške, dok je za mjeru točnosti učenja i testiranja kod regresijskih problema odabran normalizirani korijen srednje kvadratne pogreške. U klasifikacijskim problemima za mjeru točnosti odabran je omjer broja krivo klasificiranih i ukupnog broja uzoraka skupa za učenje/testiranje. Kako bi se ubrzalo učenje svih algoritama, korišteni su promjenjivi nagib sigmoidalne aktivacijske funkcije neurona sakrivenog sloja i modificirana metoda odabira početnih težinskih koeficijenata. Struktura mreže mijenjala se ovisno o problemu (broj slojeva nije se mijenjao), a svaka mreža testirana je samo jednom na svakom problemu uz iste početne parametre. Kvaliteta algoritama ocjenjivana je kvalitativnim (točnost) i kvantitativnim (efikasnost) kriterijem.

Item Type: Thesis (Master's thesis (Bologna))
Uncontrolled Keywords: unaprijedne neuronske mreže; klasifikacija; regresija; adaptivna aktivacijska funkcija
Date Deposited: 22 Sep 2014 18:00
Last Modified: 16 Oct 2015 13:02
URI: http://repozitorij.fsb.hr/id/eprint/1341

Actions (login required)

View Item View Item

Downloads

Downloads per month over past year

Nema podataka za dohvacanje citata