Dissertation Research @ AiSeminar
•
0 likes•379 views
Research Presentation at AI Seminar (in Slovak) http://cogsci.fmph.uniba.sk/aiseminar/
Recommended
More Related Content
Viewers also liked
Viewers also liked (8)
Dissertation Research @ AiSeminar
- 1. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver BAL: obojsmerné učenie na báze aktivačných fáz seminár z umelej inteligencie RNDr. Kristína Rebrová Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 2. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Prehľad 1 Motivácia a náš model MNS 2 Algoritmus BAL 3 Experimenty a výsledky 4 Záver Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 3. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Senzomotorická kognícia Porozumenie na základe prepojenia akcie a percepcie - párovanie pozorovanej akcie a vlastného motorického repertoára Systém zrkadliacich neurónov (mirror neuron system, MNS) (Pellegrino a kol., 1992; Rizzolatti a kol. 2001; Rizzolatti a Sinigaglia, 2010) Obojsmerný tok informácie medzi vizuálnymi a motorickými oblasťami (Tessitore a kol,2010) Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 4. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Variantné a invariantné neuróny Horná spánková brázda (superior temporal sulcus, STS) STS poskytuje vstupy pre zrkadliace neuróny Rôzne typy neurónov, variantné a invariantné neuróny (Perret a kol, 1991) Invariantné n. anatomicky najbližšie k frontálnej časti kôry – najvyššia úroveň reprezentácie (Jellema a Perret, 2006) Variantné a invariantné vlastnosti objavené aj u zrkadliacich neurónov v F5 (Caggiano a kol, 2009) Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 5. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Výpočtové modely systému zrkadliacich neurónov Klasický prístup, napr. model MNS1 (Oztop a Arbib, 2002) Model reflektuje biologické časti MNS Základný predpoklad: vizuálna informácia, ktorá vstupuje do MNS je pozične invariantná Invariancia: ill-posed problem, zjednodušenie Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 6. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robotický model systému zrkadliacich neurónov Predpokladá podobne ako Tessitore a kol. interakciu medzi MN a STS Modulárna architektúra, na najvyššej úrovni dochádza k rozpoznaniu a porozumeniu akcii STS vizuálna reprezentáciaPF F5 zkradliace neuróny motorický modul predspracovanie vizuálnej informácie Motorický modul: z predošlého výskumu, paradigma vuyžívajúca biologicky prijateľné učenie posilňovaním Robot iCub sa učí uchopovať predmety 3 spôsobmi Modul F5 a STS: samoorganizujúca sa mapa s rekurentným kontextom MSOM, (Strickert a Hamker, 2005) Prepojenie F5 a STS: binarizácia pomocou k-WTA a trénovanie BAL Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 7. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robot iCub a jeho simulátor Metta a kol. (2008); Tikhanoff a kol. (2008) európsky projekt „RobotCub” (robotcub.org) rozmery a fyzické schopnosti kopírujú 2,5-ročné dieťa 104cm, 22kg, 53 stupňov voľnosti (z toho 9 na každej ruke), pohyblivá hlava a oči s 2 kamerami riadenie z pripojeného počítača nachádza sa v 20 laboratóriách, prevažne v Európe verný 3D simulátor (v ODE) Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 8. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver GeneRec a BAL Odvodený od zovšeobecnenej recirkulácie (Generalized Recirculation, GeneRec) (O’Reilly, 1996, O’Reilly a Munakata, 1999) Biologicky plausibilné učenie šírením chyby GeneRec – jednosmerné mapovanie BAL – obojsmerná asociácia Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 9. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Algoritmus GeneRec učenie na báze rozdielu aktivačných fáz (miesto neplauzibilného šírenia chyby na výstupe) dve aktivačné fázy (opačný tok informácie) mínusová fáza: od vstupu na výstup, sieť produkuje odhad plusová fáza: od výstupu na vstup, sieť dostane "zafixovanú" želanú hodnotu na výstup a učí sa zmena váh na základe rozdielov v plusovej a mínusovej fáze: ∆wij = (y+ j − y− j )xi Layer Phase Net Input Activation Input (s) − - si = stimulus input Hidden (h) − η− j = i wij si + k wkj o− k h− j = σ(η− j ) + η+ j = i wij si + k wkj o+ k h+ j = σ(η+ j ) Output (o) − η− k = j wjk hj o− k = σ(η− k ) + - o+ k Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 10. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Algoritmus obojsmerného učenia na báze aktivačných fáz Dve vstupno–výstupné vrstvy xa y Dve aktivačné fázy indikujú smer toku aktivácie Dopredný beh (F): xF → hF → yF Spätný beh (B): yB → hB → xB perceptrón so 4 maticami váh, 2 pre každý smer toku aktivácie F F B B vrstva v m skrytá vrstva vh hm váhy hv mh vrstva váhy h váhy váhy Layer Phase Net Input Activation x F - xF i h F ηF j = i wIH ij xF i hF j = σ(ηF j ) y F ηF k = j wHO jk hF j yF k = σ(ηF k ) y B - yB k h B ηB j = k wOH kj yB k hB j = σ(ηB j ) x B ηB i = j wHI ji hB j xB i = σ(ηB i ) Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 11. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver BAL: úprava váh V smere F: ∆wF ij = λ · aF i (aB j − aF j ) V smere B: ∆wB ij = λ · aB i (aF j − aB j ) Parametre: rýchlosť učenia λ Trénovateľné biasové neuróny (konštantný vstup 1.0, analogická úprava váh) Layer Phase Net Input Activation x F - xF i h F ηF j = i wIH ij xF i hF j = σ(ηF j ) y F ηF k = j wHO jk hF j yF k = σ(ηF k ) y B - yB k h B ηB j = k wOH kj yB k hB j = σ(ηB j ) x B ηB i = j wHI ji hB j xB i = σ(ηB i ) Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 12. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Kódovač 4-2-4 – parametre pri tejto úlohe nie vždy skonverguje k 100% úspešnosti výstup testov: počet konvergujúcich sietí (zo 100) a priemerný počet trénovacích epoch (len úspešné) rôzne typy rýchlosti učenia porovnanie s pôvodným GeneRec modelom: konvergencia: BAL 65% vs. GeneRec 90% BAL konverguje podobne ako symetrická verzia GeneRec (aproximácia CHL) počet epoch: 100 až tisíce (GeneRec konverguje rýchlejšie) 0 1 2 3 0 20 40 60 rýchlosť učenia úspešnésiete 2 2.1 2.2 0 20 40 0 1 2 3 0 1,000 2,000 3,000 rýchlosť učenia epochy 2 2.1 2.2 0 500 1,000 1,500 Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 13. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Kódovač 4-2-4 – vývoj počas trénovania 50 úspešných sietí trénovaných 5000 epoch ak sieť skonverguje, naučí sa úlohu na 100% naopak ak robí chybu v jednom smere, „pokazí sa“ aj druhý smer asociácie 0 1,000 2,000 3,000 4,000 5,000 0 0.5 1 epocha úspešnosťsiete vzoryF vzoryB bityF bityB mseF mseB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 14. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Párovanie riedkych binárnych vzorov – parametre Motivácia pre typ dát: riedke reprezentácie v mozgu 100 párov vzorov, 144 bitov, k = 12 pozitívnych Rôzne hodnoty λ a veľkosti skrytej vrstvy nH (50 sietí) optimálna λ: 0.2 optimálna nH : 120, rozdiel viacmenej len v dĺžke trénovania 0.1 0.2 0.3 0.4 0.5 0 0.5 1 rýchlosť učenia úspešnosťsiete bityF bityB vzoryF vzoryB 0.2 0.25 0.3 0.35 0 0.5 1 80 100 120 140 160 180 0.94 0.96 0.98 1 veľkosť skrytej vrstvy úspešnosťsiete bityF bityB vzoryF vzoryB 100 150 1,000 2,000 3,000 epcs Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 15. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Párovanie riedkych binárnych vzorov – vývoj počas trénovania priemer a štand. odchýlka pre 50 sietí trénovaných 2500 epoch λ = 0.2, nH = 120 aktivácie na skrytej vrstve: blížia sa k sebe a nebinarizujú sa (hodnoty okolo 0.5) 0 500 1,000 1,500 2,000 2,500 0 0.5 1 epocha úspešnosťsiete vzoryF vzoryB bityF bityB mseF mseB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 16. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Komplexné asociácie – parametre Motivácia pre typ dát: asociácia 4 perspektív na 1 pohyb 16 párov vzorov, 16 bitov, k = 3 pozitívnych Rôzne hodnoty λ a veľkosti skrytej vrstvy nH (50 sietí) optimálna λ: 1.0 optimálna nH : 14 (nerobí veľký rozdiel) 0 0.5 1 1.2 0 0.5 1 rýchlosť učenia úspešnosťsiete bityF bityB vzoryF vzoryB 1 1.1 1.2 0 0.5 1 10 15 20 25 0 0.5 1 veľkosť skrytej vrstvy úspešnosťsiete vzoryF vzoryB bityF bityB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 17. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Komplexné asociácie – vývoj počas trénovania priemer a štand. odchýlka pre 50 sietí trénovaných 1000 epoch λ = 1.0, nH = 14 značne menšia úspešnosť pre nejednoznačný smer B (bity ≈ 86%, vzory len ≈ 4%) sieť nevie určiť, ktorý zo 4 asociovaných vzorov vybrať 0 200 400 600 800 1,000 0 0.5 1 epocha úspešnosťsiete bityF bityB vzoryF vzoryB mseF mseB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 18. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Komplexné asociácie – príklad reprodukcie vzorov Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 19. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robotický MNS model – úvod Najvyššia úroveň: mapovanie reprezentácií na STS a F5 Výstupy z MSOM sú zbinarizované pomocou k-WTA Vizuálne dáta: 14×14 s kv = 16 Motorické dáta: 12×12 s km = 8 Experimenty s prvou perspektívou (očakávaná asociácia 1:1), 52 vzorových párov STS vizuálna reprezentáciaPF F5 zkradliace neuróny motorický modul predspracovanie vizuálnej informácie Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 20. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robotický MNS model – parametre Rôzne hodnoty λ a veľkosti skrytej vrstvy nH (20 sietí pre každý parameter) optimálna λ: 0.2 optimálna nH : 170 0.2 0.4 0 0.5 1 rýchlosť učenia úspešnosťsiete bityF bityB vzoryF vzoryB 100 150 200 250 0 0.5 1 veľkosť skrytej vrstvy úspešnosťsiete bityF bityB vzoryF vzoryB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 21. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robotický MNS model – vývoj počas trénovania priemer a štand. odchýlka pre 20 sietí trénovaných 1500 epoch λ = 0.2, nH = 170 značne menšia úspešnosť ako pri umelých dátach – charakter robotických dát m:n sieť robí chyby v rámci jednej kategórie pohybu, nie medzi kategóriami 0 500 1,000 1,500 0 0.5 1 epocha úspešnosť bitSuccF bitSuccB patSuccF patSuccB 0 500 1,000 1,500 0 5 · 10−2 0.1 epocha mse/vzdialenosť mseF mseB pattDistF pattDistB Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 22. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Robotický MNS model – príklad reprodukcie vzorov Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 23. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Zhrnutie vyvinuli sme algoritmus pre obojsmernú asociáciu binárnych vzorov odvodený od biologicky plauzibilného GeneRec modelu obojsmerné učenie vplýva na jeho konvergenciu a rýchlosť akou sa vie požadpvanú úlohu naučiť emergujúce reprezentácie na skrytej vrstve nemajú tendenciu binarizovať sa (nevznikajú vyhranené reprezentácie pre rôzne vstupy) pri riešení problému nejednoznačných mnohonásobných asociácií robí algoritmus chyby (ako aj iné algoritmy učenia NS) v prípade asociácie medzi reprezentáciami v našom robotickom MNS modeli je vyhodnocovaná úspešnosť modelu malá, no chyby, ktoré robí sa vyskyujú v rámci kategórie nie medzi kategóriami Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 24. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Ďalší postup pri skúmaní BAL a modelovaní MNS Algoritmus BAL skúmať konvergenciu algoritmu, jeho citlivosť na rýchlosť učenia a charakter obojsmerého prepojenia skúmať reprezentácie na skrytej vrstve a tiež možnosti ako ovplyvniť vznik reprezentácií aj na tejto vrstve (v kontexte systému zrkadliacich neurónov) Robotický model MNS zaviezť do modelu ďalšie vizuálne perspektívy vytvoriť priestor/mechanizmus pre vznik variantných a invariantných reprezentácií v STS a F5 Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz
- 25. Motivácia a náš model MNS Algoritmus BAL Experimenty a výsledky Záver Koniec Ďakujem za pozornosť Kristína Rebrová kristina.rebrova@gmail.com Kristína Rebrová BAL: obojsmerné učenie na báze aktivačných fáz