K6. Vertinimo metodai ir procesai XVIII mokslinė kompiuterininkų konferencija „Kompiuterininkų dienos – 2017“, Kaune, VU KnF 2017-09-22

1. REKURENTINISPASLĖPTŲJŲMARKOVO MODELIŲ
PARAMETRŲVERTINIMOALGORITMAS
Jūratė Vaičiulytė, Leonidas Sakalauskas
Matematikos ir informatikos institutas,
Vilniaus universitetas

2. Įvadas
• Gamtoje vykstantys realūs procesai yra charakterizuojami kaip
signalai.
• Paslėptieji Markovo Modeliai (PMM) yra dažnai taikomi
stochastiniam signalų modeliavimui, kai charakterizuojamos
tik statistinės signalų savybės.
• Šiame darbe realizuotas rekurentinis EM algoritmas PMM
parametrų įvertinimui.
• Pasinaudojant sukurtu algoritmu gali būti nagrinėjamas
signalų klasifikavimas, klasterizavimas, atpažinimas realiu
laiku. 2

3. PaslėptiejiMarkovomodeliai
3
B={bj(o)} Stebėjimo tikimybės tankio funkcija būsenoje j
A={ai,j}
ai,j =P[xt+1=Xj|xt=Xi]
Perėjimo iš vienos būsenos į kitą tikimybių
matrica
Tikimybė iš būsenos i pereiti į būseną j
Xt (Paslėpta) būsena laiko momentu t
πi = P(X1=i)
Pradinio buvimo būsenoje tikimybės (pirmoji
paslėptojo Markovo modelio būsena πi = 1)

4. PMMmatematiniomodelioparametrai
• Būsenų skaičius N
• būsenų perėjimų tikimybių matrica
• pradinio buvimo būsenoje tikimybių vektorius
• stebėjimo tikimybės tankio funkcija
• stebėjimus aprašantys atsitiktiniai dydžiai, pasiskirstę pagal duotus
vidurkius μs ir kovariacijų matricas σs,1≤S≤N
4
    S M 1 2  
 
 
S
M
M MM











11 1
1

  


5. EM algoritmas
• E-žingsnis: logaritminės tikėtinumo funkcijos sąlyginio vidurkio
apskaičiavimas
• M-žingsnis: tikėtinumo funkcijos sąlyginio vidurkio
maksimizavimas
• Pasinaudojus didžiausio tikėtinumo metodu išvestos formulės
parametrų įvertinimui



j
j
T
j
T
j O
j






( )
( )
1
1
5

6. RekurentinisEM algoritmas
• Klasikinis EM algoritmas reikalauja kiekvienoje iteracijoje
apdoroti visą turimą stebėjimų imtį, todėl apdorojant visą imtį
kiekvienoje iteracijoje algoritmo sudėtingumas tampa
kvadratinis, t.y. O(T2).
• Stebint procesą reikalingų vertinimui operacijų skaičius labai augs
ir vertinimas realiu laiku taps nebeįmanomas.
• Rekurentinio EM algoritmo atveju - PMM modelio parametrai
yra atnaujinami su kiekvienu gautu nauju stebėjimu,
neįsimenant ankstesnės mokymo aibės.
• Algoritmo sudėtingumas yra O(T).
6

7. RekurentinisEM algoritmas
• Rekurentinės formulės vidurkių vektoriaus ir kovariacijų
matricos įvertinimui:
• Būsenų perėjimo tikimybių skaičiavimo formulė:
  

t
i
t
i t t
i
t
i
O
t
 



1
1     




 
t
i t
i
t
i t
i
t t
i
t t
i T
t
it
t
O O
t

 






  
 













 
1
1
1 11
 


  
t
i
t
i
l o
t
t
i
t
e t t
i
t
i
i
  







1 1
1 ( , , , )


  
t
i
l o
ti
t
t
e t
i i





 1
1
1
1
1 1 1( , , , )

 
  
t
i
l o
t t
e t t
i
t
i
i


 ( , , , )
   
t
l o
i
N
e t t
i
t
i
i
 

 ( , , , )
1
7

8. 8

9. Eksperimentoeiga.PMM parametrųvertinimas
• Sudarytam algoritmui patikrinti buvo atliktas kompiuterinis
eksperimentas: stebėjimo vektorių klasterizavimas.
• Duoti dvimačiai Gauso stebėjimų vektoriai (T=8192 ir T=2048),
kurie sudaro du klasterius (k=2).
• Klasterių tikrieji centrai:
500
500
ir
600
600
.
9

10. Eksperimentoeiga.PMM parametrųvertinimas
• Parenkami atsitiktiniai pradiniai duomenys:
• vidurkių vektoriai μ :
483
444
,
616
589
• kovariacijų matricos σ :
•
11520 2643
2643 11530
,
8159 2458
2458 7987
• perėjimų iš būsenos į būseną tikimybių matrica A, kur visos
tikimybės yra vienodos:
0.5 0.5
0.5 0.5
• pradinio buvimo būsenoje tikimybių matrica π, kur visos
tikimybės yra vienodos:
0.5
0.5
.
10

11. Eksperimentoeiga.PMM parametrųvertinimas
Bazinis EM algoritmas Rekurentinis EM algoritmas
T=2048 μ :
499.02
497.45
,
598.47
599.59
σ:
1638 −143.12
−143.12 1615
,
1722 62.87
62.87 1531
π:
0.5
0.5
Vykdymo laikas: 8.127 s
μ :
499.01
497.44
,
598.46
599.57
σ:
1638 −143.48
−143.48 1615
,
1723 63.64
63.64 1532
π:
0.49
0.50
Vykdymo laikas: 2.075 s
T=8192 μ :
502.35
504.36
,
595.14
592.67
σ:
7785 442.76
442.76 8298
,
7591 562.39
562.39 7323
π:
0.5
0.5
Vykdymo laikas: 192.879 s
μ :
502.34
504.38
,
595.15
592.65
σ:
7784 443.52
443.52 8301
,
7590 563.19
563.19 7325
π:
0.5
0.5
Vykdymo laikas: 26.476 s
11

12. Eksperimentoeiga.PMM parametrųvertinimas
0
5,000
10,000
15,000
20,000
25,000
30,000
35,000
40,000
45,000
50,000
1000 2000 3000 4000 5000 6000 7000 8000 9000 10000
Recurrent EM Batch EM
12

13. Išvados
• Darbe sudarytas paslėptųjų Markovo modelių parametrų
vertinimo algoritmas.
• Iš atlikto kompiuterinio eksperimento matyti, kad modelio
parametrų vertinimas realizuotu rekurentiniu EM algoritmu
vykdomas kelis kartus greičiau nei klasikinis EM algoritmas.
• Sudarytas rekurentinis algoritmas gali būti taikomas stebėjimų
klasterizavimui ir atpažinimui realiu laiku.
13

14. REKURENTINISPASLĖPTŲJŲMARKOVO MODELIŲ
PARAMETRŲVERTINIMOALGORITMAS
Jūratė Vaičiulytė, Leonidas Sakalauskas
Matematikos ir informatikos institutas,
Vilniaus universitetas