Jasper ¡De ¡Bock ¡ ¡& ¡ ¡Gert ¡de ¡Cooman ¡
¡BENE@WORK ¡
¡ ¡ 7 ¡December ¡2011 ¡State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
State sequence predic/on in imprecise hidden Markov models - - PowerPoint PPT Presentation
State sequence predic/on in imprecise hidden Markov models Jasper De Bock & Gert de Cooman BENE@WORK 7 December 2011 Jasper De Bock
Jasper ¡De ¡Bock ¡ ¡& ¡ ¡Gert ¡de ¡Cooman ¡
¡BENE@WORK ¡
¡ ¡ 7 ¡December ¡2011 ¡State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡ ¡& ¡ ¡Gert ¡de ¡Cooman ¡
¡¡
¡Jasper ¡De ¡Bock ¡ ¡& ¡ ¡Gert ¡de ¡Cooman ¡
¡¡
¡Jasper ¡De ¡Bock ¡ ¡ Gert ¡de ¡Cooman ¡ Research ¡group ¡
SYSTeMS ¡
Jasper ¡De ¡Bock ¡ ¡ Gert ¡de ¡Cooman ¡ Research ¡group ¡
SYSTeMS ¡
Filip ¡Hermans ¡ Erik ¡Quaeghebeur ¡ Keivan ¡Shariatmadar ¡ Arthur ¡Van ¡Camp ¡
State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡6 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡7 ¡
BENE@WORK ¡8 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡
(Precise) ¡hidden ¡Markov ¡model ¡
A ¡sequence ¡of ¡hidden ¡state ¡variables ¡ A ¡sequence ¡of ¡observable ¡variables ¡
Jasper ¡De ¡Bock ¡8 ¡
BENE@WORK ¡9 ¡
Jasper ¡De ¡Bock ¡X ¡= ¡ O ¡= ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡
(Precise) ¡hidden ¡Markov ¡model ¡
A ¡sequence ¡of ¡hidden ¡state ¡variables ¡ A ¡sequence ¡of ¡observable ¡variables ¡
Jasper ¡De ¡Bock ¡9 ¡
BENE@WORK ¡10 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
A ¡sequence ¡of ¡hidden ¡state ¡variables ¡ A ¡sequence ¡of ¡observable ¡variables ¡
Jasper ¡De ¡Bock ¡10 ¡
BENE@WORK ¡(Precise) ¡hidden ¡Markov ¡model ¡
11 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
A ¡sequence ¡of ¡hidden ¡state ¡variables ¡ A ¡sequence ¡of ¡observable ¡variables ¡
Jasper ¡De ¡Bock ¡11 ¡
BENE@WORK ¡(Precise) ¡hidden ¡Markov ¡model ¡
Local ¡probability ¡models ¡
12 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
Q1 ¡(X1) ¡ ¡ Local ¡probability ¡models ¡
(Precise) ¡hidden ¡Markov ¡model ¡
12 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡Marginal ¡model ¡for ¡the ¡first ¡hidden ¡variable ¡
12 ¡
Jasper ¡De ¡Bock ¡13 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
Q2 ¡(X2|X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ Local ¡probability ¡models ¡
(Precise) ¡hidden ¡Markov ¡model ¡
13 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡Transi/on ¡models ¡for ¡the ¡next ¡hidden ¡variables ¡
13 ¡
Jasper ¡De ¡Bock ¡14 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Local ¡probability ¡models ¡
(Precise) ¡hidden ¡Markov ¡model ¡
14 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡14 ¡
Jasper ¡De ¡Bock ¡Output ¡models ¡for ¡the ¡observable ¡variables ¡
15 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ Local ¡probability ¡models ¡
(Precise) ¡hidden ¡Markov ¡model ¡
15 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡15 ¡
Jasper ¡De ¡Bock ¡S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
16 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
(Precise) ¡hidden ¡Markov ¡model ¡
16 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡16 ¡
Jasper ¡De ¡Bock ¡How ¡to ¡construct ¡a ¡joint ¡model? ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
17 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
(Precise) ¡hidden ¡Markov ¡model ¡
17 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡17 ¡
Jasper ¡De ¡Bock ¡Assump/ons ¡of ¡indepencence ¡
18 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
18 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡18 ¡
Jasper ¡De ¡Bock ¡CondiQonal ¡on ¡its ¡mother ¡variable, ¡any ¡variable ¡is ¡ independent ¡of ¡its ¡non-‑parent ¡non-‑descendants ¡
(Precise) ¡hidden ¡Markov ¡model ¡
19 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
(Precise) ¡hidden ¡Markov ¡model ¡
19 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡19 ¡
Jasper ¡De ¡Bock ¡Local ¡ models ¡
Markov-‑condi/on ¡Global ¡model ¡P ¡(X1:3,O1:3) ¡ ¡ ¡
State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡20 ¡
BENE@WORK ¡21 ¡
Jasper ¡De ¡Bock ¡? ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡21 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡
? ¡ ? ¡
22 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
22 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡22 ¡
Jasper ¡De ¡Bock ¡Local ¡ models ¡
Markov-‑condi/on ¡Global ¡model ¡P ¡(X1:3,O1:3) ¡ ¡ ¡ Condi/onal ¡global ¡model ¡P ¡(X1:3|O1:3) ¡ ¡ ¡
Bayes’ ¡theorem ¡ P ¡(O1:3) ¡≠ ¡0 ¡
¡State ¡sequence ¡predic/on ¡
Condi/oning ¡the ¡model ¡on ¡the ¡observa/ons ¡
23 ¡
Jasper ¡De ¡Bock ¡? ¡
Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡23 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡
? ¡ ? ¡
P ¡( ¡? ¡ ¡ ¡? ¡ ¡ ¡? ¡ ¡| ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡) ¡ ¡ Largest ¡probability? ¡
24 ¡
Jasper ¡De ¡Bock ¡? ¡
Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡24 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡
? ¡ ? ¡
P ¡( ¡? ¡ ¡ ¡? ¡ ¡ ¡? ¡ ¡| ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡) ¡ ¡ Largest ¡probability? ¡
MAXIMAL ¡SEQUENCE ¡
25 ¡
Jasper ¡De ¡Bock ¡? ¡
Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡25 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡
? ¡ ? ¡
P ¡( ¡? ¡ ¡ ¡? ¡ ¡ ¡? ¡ ¡| ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡) ¡ ¡ Largest ¡probability? ¡
MAXIMAL ¡SEQUENCE ¡
Viterbi ¡algorithm ¡
26 ¡
Jasper ¡De ¡Bock ¡Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡26 ¡
BENE@WORK ¡State ¡sequence ¡predic/on ¡
P ¡( ¡? ¡ ¡ ¡? ¡ ¡ ¡? ¡ ¡| ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡) ¡ ¡ Largest ¡probability? ¡
State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡27 ¡
BENE@WORK ¡28 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡28 ¡
BENE@WORK ¡Imprecise ¡probabili/es ¡
20%? ¡ ¡ ¡[10%,30%] ¡
29 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡29 ¡
BENE@WORK ¡Imprecise ¡probabili/es ¡
20%? ¡ ¡ ¡[10%,30%] ¡
Credal ¡set ¡Μ ¡ Closed ¡and ¡convex ¡set ¡
30 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡30 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
p ¡: ¡Χ ¡è ¡[0,1] ¡ f ¡ ¡: ¡Χ ¡è ¡IR ¡ Prevision ¡P(f) ¡= ¡Ep(f) ¡
(expectaQon ¡funcQonal) ¡
31 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡31 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
p ¡: ¡Χ ¡è ¡[0,1] ¡ f ¡ ¡: ¡Χ ¡è ¡IR ¡ Prevision ¡P(f) ¡= ¡Ep(f) ¡
(expectaQon ¡funcQonal) ¡
Credal ¡set ¡Μ ¡ Closed ¡and ¡convex ¡set ¡of ¡mass ¡funcQons ¡p ¡
32 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡32 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
p ¡: ¡Χ ¡è ¡[0,1] ¡ f ¡ ¡: ¡Χ ¡è ¡IR ¡ Prevision ¡P(f) ¡= ¡Ep(f) ¡
(expectaQon ¡funcQonal) ¡
Lower ¡prevision ¡P(f) ¡= ¡min{ ¡Ep(f) ¡: ¡p ¡ ¡ ¡ ¡M ¡} ¡
∈
Credal ¡set ¡Μ ¡ Closed ¡and ¡convex ¡set ¡of ¡mass ¡funcQons ¡p ¡
33 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡33 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
p ¡: ¡Χ ¡è ¡[0,1] ¡ f ¡ ¡: ¡Χ ¡è ¡IR ¡ Prevision ¡P(f) ¡= ¡Ep(f) ¡
(expectaQon ¡funcQonal) ¡
Lower ¡prevision ¡P(f) ¡= ¡min{ ¡Ep(f) ¡: ¡p ¡ ¡ ¡ ¡M ¡} ¡
∈
Upper ¡prevision ¡P(f) ¡= ¡max{ ¡Ep(f) ¡: ¡p ¡ ¡ ¡ ¡M ¡} ¡= ¡-‑P(-‑f) ¡
∈
Credal ¡set ¡Μ ¡ Closed ¡and ¡convex ¡set ¡of ¡mass ¡funcQons ¡p ¡
34 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡34 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
1 ¡ ¡ ¡ ¡ ¡if ¡ ¡X ¡= ¡A ¡ 0 ¡ ¡ ¡ ¡ ¡if ¡ ¡X ¡≠ ¡A ¡ Indicator ¡func/on ¡IA(X) ¡= ¡ Probability ¡of ¡A ¡= ¡P(A) ¡= ¡P(IA) ¡
35 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡35 ¡
BENE@WORK ¡Coherent ¡lower ¡previsions ¡
1 ¡ ¡ ¡ ¡ ¡if ¡ ¡X ¡= ¡A ¡ 0 ¡ ¡ ¡ ¡ ¡if ¡ ¡X ¡≠ ¡A ¡ Indicator ¡func/on ¡IA(X) ¡= ¡ Lower ¡probability ¡of ¡A ¡= ¡P(A) ¡= ¡P(IA) ¡ ¡ Upper ¡probability ¡of ¡A ¡= ¡P(A) ¡= ¡P(IA) ¡ ¡ Probability ¡of ¡A ¡= ¡P(A) ¡= ¡P(IA) ¡
State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡36 ¡
BENE@WORK ¡37 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
Imprecise ¡hidden ¡Markov ¡model ¡
37 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡37 ¡
Jasper ¡De ¡Bock ¡38 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ all ¡local ¡models ¡are ¡ coherent ¡lower ¡previsions ¡
38 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡38 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
39 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
39 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡39 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
How ¡to ¡construct ¡a ¡joint ¡model? ¡
40 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
40 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡40 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
Assump/ons ¡of ¡indepencence ¡
41 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
41 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡41 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
Assump/ons ¡of ¡indepencence ¡
?
42 ¡
Jasper ¡De ¡Bock ¡42 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡42 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
Imprecise ¡no/ons ¡of ¡indepencence ¡ Precise ¡indepencence ¡ P(A|B) ¡= ¡P(A) ¡ Epistemic ¡irrelevance ¡(a ¡weaker ¡noQon) ¡ P(A|B) ¡= ¡P(A) ¡ Strong ¡independence ¡ P(A|B) ¡= ¡P(A) ¡for ¡every ¡extreme ¡point ¡in ¡thedak ¡ P(A|B) ¡= ¡P(A) ¡credal ¡set ¡of ¡P ¡
43 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
CondiQonal ¡on ¡its ¡mother ¡variable, ¡the ¡non-‑parent ¡non-‑ descendants ¡of ¡any ¡variable ¡in ¡the ¡tree ¡are ¡epistemically ¡ irrelevant ¡to ¡this ¡variable ¡and ¡its ¡descendants ¡
43 ¡
Jasper ¡De ¡Bock ¡43 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡43 ¡
Jasper ¡De ¡Bock ¡Imprecise ¡hidden ¡Markov ¡model ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
44 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
44 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡44 ¡
Jasper ¡De ¡Bock ¡Local ¡ models ¡
Epistemic ¡Irrelevance ¡ Global ¡model ¡P ¡(X1:3,O1:3) ¡ ¡¡
Imprecise ¡hidden ¡Markov ¡model ¡
Epistemic ¡Irrelevance ¡yields ¡formulas ¡ that ¡recursively ¡construct ¡a ¡global ¡model ¡
State ¡sequence ¡predic/on ¡in ¡ imprecise ¡hidden ¡Markov ¡models ¡
Jasper ¡De ¡Bock ¡45 ¡
BENE@WORK ¡46 ¡
Jasper ¡De ¡Bock ¡? ¡
Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡46 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
? ¡ ? ¡
S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
47 ¡
Jasper ¡De ¡Bock ¡X1 ¡ X2 ¡ X3 ¡ O1 ¡ O3 ¡ O2 ¡
47 ¡
Jasper ¡De ¡Bock ¡ BENE@WORK ¡47 ¡
Jasper ¡De ¡Bock ¡Local ¡ models ¡
Epistemic ¡Irrelevance ¡ Global ¡model ¡P ¡(X1:3,O1:3) ¡ ¡¡
(Imprecise) ¡state ¡sequence ¡predic/on ¡
Condi/onal ¡global ¡model ¡P ¡(X1:3|O1:3) ¡ ¡ ¡
Regular ¡Extension ¡ P ¡(O1:3) ¡≠ ¡0 ¡
¡Condi/oning ¡the ¡model ¡on ¡the ¡observa/ons ¡
48 ¡
Jasper ¡De ¡Bock ¡? ¡
Q2 ¡(X2|X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡
Jasper ¡De ¡Bock ¡48 ¡
BENE@WORK ¡? ¡ ? ¡
Largest ¡condi/onal ¡probability? ¡
MAXIMAL ¡SEQUENCE(S) ¡
(Imprecise) ¡state ¡sequence ¡predic/on ¡
? ?
49 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡49 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ P ¡( ¡? ¡ ¡ ¡? ¡ ¡ ¡? ¡ ¡| ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡) ¡ ¡ Largest ¡probability? ¡ O ¡ X,Y,Z,… ¡ Total ¡ordering: ¡ Y ¡> ¡X ¡ ¡if ¡ ¡P(Y|O) ¡> ¡P(X|O) ¡ ¡ X ¡> ¡Y ¡ ¡if ¡ ¡P(IY|O) ¡> ¡P(IX|O) ¡ ¡ ¡ ¡if ¡ ¡P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡
PRECISE ¡
50 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡50 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Total ¡ordering: ¡ Y ¡> ¡X ¡ ¡if ¡ ¡P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡ ¡
¡X ¡> ¡Y ¡ ¡if ¡ ¡P(IO[IY ¡– ¡IX]) ¡> ¡0 ¡ Maximal ¡sequence ¡ = ¡the ¡sequence ¡with ¡the ¡highest ¡probability ¡ = ¡The ¡highest ¡sequence ¡in ¡this ¡ordering ¡
PRECISE ¡
Bayes’ ¡theorem ¡ P ¡(O) ¡≠ ¡0 ¡
51 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡51 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Par/al ¡ordering: ¡ Y ¡> ¡X ¡ ¡if ¡ ¡P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡ Maximal ¡sequence ¡ The ¡undominated ¡sequence(s) ¡in ¡this ¡ par/al ¡ordering ¡
IMPRECISE ¡
P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡ For ¡every ¡P ¡in ¡P ¡
52 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡52 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Par/al ¡ordering: ¡ Y ¡> ¡X ¡ ¡if ¡ ¡P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡ ¡ ¡
¡X ¡> ¡Y ¡ ¡if ¡ ¡P(IO[IY ¡– ¡IX]) ¡> ¡0 ¡ Maximal ¡sequence ¡ The ¡undominated ¡sequence(s) ¡in ¡this ¡ par/al ¡ordering ¡
IMPRECISE ¡
P ¡(O) ¡≠ ¡0 ¡
¡IMPORTANT ¡RESULT! Doesn’t ¡hold ¡in ¡general ¡ Only ¡for ¡HMMs ¡
53 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡53 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Par/al ¡ordering: ¡ Y ¡> ¡X ¡ ¡if ¡ ¡P(IO[IY ¡– ¡IX]) ¡> ¡0 ¡ Maximal ¡sequence ¡ The ¡undominated ¡sequence(s) ¡in ¡this ¡ par/al ¡ordering ¡
IMPRECISE ¡
X ¡is ¡maximal ¡ ¡
For ¡all ¡Y ¡ ¡: ¡ ¡Y ¡> ¡X ¡
¡For ¡all ¡Y ¡ ¡: ¡ ¡P(IO[IY ¡– ¡IX]) ¡≤ ¡0 ¡
54 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡54 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
X ¡is ¡maximal ¡ ¡
For ¡all ¡Y ¡ ¡: ¡ ¡P(IO[IY ¡– ¡IX]) ¡≤ ¡0 ¡
55 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡55 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
X ¡is ¡maximal ¡ ¡
For ¡all ¡Y ¡ ¡: ¡ ¡P(IO[IY ¡– ¡IX]) ¡≤ ¡0 ¡
Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
56 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡56 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡1 ¡
Y ¡> ¡X ¡ ¡if ¡ ¡P(IY ¡-‑ ¡IX|O) ¡> ¡0 ¡ ¡
¡ ¡X ¡> ¡Y ¡ ¡if ¡ ¡P(IO[IY ¡– ¡IX]) ¡> ¡0 ¡
P ¡(O) ¡≠ ¡0 ¡
¡IMPORTANT ¡RESULT! Doesn’t ¡hold ¡in ¡general ¡ Only ¡for ¡HMMs ¡
Using ¡the ¡joint ¡model ¡instead ¡ ¡
57 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡57 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡2 ¡
Working ¡recursively ¡
Principle ¡of ¡op/mality ¡ (Bellman) ¡ ? ¡ O3 ¡
58 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡58 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡2 ¡
Working ¡recursively ¡
Principle ¡of ¡op/mality ¡ (Bellman) ¡ ? ¡ ? ¡ O2 ¡ O3 ¡
59 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡59 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡2 ¡
Working ¡recursively ¡
Principle ¡of ¡op/mality ¡ (Bellman) ¡ ? ¡ ? ¡ ? ¡ O1 ¡ O2 ¡ O3 ¡
60 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡60 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡3 ¡
Reformula/ng ¡the ¡criterion ¡
X ¡is ¡maximal ¡ ¡
For ¡all ¡Y ¡ ¡: ¡ ¡P(IO[IY ¡– ¡IX]) ¡≤ ¡0 ¡
61 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡61 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
How ¡can ¡we ¡determine ¡the ¡set ¡of ¡ maximal ¡sequences ¡efficiently? ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
6 ¡maximal ¡sequences ¡for ¡a ¡binary ¡HMM ¡of ¡length ¡8: ¡
Two ¡state ¡values: ¡0 ¡or ¡1 ¡
62 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡62 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
63 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡63 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
64 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡64 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
65 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡65 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
66 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡66 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
67 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡67 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
68 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡68 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡
Trick ¡nr. ¡4 ¡
Storing ¡solu/ons ¡efficiently ¡
Representa/on ¡in ¡computer ¡memory: ¡
69 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡69 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
70 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡70 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
71 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡71 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
72 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡72 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
73 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡73 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
74 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡74 ¡
BENE@WORK ¡(Imprecise) ¡state ¡sequence ¡predic/on ¡ Es/HMM: ¡an ¡efficient ¡algorithm ¡to ¡ determine ¡the ¡maximal ¡state ¡sequences ¡in ¡ an ¡imprecise ¡hidden ¡Markov ¡model ¡
Computa/onal ¡complexity ¡
75 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡75 ¡
BENE@WORK ¡“What ¡can ¡you ¡ ¡ ¡ ¡ ¡ ¡do ¡with ¡it?” ¡
An ¡applica/on ¡
Op/cal ¡character ¡recogni/on ¡so{ware ¡
76 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡76 ¡
BENE@WORK ¡77 ¡
Jasper ¡De ¡Bock ¡77 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡77 ¡
BENE@WORK ¡An ¡applica/on ¡
C ¡ W ¡ Q ¡ C ¡ O ¡ W ¡
78 ¡
Jasper ¡De ¡Bock ¡? ¡ ? ¡ ? ¡
78 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡78 ¡
BENE@WORK ¡An ¡applica/on ¡
C ¡ W ¡ Q ¡
79 ¡
Jasper ¡De ¡Bock ¡S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ Viterbi ¡algorithm ¡
79 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡79 ¡
BENE@WORK ¡An ¡applica/on ¡
? ¡ ? ¡ ? ¡ C ¡ W ¡ Q ¡
80 ¡
Jasper ¡De ¡Bock ¡S1 ¡(O1|X1) ¡ ¡ S3 ¡(O3|X3) ¡ ¡ S2 ¡(O2|X2) ¡ ¡ Q2 ¡(X2|X1) ¡ ¡ Q1 ¡(X1) ¡ ¡ Q2 ¡(X3|X2) ¡ ¡ Es/HMM ¡algorithm ¡
80 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡80 ¡
BENE@WORK ¡An ¡applica/on ¡
? ¡ ? ¡ ? ¡ C ¡ Q ¡ W ¡
81 ¡
Jasper ¡De ¡Bock ¡La ¡Divina ¡Commedia ¡
VITA ¡
correctly ¡read ¡ digital ¡
VITA ¡
Solu/on ¡Viterbi ¡
VITA ¡ VITA ¡
Solu/on(s) ¡Es/HMM-‑algoritme ¡
81 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡81 ¡
BENE@WORK ¡An ¡applica/on ¡
82 ¡
Jasper ¡De ¡Bock ¡La ¡Divina ¡Commedia ¡
CON ¡ CCN ¡ CON ¡ CON ¡
82 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡82 ¡
BENE@WORK ¡An ¡applica/on ¡
incorrectly ¡read ¡ digital ¡ Solu/on ¡Viterbi ¡ Solu/on(s) ¡Es/HMM-‑algoritme ¡
83 ¡
Jasper ¡De ¡Bock ¡La ¡Divina ¡Commedia ¡
correctly ¡read ¡ Solu/on ¡Viterbi ¡ Solu/on(s) ¡Es/HMM-‑algoritme ¡
83 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡83 ¡
BENE@WORK ¡An ¡applica/on ¡
EH ¡ EN ¡ CH ¡ EH ¡ EN ¡ EH ¡
digital ¡
84 ¡
Jasper ¡De ¡Bock ¡La ¡Divina ¡Commedia ¡
84 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡84 ¡
BENE@WORK ¡An ¡applica/on ¡
incorrectly ¡read ¡ digital ¡ Solu/on ¡Viterbi ¡ Solu/on(s) ¡Es/HMM-‑algoritme ¡
IO ¡ ZO ¡ LO ¡ LO ¡ IO ¡
85 ¡
Jasper ¡De ¡Bock ¡La ¡Divina ¡Commedia ¡
85 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡85 ¡
BENE@WORK ¡An ¡applica/on ¡
incorrectly ¡read ¡ digital ¡ Solu/on ¡Viterbi ¡ Solu/on(s) ¡Es/HMM-‑algoritme ¡
CHE ¡ CNE ¡ ONE ¡ CBE ¡ ¡ ¡CHE ¡ CNE ¡ ¡ ¡CZE ¡ ¡ ONE ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡
86 ¡
Jasper ¡De ¡Bock ¡Thanks ¡for ¡your ¡a|en/on! ¡
86 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡86 ¡
BENE@WORK ¡87 ¡
Jasper ¡De ¡Bock ¡87 ¡
Jasper ¡De ¡Bock ¡ Jasper ¡De ¡Bock ¡87 ¡
BENE@WORK ¡Ques/ons? ¡