SlideShare a Scribd company logo
1 of 27
IINNTTRROODDUUCCTTIIOONN TTOO 
PPAARRTTSS OOFF SSPPEEEECCHH 
TTAAGGGGIINNGG
DDEEFFIINNIITTIIOONN 
PPaarrttss ooff SSppeeeecchh TTaaggggiinngg iiss ddeeffiinneedd 
aass tthhee ttaasskk ooff llaabbeelliinngg eeaacchh wwoorrdd iinn aa 
sseenntteennccee wwiitthh iittss aapppprroopprriiaattee ppaarrttss ooff 
ssppeeeecchh.. PPaarrttss ooff ssppeeeecchh iinncclluuddee 
nnoouunnss,, vveerrbbss,, aaddvveerrbbss,, aaddjjeeccttiivveess,, 
pprroonnoouunnss,, ccoonnjjuunnccttiioonn aanndd tthheeiirr ssuubb-- 
ccaatteeggoorriieess..
 PPaarrttss ooff SSppeeeecchh TTaaggggiinngg ((PPOOSS TTaaggggiinngg 
oorr PPOOSSTT)),, aallssoo ccaalllleedd ggrraammmmaattiiccaall 
ttaaggggiinngg oorr wwoorrdd ddiissaammbbiigguuaattiioonn,, iiss tthhee 
pprroocceessss ooff mmaarrkkiinngg uupp aa wwoorrdd iinn aa tteexxtt aass 
ccoorrrreessppoonnddiinngg ttoo aa ppaarrttiiccuullaarr ppaarrtt ooff 
ssppeeeecchh,, bbaasseedd oonn bbootthh iittss ddeeffiinniittiioonn,, aass 
wweellll iittss ccoonntteexxtt-- ii..ee.. rreellaattiioonnsshhiipp wwiitthh 
aaddjjaacceenntt aanndd rreellaatteedd wwoorrddss iinn aa pphhrraassee,, 
sseenntteennccee oorr ppaarraaggrraapphh..
• EExxaammppllee:: 
• WWoorrdd:: PPaappeerr,, TTaagg:: NNoouunn 
• WWoorrdd:: GGoo,, TTaagg:: VVeerrbb 
• WWoorrdd:: FFaammoouuss,, TTaagg:: AAddjjeeccttiivvee 
eettcc..
EExxaammppllee :: 
TThhee mmootthheerr kkiisssseedd tthhee bbaabbyy 
oonn tthhee cchheeeekk.. 
TThhee [[AATT]] mmootthheerr [[NNNN]] kkiisssseedd [[VVBBDD]] 
tthhee [[AATT]] bbaabbyy [[NNNN]] oonn [[PPRRPP]] tthhee 
[[AATT]] cchheeeekk [[NNNN]]
EExxaammppllee 
• TThhee aarrttiiccllee 
• MMootthheerr nnoouunn 
• KKiisssseedd vveerrbb ((ppaasstt tteennssee)) 
• TThhee aarrttiiccllee 
• BBaabbyy nnoouunn 
• OOnn pprreeppoossiittiioonn 
• TThhee aarrttiiccllee 
• CChheeeekk nnoouunn..
• EExxaammppllee ((kkaasshhmmiirrii)) 
““kkiittaa::bb cchhii ttaabbllee’’aass ppeetthh”” 
kkiittaa::bb// NNNN cchhii// VVBB ttaabbllee’’aass// NNNN 
ppeetthh// PPRREEPP
PPOOSS TTaaggggiinngg ccaann bbee ddoonnee bbyy aa hhuummaann 
mmaannuuaallllyy oorr ccaann aallssoo bbee ppeerrffoorrmmeedd bbyy aa 
ccoommppuutteerr pprrooggrraamm wwhhiicchh iiss ggiivveenn tthhee 
nnaammee ooff PPOOSS TTaaggggeerr.. AA ssiimmpplliiffiieedd ffoorrmm ooff 
PPOOSS TTaaggggiinngg ccaann bbee oobbsseerrvveedd iinn sscchhooooll 
cchhiillddrreenn,, wwhheenn tthheeyy aarree aasskkeedd ttoo iiddeennttiiffyy 
wwoorrddss aass nnoouunnss,, vveerrbbss,, aaddjjeeccttiivveess eettcc..
PPrriinncciippllee 
PPOOSS TTaaggggiinngg iiss hhaarrddeerr tthhaann jjuusstt hhaavviinngg 
aa lliisstt ooff wwoorrddss aanndd tthheeiirr ppaarrttss ooff 
ssppeeeecchh,, bbeeccaauussee ssoommee wwoorrddss ccaann 
rreepprreesseenntt mmoorree tthhaann oonnee ppaarrttss ooff ssppeeeecchh 
aatt ddiiffffeerreenntt ttiimmeess.. AA llaarrggee ppeerrcceennttaaggee 
ooff wwoorrdd--ffoorrmmss aarree aammbbiigguuoouuss..
FFoorr eexxaammppllee,, 
““TThhee ssaaiilloorr ddooggss tthhee bbaarrmmaaiidd”” 
EEvveenn ““ddooggss””,, wwhhiicchh iiss uussuuaallllyy 
tthhoouugghhtt ooff aass jjuusstt aa pplluurraall nnoouunn,, ccaann 
aallssoo bbee aa vveerrbb
• par There are 8 parttss ooff ssppeeeecchh vviizz,, nnoouunn,, vveerrbb,, aarrttiiccllee,, 
aaddvveerrbb,, ccoonnjjuunnccttiioonn,, pprreeppoossiittiioonn,, iinntteerrjjeeccttiioonn,, 
aaddjjeeccttiivvee.. HHoowweevveerr tthheerree aarree cclleeaarrllyy mmaannyy mmoorree 
ccaatteeggoorriieess aanndd ssuubb--ccaatteeggoorriieess.. FFoorr nnoouunnss,, pplluurraall,, 
ppoosssseessssiivvee,, aanndd ssiinngguullaarr ffoorrmmss ccaann bbee ddiissttiinngguuiisshheedd.. 
IInn mmaannyy llaanngguuaaggeess wwoorrddss aarree aallssoo mmaarrkkeedd ffoorr tthheeiirr 
““ccaassee””,, ggrraammmmaattiiccaall ggeennddeerr,, aanndd ssoo oonn,, wwhhiillee vveerrbbss 
aarree mmaarrkkeedd ffoorr tteennssee,, aassppeecctt aanndd ootthheerr tthhiinnggss.. 
LLiinngguuiissttss ddiissttiinngguuiisshh ppaarrttss ooff ssppeeeecchh ttoo vvaarriioouuss ffiinnee 
ddeeggrreeeess,, rreefflleeccttiinngg aa cchhoosseenn ttaaggggiinngg ssyysstteemm.. 
• EEgg.. NNNN ffoorr ssiinngguullaarr ccoommmmoonn nnoouunnss,, 
• NNNNSS ffoorr pplluurraall ccoommmmoonn nnoouunnss,, 
• NNPP ffoorr ssiinngguullaarr pprrooppeerr nnoouunnss..
PPOOSS ccllaasssseess 
• TThheerree aarree ttwwoo ccllaasssseess ffoorr PPOOSS :: 
11.. OOppeenn ccllaasssseess ::-- nnoouunnss,, vveerrbbss,, aaddjjeeccttiivveess,, 
aaddvveerrbbss,, eettcc.. 
22.. CClloosseedd ccllaasssseess ::-- 
aa)) ccoonnjjuunnccttiioonnss ::-- aanndd,, oorr,, bbuutt,, eettcc 
bb)) pprroonnoouunnss::-- II,, sshhee,, hhiimm,, eettcc 
cc)) pprreeppoossiittiioonnss ::-- wwiitthh,, oonn,, uunnddeerr,, eettcc 
dd)) ddeetteerrmmiinneerrss ::-- tthhee,, aa,, aann,, eettcc 
ee)) aauuxxiilliiaarryy vveerrbbss ::-- ccaann,, ccoouulldd,, mmaayy eettcc 
AAnndd tthheerree aarree mmaannyy ootthheerrss..
TTaaggsseett 
TTaaggsseett iiss tthhee sseett ooff ttaaggss ffrroomm wwhhiicchh tthhee TTaaggggeerr iiss ssuuppppoosseedd ttoo 
cchhoooossee ttoo aattttaacchh ttoo tthhee rreelleevvaanntt wwoorrdd.. 
• EEvveerryy TTaaggggeerr wwiillll bbee ggiivveenn aa ssttaannddaarrdd TTaaggsseett.. TThhee TTaaggsseett mmaayy 
bbee ccooaarrssee ssuucchh aass NN ((NNoouunn)),, VV ((VVeerrbb)),, AADDJJ ((AAddjjeeccttiivvee)),, AADDVV 
((AAddvveerrbb)),, PPRREEPP ((PPrreeppoossiittiioonn)),, CCOONNJJ ((CCoonnjjuunnccttiioonn)) oorr ffiinnee-- 
ggrraaiinneedd ssuucchh aass NNNNOOMM ((NNoouunn--NNoommiinnaattiivvee)),, VVFFIINN ((VVeerrbb 
FFiinniittee)),, VVNNFFIINN ((VVeerrbb NNoonn--ffiinniittee)) aanndd ssoo oonn.. 
• FFoorr PPOOSS TTaaggggiinngg,, tthheerree iiss aa nneeeedd ooff ttaagg sseettss ssoo tthhaatt oonnee mmaayy 
nnoott hhaavvee aannyy pprroobblleemm ffoorr aassssiiggnniinngg oonnee ttaagg ffoorr eeaacchh ppaarrttss ooff 
ssppeeeecchh.. SSoommee eexxaammpplleess ooff TTaaggsseett aarree:: 
11)) BBrroowwnn CCoorrppuuss TTaaggsseett-- 8877 ttaaggss 
22)) PPeennnn TTrreeeebbaannkk TTaaggsseett-- 4455 ttaaggss 
33)) BBrriittiisshh NNaattiioonnaall CCoorrppuuss TTaaggsseett-- 6611 ttaaggss 
44)) CC77 TTaaggsseett-- 116644 ttaaggss 
TThheerree aarree ttaagg sseettss aavvaaiillaabbllee wwhhiicchh hhaavvee ttaaggss ffoorr pphhrraasseess aallssoo..
TTaagg sseett eexxaammppllee 
Penn Treebank Part of Speech Tags (Excluding Punctuation) 
1 CC Coordinating conjunction 
2 CD Cardinal number 
3 DT Determiner 
4 EX Existential "there" 
5 FW Foreign word 
6 IN Prepostion or subordination conjunction 
7 JJ Ajective 
8 JJR Ajective, comparative 
9 JJS Ajective, superlative 
10 LS List item marker 
11 MD Modal 
12 NN Noun, singular or mass 
13 NNS Noun, plural 
14 NP Proper noun, singular 
15 NPS Proper noun, plural 
16 PDT Predeterminer 
17 POS Possessive ending 
18 PP Personal pronoun 
19 PPS Possessive pronoun 
20 RB Adverb 
21 RBR Adverb, comparative 
22 RBS Adverb, superlative 
23 RP Particle 
24 SYM Symbol 
25 TO "to" 
26 UH Interjection 
27 VB Verb, base form 
28 VBD Verb, past tense 
29 VBG Verb, gerun or present participle 
30 VBN Verb, past particle 
31 VBP Verb, non-3rd person singular present 
32 VBZ Verb, 3rd person singular present 
33 WDT Wh-determiner 
34 WP Wh-pronoun 
35 WP$ Possessive Wh-pronoun 
36 WRB Wh-adverb
WWhhyy iiss PPOOSS TTaaggggiinngg hhaarrdd?? 
• PPOOSS TTaaggggiinngg ,, mmoosstt ooff tthhee ttiimmeess iiss 
aammbbiigguuoouuss tthhaatt’’ss wwhhyy oonnee ccaannnnoott eeaassiillyy 
ffiinndd tthhee rriigghhtt ttaagg ffoorr eeaacchh wwoorrdd.. FFoorr 
eexxaammppllee,, wwee wwaanntt ttoo ttrraannssllaattee tthhee 
aammbbiigguuoouuss sseenntteennccee.. 
EExxaammppllee :: 
““ TTiimmee fflliieess lliikkee aann aarrrrooww ””
• PPoossssiibbiilliittiieess ::-- 
11)) TTiimmee//NNNN fflliieess//NNNN lliikkee//VVBB aann//AATT aarrrrooww//NNNN 
22)) TTiimmee//VVBB fflliieess//NNNN lliikkee//IINN aann//AATT aarrrrooww//NNNN 
33)) TTiimmee//NNNN fflliieess//VVBBZZ lliikkee//IINN aann//AATT aarrrrooww//NNNN 
HHeerree tthhee 33)) iiss mmoosstt aacccceeppttaabbllee bbuutt sseeee hhooww mmaannyy 
ppoossssiibbiilliittiieess aarree tthheerree aanndd wwee ddoonn’’tt kknnooww 
eexxaaccttllyy wwhhiicchh oonnee ttoo cchhoooossee.. SSoo oonnee wwhhoo hhaass aa 
ggoooodd hhaanndd iinn ggrraammmmaarr aanndd vvooccaabbuullaarryy ccaann oonnllyy 
mmaakkee tthhee ddiiffffeerreennccee..
MMeetthhooddss ooff PPOOSS TTaaggggiinngg 
• PPAARRTTSS OOFF SSPPEEEECCHH TTAAGGGGEERR 
• PPaarrttss OOff SSppeeeecchh TTaaggggeerr oorr PPOOSS TTaaggggeerr iiss aa pprrooggrraamm 
tthhaatt ddooeess tthhiiss jjoobb.. TTaaggggeerrss uussee sseevveerraall kkiinnddss ooff 
iinnffoorrmmaattiioonn:: ddiiccttiioonnaarriieess,, lleexxiiccoonnss,, rruulleess,, aanndd ssoo oonn.. 
DDiiccttiioonnaarriieess hhaavvee ccaatteeggoorryy oorr ccaatteeggoorriieess ooff aa 
ppaarrttiiccuullaarr wwoorrdd.. TThhaatt iiss aa wwoorrdd mmaayy bbeelloonngg ttoo mmoorree 
tthhaann oonnee ccaatteeggoorryy.. 
• FFoorr eexxaammppllee,, rruunn iiss bbootthh nnoouunn aanndd vveerrbb.. TTaaggggeerrss uussee 
pprroobbaabbiilliissttiicc iinnffoorrmmaattiioonn ttoo ssoollvvee tthhiiss aammbbiigguuiittyy.. 
• TThheerree aarree mmaaiinnllyy ttwwoo ttyyppee ooff TTaaggggeerrss:: 
• RRuullee--bbaasseedd aanndd SSttoocchhaassttiicc 
• TTrraannssffoorrmmaattiioonn bbaasseedd ttaaggggiinngg ((ccoommbbiinnaattiioonn ooff rruullee-- 
bbaasseedd aanndd ssttoocchhaassttiicc mmeetthhooddoollooggiieess,, aallssoo ccaalllleedd aass 
hhyybbrriidd ttaaggggiinngg))..
RRuullee--bbaasseedd PPOOSS TTaaggggiinngg 
• TTyyppiiccaall rruullee bbaasseedd aapppprrooaacchheess uussee ccoonntteexxttuuaall 
iinnffoorrmmaattiioonn ttoo aassssiiggnn ttaaggss ttoo uunnkknnoowwnn oorr aammbbiigguuoouuss 
wwoorrddss.. TThheessee rruulleess aarree oofftteenn kknnoowwnn aass ccoonntteexxtt ffrraammee 
rruulleess.. AAss aann eexxaammppllee,, aa ccoonntteexxtt ffrraammee rruullee mmiigghhtt ssaayy 
ssoommeetthhiinngg lliikkee:: 
• IIff aann aammbbiigguuoouuss//uunnkknnoowwnn wwoorrdd XX iiss pprreecceeddeedd bbyy aa 
ddeetteerrmmiinneerr aanndd ffoolllloowweedd bbyy aa nnoouunn,, ttaagg iitt aass aann 
aaddjjeeccttiivvee.. 
ddeett –– XX-- nn ==XX// aaddjj 
EEgg,, ““tthhee bbeeaauuttiiffuull llaaddyy”” 
• IInn aaddddiittiioonn ttoo ccoonntteexxttuuaall iinnffoorrmmaattiioonn,, mmaannyy ttaaggggeerrss uussee 
mmoorrpphhoollooggiiccaall iinnffoorrmmaattiioonn ttoo aaiidd iinn tthhee ddiissaammbbiigguuaattiioonn 
pprroocceessss.. OOnnee ssuucchh rruullee mmiigghhtt bbee :: 
IIff aann aammbbiigguuoouuss // uunnkknnoowwnn wwoorrdd eennddss iinn aann ––iinngg 
aanndd iiss pprreecceeddeedd bbyy aann aauuxxiilliiaarryy vveerrbb,, llaabbeell iitt aa vveerrbb.. 
eegg..”” HHaanneeeeff iiss ddooiinngg ssoommee wwoorrkk””
IInn kkaasshhmmiirrii,, 
““iiff aann aammbbiigguuoouuss//uunnkknnoowwnn wwoorrdd XX iiss 
ffoolllloowweedd bbyy ““uunn”” ,,““aass”” oorr ““aann”” ,,ttaagg iitt aass aa 
nnoouunn.. 
XX’’uunn== XX//nnoouunn 
eegg.. JJoohhnn’’uunn gghhaarr’’ee 
MMaahhrruukkhh’’aass aa::vv pphhoonnee 
FFaarrooooqq’’aann kkoorr eexxaamm ppaassss..
• Rule based Taggers assign ttaaggss ttoo wwoorrddss iinn ttwwoo sstteeppss:: 
11)) RRuunnnniinngg tthhee wwoorrddss tthhrroouugghh aa lleexxiiccoonn ccoommpplleettee wwiitthh PPOOSS 
ttaaggss aanndd aaddddiittiioonnaall mmoorrpphhoollooggiiccaall aanndd ssyynnttaaccttiicc ffeeaattuurreess 
aattttaacchheedd ttoo eeaacchh eennttrryy ((wwoorrdd sstteemm oorr aaffffiixx)) rreettuurrnniinngg aa 
lliisstt ooff ttaaggss ffoorr eeaacchh wwoorrdd.. 
22)) AAppppllyyiinngg aa sseett ooff ccoonnssttrraaiinnttss ttoo eelliimmiinnaattee aallll tthhee wwrroonngg 
ttaaggss.. 
• EExxaammpplleess iinncclluuddee tthhee TTAAGGGGIITT pprrooggrraamm ((tthhee ffiirrsstt llaarrggee 
rruullee bbaasseedd TTaaggggeerr,, uusseedd ccoonntteexxtt--ppaatttteerrnn rruulleess)) uusseedd ttoo ttaagg 
tthhee oonnee mmiilllliioonn wwoorrdd BBrroowwnn CCoorrppuuss iinn 11997700’’ss aanndd tthhee 
mmoorree rreecceenntt BBrriillll TTaaggggeerr.. 
• TTAAGGGGIITT uusseedd aa sseett ooff 7711 ttaaggss aanndd 33330000 ddiissaammbbiigguuaattiioonn 
rruulleess.. TThheessee rruulleess ddiissaammbbiigguuaatteedd 7777%% ooff wwoorrddss iinn tthhee 
mmiilllliioonn--wwoorrdd BBrroowwnn UUnniivveerrssiittyy ccoorrppuuss..
SSttoocchhaassttiicc PPOOSS TTaaggggiinngg 
• IInn ssttoocchhaassttiicc ttaaggggiinngg,, ttaaggss aarree aassssiiggnneedd bbyy aa 
ccoommppuutteerr pprrooggrraamm ((TTaaggggeerr)) oonn tthhee bbaassiiss ooff tthhee 
pprroobbaabbiilliittyy ooff aa ggiivveenn wwoorrdd hhaavviinngg aa ggiivveenn ttaagg iinn 
aa ggiivveenn ccoonntteexxtt.. TThhiiss pprroobbaabbiilliittyy iiss ccaallccuullaatteedd 
ffrroomm aa ccoorrppuuss ooff wwoorrdd wwhhiicchh hhaass aallrreeaaddyy bbeeeenn 
mmaannuuaallllyy ttaaggggeedd ((aa ttrraaiinniinngg ccoorrppuuss)).. 
• EExxaammpplleess iinncclluuddee tthhee TTaaggggeerrss bbaasseedd oonn tthhee 
HHiiddddeenn MMaarrkkoovv MMooddeell ((HHMMMM)),, ssuucchh aass tthhee oonnee 
pprrooppoosseedd ffoorr kkaasshhmmiirrii bbyy MMeehhddii,, 22000099..
SSttoocchhaassttiicc PPOOSS TTaaggggiinngg 
• 11)) IInnppuutt::-- aa ssttrriinngg ooff wwoorrddss.. 
• EEgg..(( BBooookk tthhaatt fflliigghhtt)) 
• 22)) OOuuttppuutt::-- aa ssiinnggee bbeesstt ttaagg ffoorr eeaacchh wwoorrdd 
• EEgg.. (( bbooookk//VVBB tthhaatt//DDTT fflliigghhtt//NNNN )) 
• 33)) PPrroobblleemm ::-- rreessoollvvee aammbbiigguuiittyy >> 
ddiissaammbbiigguuaattiioonn.. 
• EEgg.. BBooookk (( hhaanndd mmee tthhaatt bbooookk 
bbooookk tthhaatt fflliigghhtt))
WWhhaatt iiss PPOOSS TTaaggggiinngg ggoooodd ffoorr?? 
OOrr 
AApppplliiccaattiioonnss aanndd uusseess ooff TTaaggggiinngg 
PPOOSS TTaaggggiinngg iiss vveerryy iimmppoorrttaanntt ffrroomm aa ccoommppuuttaattiioonnaall ppeerrssppeeccttiivvee 
bbeeccaauussee iitt ccaann bbee ccoonnssiiddeerreedd aass aa bbaassiicc sstteepp iinn pprroovviiddiinngg tthhee 
oorrggaanniizzeedd iinnppuutt ffoorr aannyy ootthheerr hhiigghheerr lleevveell ccoommppuuttaattiioonnaall pprroocceessss.. 
HHoowweevveerr,, iittss uusseess ccaann bbee ppuutt iinn aa mmoorree oorrggaanniizzeedd wwaayy iinn tthhee 
ffoolllloowwiinngg mmaannnneerr;; 
11))PPOOSS TTaaggggiinngg iiss iimmppoorrttaanntt ffoorr llaanngguuaaggee pprroocceessssiinngg bbeeccaauussee iitt ggiivveess 
uuss aa ssiiggnniiffiiccaanntt aammoouunntt ooff iinnffoorrmmaattiioonn aabboouutt tthhee wwoorrdd aanndd iittss 
nneeiigghhbboouurrss.. 
EEgg.. TTaaggsseettss ddiissttiinngguuiisshh bbeettwweeeenn ppoosssseessssiivvee pprroonnoouunnss ((mmyy,, yyoouurr,, hhiiss,, 
hheerr,, iittss)) aanndd ppeerrssoonnaall pprroonnoouunnss (( II,, yyoouu,, hhee,, mmee)) aanndd tthhiiss ddiissttiinnccttiioonn 
ccaann tteellll aa ssyysstteemm,, wwhhaatt wwoorrddss aarree lliikkeellyy ttoo ooccccuurr iinn iittss vviicciinniittyy.. 
PPoosssseessssiivvee pprroonnoouunnss aarree lliikkeellyy ttoo bbee ffoolllloowweedd bbyy aa nnoouunn aanndd 
ppeerrssoonnaall pprroonnoouunnss bbyy aa vveerrbb.. TThhiiss ccaann bbee vveerryy uusseeffuull iinn mmoosstt ooff tthhee 
llaanngguuaaggee pprroocceessssiinngg mmooddeellss..
2) The ppaarrtt ooff ssppeeeecchh ooff aa wwoorrdd ccaann aallssoo ggiivvee 
iinnffoorrmmaattiioonn aabboouutt tthhee pprroonnuunncciiaattiioonn ooff aa 
ppaarrttiiccuullaarr wwoorrdd.. 
eegg.. tthhee wwoorrdd ccoonntteenntt ((nnoouunn)) vvss ccoonntteenntt 
(( aaddjjeeccttiivvee)) aarree pprroonnoouunncceedd ddiiffffeerreennttllyy.. 
((TThhee nnoouunn iiss pprroonnoouunncceedd CCOONNtteenntt 
//KKOONN--tteenntt// aanndd tthhee aaddjjeeccttiivvee ccoonnTTEENNTT 
//kkuuhhnn--TTEENNTT//wwiitthh tthhee ccaappiittaallss iinnddiiccaattiinngg 
ssttrreessss))
33)) PPOOSS TTaaggggiinngg iiss uusseeffuull ffoorr iinnffoorrmmaattiioonnaall 
rreettrriieevvaall.. SSiinnccee kknnoowwiinngg aa wwoorrdd’’ss ppaarrtt ooff 
ssppeeeecchh ccaann hheellpp ttoo tteellll uuss wwhhiicchh 
mmoorrpphhoollooggiiccaall aaffffiixxeess iitt ccaann ttaakkee.. 
44)) PPOOSS TTaaggggiinngg iiss aallssoo uusseeffuull iinn ootthheerr 
iinnffoorrmmaattiioonn rreettrriieevvaall aapppplliiccaattiioonnss bbeeccaauussee 
iitt hheellppss iinn sseelleeccttiioonn ooff nnoouunnss oorr ootthheerr 
iimmppoorrttaanntt wwoorrddss ffrroomm aa ddooccuummeenntt..
5) Automatic PPOOSS TTaaggggeerrss ccaann aallssoo hheellpp iinn bbuuiillddiinngg 
aauuttoommaattiicc wwoorrdd sseennssee ddiissaammbbiigguuaattiinngg aallggoorriitthhmmss.. 
66)) AAuuttoommaattiicc PPOOSS TTaaggggeerrss aarree aallssoo uusseedd iinn ddeevveellooppiinngg 
aaddvvaanncceedd AAuuttoommaattiicc SSppeeeecchh RReeccooggnniittiioonn ((AASSRR)) 
llaanngguuaaggee mmooddeellss.. 
77)) PPOOSS aarree vveerryy oofftteenn uusseedd ffoorr ““ppaarrttiiaall ppaarrssiinngg”” eegg.. FFoorr 
qquuiicckkllyy ffiinnddiinngg nnaammeess oorr ootthheerr pphhrraasseess ffoorr 
iinnffoorrmmaattiioonn eexxttrraaccttiioonn aapppplliiccaattiioonnss.. 
88)) IInn aaddddiittiioonn ttoo tthhee aabboovvee uusseess PPOOSS TTaaggggeerrss aarree vveerryy 
iimmppoorrttaanntt ffoorr lliinngguuiissttiicc rreesseeaarrcchh.. eegg,, iinn ffiinnddiinngg 
iinnssttaanncceess oorr ffrreeqquueenncciieess ooff aa ppaarrttiiccuullaarr ccoonnssttrruuccttiioonn 
iinn aa llaarrggee lliinngguuiissttiicc ccoorrppuuss//ccoorrppoorraa..
TTHHAANNKK YYOOUU

More Related Content

What's hot

Agricultural Pollution
Agricultural PollutionAgricultural Pollution
Agricultural Pollution
Iwl Pcu
 
Lect 1 physical assessment
Lect 1 physical assessmentLect 1 physical assessment
Lect 1 physical assessment
Ali Mohamed Aziz
 
film conventions
film conventionsfilm conventions
film conventions
kwright123
 

What's hot (20)

Danube Regional Project presentation
Danube Regional Project presentationDanube Regional Project presentation
Danube Regional Project presentation
 
Edema
EdemaEdema
Edema
 
Ent examination
Ent examinationEnt examination
Ent examination
 
Power authority
Power authority Power authority
Power authority
 
Piper book review
Piper book reviewPiper book review
Piper book review
 
Protection
ProtectionProtection
Protection
 
solar activity and climate
solar activity and climatesolar activity and climate
solar activity and climate
 
Maurizio Elia. I problemi psichiatrici in età adulta.
Maurizio Elia. I problemi psichiatrici in età adulta.Maurizio Elia. I problemi psichiatrici in età adulta.
Maurizio Elia. I problemi psichiatrici in età adulta.
 
Advanced airway mx 2
Advanced airway mx 2Advanced airway mx 2
Advanced airway mx 2
 
Agricultural Pollution
Agricultural PollutionAgricultural Pollution
Agricultural Pollution
 
3 komeetbezoek
3 komeetbezoek3 komeetbezoek
3 komeetbezoek
 
10 het eerste licht
10 het eerste licht10 het eerste licht
10 het eerste licht
 
Care of the aged in the community
Care of the aged in the communityCare of the aged in the community
Care of the aged in the community
 
Lect 1 physical assessment
Lect 1 physical assessmentLect 1 physical assessment
Lect 1 physical assessment
 
Sustainability
SustainabilitySustainability
Sustainability
 
1 hongos -generalidades
1 hongos -generalidades1 hongos -generalidades
1 hongos -generalidades
 
film conventions
film conventionsfilm conventions
film conventions
 
Infective endocarditis case presentation by dr imtiaz
Infective endocarditis case presentation by dr imtiazInfective endocarditis case presentation by dr imtiaz
Infective endocarditis case presentation by dr imtiaz
 
Anatomiadelaparatoreproductorfemenino
Anatomiadelaparatoreproductorfemenino Anatomiadelaparatoreproductorfemenino
Anatomiadelaparatoreproductorfemenino
 
Geostrategi
Geostrategi Geostrategi
Geostrategi
 

Viewers also liked

Reading with purpose - 30JuneFL513 Julie
Reading with purpose - 30JuneFL513 JulieReading with purpose - 30JuneFL513 Julie
Reading with purpose - 30JuneFL513 Julie
JABullinger
 
12 power words quiz
12 power words quiz12 power words quiz
12 power words quiz
davewoods
 
Vocabulary - List 2
Vocabulary - List 2Vocabulary - List 2
Vocabulary - List 2
Hyle Daley
 

Viewers also liked (20)

Reading with purpose - 30JuneFL513 Julie
Reading with purpose - 30JuneFL513 JulieReading with purpose - 30JuneFL513 Julie
Reading with purpose - 30JuneFL513 Julie
 
1st Grade Unit 6: Dot and jabber and the big bug mystery
1st Grade Unit 6: Dot and jabber and the big bug mystery1st Grade Unit 6: Dot and jabber and the big bug mystery
1st Grade Unit 6: Dot and jabber and the big bug mystery
 
Vocabulary u 6 w 5
Vocabulary u 6 w 5Vocabulary u 6 w 5
Vocabulary u 6 w 5
 
Vocabulary u 6 w 4
Vocabulary u 6 w 4Vocabulary u 6 w 4
Vocabulary u 6 w 4
 
Reading purposes and strategies
Reading purposes and strategiesReading purposes and strategies
Reading purposes and strategies
 
Paragraphs 6th g
Paragraphs 6th gParagraphs 6th g
Paragraphs 6th g
 
Voc unit 4, wk 2
Voc unit 4, wk 2Voc unit 4, wk 2
Voc unit 4, wk 2
 
Unit 4, wk 5 vocab
Unit 4, wk 5 vocabUnit 4, wk 5 vocab
Unit 4, wk 5 vocab
 
Long words (
Long words (Long words (
Long words (
 
Unit 4, wk 4 vocab
Unit 4, wk 4 vocabUnit 4, wk 4 vocab
Unit 4, wk 4 vocab
 
Vocabulary u 5 w 3
Vocabulary u 5 w 3Vocabulary u 5 w 3
Vocabulary u 5 w 3
 
12 power words quiz
12 power words quiz12 power words quiz
12 power words quiz
 
Vocabulary unit 6 week 1
Vocabulary unit 6 week 1Vocabulary unit 6 week 1
Vocabulary unit 6 week 1
 
Unit 5, wk 1 vocab
Unit 5, wk 1 vocabUnit 5, wk 1 vocab
Unit 5, wk 1 vocab
 
Open House
Open HouseOpen House
Open House
 
Vocabulary unit 4, wk 1
Vocabulary unit 4, wk 1Vocabulary unit 4, wk 1
Vocabulary unit 4, wk 1
 
Vocabulary - List 2
Vocabulary - List 2Vocabulary - List 2
Vocabulary - List 2
 
Latin root word list
Latin root word listLatin root word list
Latin root word list
 
Year 10 GCSE English Language Induction
Year 10 GCSE English Language InductionYear 10 GCSE English Language Induction
Year 10 GCSE English Language Induction
 
Vocabulary
VocabularyVocabulary
Vocabulary
 

Similar to Introduction to parts of speech tagging

Similar to Introduction to parts of speech tagging (20)

information practices
information practicesinformation practices
information practices
 
Aula Trabalho IDH 17-09-2014
Aula Trabalho IDH 17-09-2014Aula Trabalho IDH 17-09-2014
Aula Trabalho IDH 17-09-2014
 
#4 natural foods and supplement for gi health
#4  natural foods and supplement for gi health#4  natural foods and supplement for gi health
#4 natural foods and supplement for gi health
 
Ribbon of life
Ribbon of lifeRibbon of life
Ribbon of life
 
Biomech of cerv disk medium
Biomech of cerv disk mediumBiomech of cerv disk medium
Biomech of cerv disk medium
 
Proteinas metabolismo
Proteinas metabolismoProteinas metabolismo
Proteinas metabolismo
 
Speaker ppt
Speaker pptSpeaker ppt
Speaker ppt
 
2075 -CONTESTAÇÃO - CPC Atualizado 2018
2075 -CONTESTAÇÃO  - CPC Atualizado 20182075 -CONTESTAÇÃO  - CPC Atualizado 2018
2075 -CONTESTAÇÃO - CPC Atualizado 2018
 
Nebular hypothesis theory (GLD)
Nebular hypothesis theory (GLD)Nebular hypothesis theory (GLD)
Nebular hypothesis theory (GLD)
 
Fundamentals of group discussion
Fundamentals of group discussion Fundamentals of group discussion
Fundamentals of group discussion
 
Las Tic`s Explicacion y mapa
Las Tic`s Explicacion y mapaLas Tic`s Explicacion y mapa
Las Tic`s Explicacion y mapa
 
Chapter 7
Chapter 7Chapter 7
Chapter 7
 
Pragmatics 1225480010541171-9
Pragmatics 1225480010541171-9Pragmatics 1225480010541171-9
Pragmatics 1225480010541171-9
 
Medical legal in Neurosurgery
Medical legal in NeurosurgeryMedical legal in Neurosurgery
Medical legal in Neurosurgery
 
Apoptosis
ApoptosisApoptosis
Apoptosis
 
Chapter 9
Chapter 9Chapter 9
Chapter 9
 
Validation of mixing, granulation, lubrication, compression and coating
Validation of mixing, granulation, lubrication, compression and coatingValidation of mixing, granulation, lubrication, compression and coating
Validation of mixing, granulation, lubrication, compression and coating
 
MS Unit-5
MS Unit-5MS Unit-5
MS Unit-5
 
Literary appreciation
Literary appreciationLiterary appreciation
Literary appreciation
 
Bastionado de servidores
Bastionado de servidoresBastionado de servidores
Bastionado de servidores
 

Recently uploaded

Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergiaImmunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
Pasi Vilpas
 

Recently uploaded (9)

Koulutuksen palkat ja kustannukset sekä koulutuksen ansiot
Koulutuksen palkat ja kustannukset sekä koulutuksen ansiotKoulutuksen palkat ja kustannukset sekä koulutuksen ansiot
Koulutuksen palkat ja kustannukset sekä koulutuksen ansiot
 
Jedhi Malee (just do it).pdf
Jedhi Malee             (just do it).pdfJedhi Malee             (just do it).pdf
Jedhi Malee (just do it).pdf
 
Koulutuksen rahoitus, tulot, menot ja talous
Koulutuksen rahoitus, tulot, menot ja talousKoulutuksen rahoitus, tulot, menot ja talous
Koulutuksen rahoitus, tulot, menot ja talous
 
Koululaiset, opiskelija, oppijat ja lapset sekä tutkinnot
Koululaiset, opiskelija, oppijat ja lapset sekä tutkinnotKoululaiset, opiskelija, oppijat ja lapset sekä tutkinnot
Koululaiset, opiskelija, oppijat ja lapset sekä tutkinnot
 
Tutkimus-, kehittämis- ja innovaatiotoiminnan rahoitus
Tutkimus-, kehittämis- ja innovaatiotoiminnan rahoitusTutkimus-, kehittämis- ja innovaatiotoiminnan rahoitus
Tutkimus-, kehittämis- ja innovaatiotoiminnan rahoitus
 
Oppimateriaaleihin, menetelmiin ja sovelluksiin tutustuminen 2.5.24
Oppimateriaaleihin, menetelmiin ja sovelluksiin tutustuminen 2.5.24Oppimateriaaleihin, menetelmiin ja sovelluksiin tutustuminen 2.5.24
Oppimateriaaleihin, menetelmiin ja sovelluksiin tutustuminen 2.5.24
 
Aikuiskoulutus, jatkuva oppiminen, elinikäinen oppiminen ja henkilöstökoulutus
Aikuiskoulutus, jatkuva oppiminen, elinikäinen oppiminen ja henkilöstökoulutusAikuiskoulutus, jatkuva oppiminen, elinikäinen oppiminen ja henkilöstökoulutus
Aikuiskoulutus, jatkuva oppiminen, elinikäinen oppiminen ja henkilöstökoulutus
 
Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergiaImmunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
Immunologian perusteet: valkosolutyyppien yhteistyö, elinsiirrot, allergia
 
Kasvatus, koulutus, opetus ja osaaminen Suomessa
Kasvatus, koulutus, opetus ja osaaminen SuomessaKasvatus, koulutus, opetus ja osaaminen Suomessa
Kasvatus, koulutus, opetus ja osaaminen Suomessa
 

Introduction to parts of speech tagging

  • 1. IINNTTRROODDUUCCTTIIOONN TTOO PPAARRTTSS OOFF SSPPEEEECCHH TTAAGGGGIINNGG
  • 2. DDEEFFIINNIITTIIOONN PPaarrttss ooff SSppeeeecchh TTaaggggiinngg iiss ddeeffiinneedd aass tthhee ttaasskk ooff llaabbeelliinngg eeaacchh wwoorrdd iinn aa sseenntteennccee wwiitthh iittss aapppprroopprriiaattee ppaarrttss ooff ssppeeeecchh.. PPaarrttss ooff ssppeeeecchh iinncclluuddee nnoouunnss,, vveerrbbss,, aaddvveerrbbss,, aaddjjeeccttiivveess,, pprroonnoouunnss,, ccoonnjjuunnccttiioonn aanndd tthheeiirr ssuubb-- ccaatteeggoorriieess..
  • 3.  PPaarrttss ooff SSppeeeecchh TTaaggggiinngg ((PPOOSS TTaaggggiinngg oorr PPOOSSTT)),, aallssoo ccaalllleedd ggrraammmmaattiiccaall ttaaggggiinngg oorr wwoorrdd ddiissaammbbiigguuaattiioonn,, iiss tthhee pprroocceessss ooff mmaarrkkiinngg uupp aa wwoorrdd iinn aa tteexxtt aass ccoorrrreessppoonnddiinngg ttoo aa ppaarrttiiccuullaarr ppaarrtt ooff ssppeeeecchh,, bbaasseedd oonn bbootthh iittss ddeeffiinniittiioonn,, aass wweellll iittss ccoonntteexxtt-- ii..ee.. rreellaattiioonnsshhiipp wwiitthh aaddjjaacceenntt aanndd rreellaatteedd wwoorrddss iinn aa pphhrraassee,, sseenntteennccee oorr ppaarraaggrraapphh..
  • 4. • EExxaammppllee:: • WWoorrdd:: PPaappeerr,, TTaagg:: NNoouunn • WWoorrdd:: GGoo,, TTaagg:: VVeerrbb • WWoorrdd:: FFaammoouuss,, TTaagg:: AAddjjeeccttiivvee eettcc..
  • 5. EExxaammppllee :: TThhee mmootthheerr kkiisssseedd tthhee bbaabbyy oonn tthhee cchheeeekk.. TThhee [[AATT]] mmootthheerr [[NNNN]] kkiisssseedd [[VVBBDD]] tthhee [[AATT]] bbaabbyy [[NNNN]] oonn [[PPRRPP]] tthhee [[AATT]] cchheeeekk [[NNNN]]
  • 6. EExxaammppllee • TThhee aarrttiiccllee • MMootthheerr nnoouunn • KKiisssseedd vveerrbb ((ppaasstt tteennssee)) • TThhee aarrttiiccllee • BBaabbyy nnoouunn • OOnn pprreeppoossiittiioonn • TThhee aarrttiiccllee • CChheeeekk nnoouunn..
  • 7. • EExxaammppllee ((kkaasshhmmiirrii)) ““kkiittaa::bb cchhii ttaabbllee’’aass ppeetthh”” kkiittaa::bb// NNNN cchhii// VVBB ttaabbllee’’aass// NNNN ppeetthh// PPRREEPP
  • 8. PPOOSS TTaaggggiinngg ccaann bbee ddoonnee bbyy aa hhuummaann mmaannuuaallllyy oorr ccaann aallssoo bbee ppeerrffoorrmmeedd bbyy aa ccoommppuutteerr pprrooggrraamm wwhhiicchh iiss ggiivveenn tthhee nnaammee ooff PPOOSS TTaaggggeerr.. AA ssiimmpplliiffiieedd ffoorrmm ooff PPOOSS TTaaggggiinngg ccaann bbee oobbsseerrvveedd iinn sscchhooooll cchhiillddrreenn,, wwhheenn tthheeyy aarree aasskkeedd ttoo iiddeennttiiffyy wwoorrddss aass nnoouunnss,, vveerrbbss,, aaddjjeeccttiivveess eettcc..
  • 9. PPrriinncciippllee PPOOSS TTaaggggiinngg iiss hhaarrddeerr tthhaann jjuusstt hhaavviinngg aa lliisstt ooff wwoorrddss aanndd tthheeiirr ppaarrttss ooff ssppeeeecchh,, bbeeccaauussee ssoommee wwoorrddss ccaann rreepprreesseenntt mmoorree tthhaann oonnee ppaarrttss ooff ssppeeeecchh aatt ddiiffffeerreenntt ttiimmeess.. AA llaarrggee ppeerrcceennttaaggee ooff wwoorrdd--ffoorrmmss aarree aammbbiigguuoouuss..
  • 10. FFoorr eexxaammppllee,, ““TThhee ssaaiilloorr ddooggss tthhee bbaarrmmaaiidd”” EEvveenn ““ddooggss””,, wwhhiicchh iiss uussuuaallllyy tthhoouugghhtt ooff aass jjuusstt aa pplluurraall nnoouunn,, ccaann aallssoo bbee aa vveerrbb
  • 11. • par There are 8 parttss ooff ssppeeeecchh vviizz,, nnoouunn,, vveerrbb,, aarrttiiccllee,, aaddvveerrbb,, ccoonnjjuunnccttiioonn,, pprreeppoossiittiioonn,, iinntteerrjjeeccttiioonn,, aaddjjeeccttiivvee.. HHoowweevveerr tthheerree aarree cclleeaarrllyy mmaannyy mmoorree ccaatteeggoorriieess aanndd ssuubb--ccaatteeggoorriieess.. FFoorr nnoouunnss,, pplluurraall,, ppoosssseessssiivvee,, aanndd ssiinngguullaarr ffoorrmmss ccaann bbee ddiissttiinngguuiisshheedd.. IInn mmaannyy llaanngguuaaggeess wwoorrddss aarree aallssoo mmaarrkkeedd ffoorr tthheeiirr ““ccaassee””,, ggrraammmmaattiiccaall ggeennddeerr,, aanndd ssoo oonn,, wwhhiillee vveerrbbss aarree mmaarrkkeedd ffoorr tteennssee,, aassppeecctt aanndd ootthheerr tthhiinnggss.. LLiinngguuiissttss ddiissttiinngguuiisshh ppaarrttss ooff ssppeeeecchh ttoo vvaarriioouuss ffiinnee ddeeggrreeeess,, rreefflleeccttiinngg aa cchhoosseenn ttaaggggiinngg ssyysstteemm.. • EEgg.. NNNN ffoorr ssiinngguullaarr ccoommmmoonn nnoouunnss,, • NNNNSS ffoorr pplluurraall ccoommmmoonn nnoouunnss,, • NNPP ffoorr ssiinngguullaarr pprrooppeerr nnoouunnss..
  • 12. PPOOSS ccllaasssseess • TThheerree aarree ttwwoo ccllaasssseess ffoorr PPOOSS :: 11.. OOppeenn ccllaasssseess ::-- nnoouunnss,, vveerrbbss,, aaddjjeeccttiivveess,, aaddvveerrbbss,, eettcc.. 22.. CClloosseedd ccllaasssseess ::-- aa)) ccoonnjjuunnccttiioonnss ::-- aanndd,, oorr,, bbuutt,, eettcc bb)) pprroonnoouunnss::-- II,, sshhee,, hhiimm,, eettcc cc)) pprreeppoossiittiioonnss ::-- wwiitthh,, oonn,, uunnddeerr,, eettcc dd)) ddeetteerrmmiinneerrss ::-- tthhee,, aa,, aann,, eettcc ee)) aauuxxiilliiaarryy vveerrbbss ::-- ccaann,, ccoouulldd,, mmaayy eettcc AAnndd tthheerree aarree mmaannyy ootthheerrss..
  • 13. TTaaggsseett TTaaggsseett iiss tthhee sseett ooff ttaaggss ffrroomm wwhhiicchh tthhee TTaaggggeerr iiss ssuuppppoosseedd ttoo cchhoooossee ttoo aattttaacchh ttoo tthhee rreelleevvaanntt wwoorrdd.. • EEvveerryy TTaaggggeerr wwiillll bbee ggiivveenn aa ssttaannddaarrdd TTaaggsseett.. TThhee TTaaggsseett mmaayy bbee ccooaarrssee ssuucchh aass NN ((NNoouunn)),, VV ((VVeerrbb)),, AADDJJ ((AAddjjeeccttiivvee)),, AADDVV ((AAddvveerrbb)),, PPRREEPP ((PPrreeppoossiittiioonn)),, CCOONNJJ ((CCoonnjjuunnccttiioonn)) oorr ffiinnee-- ggrraaiinneedd ssuucchh aass NNNNOOMM ((NNoouunn--NNoommiinnaattiivvee)),, VVFFIINN ((VVeerrbb FFiinniittee)),, VVNNFFIINN ((VVeerrbb NNoonn--ffiinniittee)) aanndd ssoo oonn.. • FFoorr PPOOSS TTaaggggiinngg,, tthheerree iiss aa nneeeedd ooff ttaagg sseettss ssoo tthhaatt oonnee mmaayy nnoott hhaavvee aannyy pprroobblleemm ffoorr aassssiiggnniinngg oonnee ttaagg ffoorr eeaacchh ppaarrttss ooff ssppeeeecchh.. SSoommee eexxaammpplleess ooff TTaaggsseett aarree:: 11)) BBrroowwnn CCoorrppuuss TTaaggsseett-- 8877 ttaaggss 22)) PPeennnn TTrreeeebbaannkk TTaaggsseett-- 4455 ttaaggss 33)) BBrriittiisshh NNaattiioonnaall CCoorrppuuss TTaaggsseett-- 6611 ttaaggss 44)) CC77 TTaaggsseett-- 116644 ttaaggss TThheerree aarree ttaagg sseettss aavvaaiillaabbllee wwhhiicchh hhaavvee ttaaggss ffoorr pphhrraasseess aallssoo..
  • 14. TTaagg sseett eexxaammppllee Penn Treebank Part of Speech Tags (Excluding Punctuation) 1 CC Coordinating conjunction 2 CD Cardinal number 3 DT Determiner 4 EX Existential "there" 5 FW Foreign word 6 IN Prepostion or subordination conjunction 7 JJ Ajective 8 JJR Ajective, comparative 9 JJS Ajective, superlative 10 LS List item marker 11 MD Modal 12 NN Noun, singular or mass 13 NNS Noun, plural 14 NP Proper noun, singular 15 NPS Proper noun, plural 16 PDT Predeterminer 17 POS Possessive ending 18 PP Personal pronoun 19 PPS Possessive pronoun 20 RB Adverb 21 RBR Adverb, comparative 22 RBS Adverb, superlative 23 RP Particle 24 SYM Symbol 25 TO "to" 26 UH Interjection 27 VB Verb, base form 28 VBD Verb, past tense 29 VBG Verb, gerun or present participle 30 VBN Verb, past particle 31 VBP Verb, non-3rd person singular present 32 VBZ Verb, 3rd person singular present 33 WDT Wh-determiner 34 WP Wh-pronoun 35 WP$ Possessive Wh-pronoun 36 WRB Wh-adverb
  • 15. WWhhyy iiss PPOOSS TTaaggggiinngg hhaarrdd?? • PPOOSS TTaaggggiinngg ,, mmoosstt ooff tthhee ttiimmeess iiss aammbbiigguuoouuss tthhaatt’’ss wwhhyy oonnee ccaannnnoott eeaassiillyy ffiinndd tthhee rriigghhtt ttaagg ffoorr eeaacchh wwoorrdd.. FFoorr eexxaammppllee,, wwee wwaanntt ttoo ttrraannssllaattee tthhee aammbbiigguuoouuss sseenntteennccee.. EExxaammppllee :: ““ TTiimmee fflliieess lliikkee aann aarrrrooww ””
  • 16. • PPoossssiibbiilliittiieess ::-- 11)) TTiimmee//NNNN fflliieess//NNNN lliikkee//VVBB aann//AATT aarrrrooww//NNNN 22)) TTiimmee//VVBB fflliieess//NNNN lliikkee//IINN aann//AATT aarrrrooww//NNNN 33)) TTiimmee//NNNN fflliieess//VVBBZZ lliikkee//IINN aann//AATT aarrrrooww//NNNN HHeerree tthhee 33)) iiss mmoosstt aacccceeppttaabbllee bbuutt sseeee hhooww mmaannyy ppoossssiibbiilliittiieess aarree tthheerree aanndd wwee ddoonn’’tt kknnooww eexxaaccttllyy wwhhiicchh oonnee ttoo cchhoooossee.. SSoo oonnee wwhhoo hhaass aa ggoooodd hhaanndd iinn ggrraammmmaarr aanndd vvooccaabbuullaarryy ccaann oonnllyy mmaakkee tthhee ddiiffffeerreennccee..
  • 17. MMeetthhooddss ooff PPOOSS TTaaggggiinngg • PPAARRTTSS OOFF SSPPEEEECCHH TTAAGGGGEERR • PPaarrttss OOff SSppeeeecchh TTaaggggeerr oorr PPOOSS TTaaggggeerr iiss aa pprrooggrraamm tthhaatt ddooeess tthhiiss jjoobb.. TTaaggggeerrss uussee sseevveerraall kkiinnddss ooff iinnffoorrmmaattiioonn:: ddiiccttiioonnaarriieess,, lleexxiiccoonnss,, rruulleess,, aanndd ssoo oonn.. DDiiccttiioonnaarriieess hhaavvee ccaatteeggoorryy oorr ccaatteeggoorriieess ooff aa ppaarrttiiccuullaarr wwoorrdd.. TThhaatt iiss aa wwoorrdd mmaayy bbeelloonngg ttoo mmoorree tthhaann oonnee ccaatteeggoorryy.. • FFoorr eexxaammppllee,, rruunn iiss bbootthh nnoouunn aanndd vveerrbb.. TTaaggggeerrss uussee pprroobbaabbiilliissttiicc iinnffoorrmmaattiioonn ttoo ssoollvvee tthhiiss aammbbiigguuiittyy.. • TThheerree aarree mmaaiinnllyy ttwwoo ttyyppee ooff TTaaggggeerrss:: • RRuullee--bbaasseedd aanndd SSttoocchhaassttiicc • TTrraannssffoorrmmaattiioonn bbaasseedd ttaaggggiinngg ((ccoommbbiinnaattiioonn ooff rruullee-- bbaasseedd aanndd ssttoocchhaassttiicc mmeetthhooddoollooggiieess,, aallssoo ccaalllleedd aass hhyybbrriidd ttaaggggiinngg))..
  • 18. RRuullee--bbaasseedd PPOOSS TTaaggggiinngg • TTyyppiiccaall rruullee bbaasseedd aapppprrooaacchheess uussee ccoonntteexxttuuaall iinnffoorrmmaattiioonn ttoo aassssiiggnn ttaaggss ttoo uunnkknnoowwnn oorr aammbbiigguuoouuss wwoorrddss.. TThheessee rruulleess aarree oofftteenn kknnoowwnn aass ccoonntteexxtt ffrraammee rruulleess.. AAss aann eexxaammppllee,, aa ccoonntteexxtt ffrraammee rruullee mmiigghhtt ssaayy ssoommeetthhiinngg lliikkee:: • IIff aann aammbbiigguuoouuss//uunnkknnoowwnn wwoorrdd XX iiss pprreecceeddeedd bbyy aa ddeetteerrmmiinneerr aanndd ffoolllloowweedd bbyy aa nnoouunn,, ttaagg iitt aass aann aaddjjeeccttiivvee.. ddeett –– XX-- nn ==XX// aaddjj EEgg,, ““tthhee bbeeaauuttiiffuull llaaddyy”” • IInn aaddddiittiioonn ttoo ccoonntteexxttuuaall iinnffoorrmmaattiioonn,, mmaannyy ttaaggggeerrss uussee mmoorrpphhoollooggiiccaall iinnffoorrmmaattiioonn ttoo aaiidd iinn tthhee ddiissaammbbiigguuaattiioonn pprroocceessss.. OOnnee ssuucchh rruullee mmiigghhtt bbee :: IIff aann aammbbiigguuoouuss // uunnkknnoowwnn wwoorrdd eennddss iinn aann ––iinngg aanndd iiss pprreecceeddeedd bbyy aann aauuxxiilliiaarryy vveerrbb,, llaabbeell iitt aa vveerrbb.. eegg..”” HHaanneeeeff iiss ddooiinngg ssoommee wwoorrkk””
  • 19. IInn kkaasshhmmiirrii,, ““iiff aann aammbbiigguuoouuss//uunnkknnoowwnn wwoorrdd XX iiss ffoolllloowweedd bbyy ““uunn”” ,,““aass”” oorr ““aann”” ,,ttaagg iitt aass aa nnoouunn.. XX’’uunn== XX//nnoouunn eegg.. JJoohhnn’’uunn gghhaarr’’ee MMaahhrruukkhh’’aass aa::vv pphhoonnee FFaarrooooqq’’aann kkoorr eexxaamm ppaassss..
  • 20. • Rule based Taggers assign ttaaggss ttoo wwoorrddss iinn ttwwoo sstteeppss:: 11)) RRuunnnniinngg tthhee wwoorrddss tthhrroouugghh aa lleexxiiccoonn ccoommpplleettee wwiitthh PPOOSS ttaaggss aanndd aaddddiittiioonnaall mmoorrpphhoollooggiiccaall aanndd ssyynnttaaccttiicc ffeeaattuurreess aattttaacchheedd ttoo eeaacchh eennttrryy ((wwoorrdd sstteemm oorr aaffffiixx)) rreettuurrnniinngg aa lliisstt ooff ttaaggss ffoorr eeaacchh wwoorrdd.. 22)) AAppppllyyiinngg aa sseett ooff ccoonnssttrraaiinnttss ttoo eelliimmiinnaattee aallll tthhee wwrroonngg ttaaggss.. • EExxaammpplleess iinncclluuddee tthhee TTAAGGGGIITT pprrooggrraamm ((tthhee ffiirrsstt llaarrggee rruullee bbaasseedd TTaaggggeerr,, uusseedd ccoonntteexxtt--ppaatttteerrnn rruulleess)) uusseedd ttoo ttaagg tthhee oonnee mmiilllliioonn wwoorrdd BBrroowwnn CCoorrppuuss iinn 11997700’’ss aanndd tthhee mmoorree rreecceenntt BBrriillll TTaaggggeerr.. • TTAAGGGGIITT uusseedd aa sseett ooff 7711 ttaaggss aanndd 33330000 ddiissaammbbiigguuaattiioonn rruulleess.. TThheessee rruulleess ddiissaammbbiigguuaatteedd 7777%% ooff wwoorrddss iinn tthhee mmiilllliioonn--wwoorrdd BBrroowwnn UUnniivveerrssiittyy ccoorrppuuss..
  • 21. SSttoocchhaassttiicc PPOOSS TTaaggggiinngg • IInn ssttoocchhaassttiicc ttaaggggiinngg,, ttaaggss aarree aassssiiggnneedd bbyy aa ccoommppuutteerr pprrooggrraamm ((TTaaggggeerr)) oonn tthhee bbaassiiss ooff tthhee pprroobbaabbiilliittyy ooff aa ggiivveenn wwoorrdd hhaavviinngg aa ggiivveenn ttaagg iinn aa ggiivveenn ccoonntteexxtt.. TThhiiss pprroobbaabbiilliittyy iiss ccaallccuullaatteedd ffrroomm aa ccoorrppuuss ooff wwoorrdd wwhhiicchh hhaass aallrreeaaddyy bbeeeenn mmaannuuaallllyy ttaaggggeedd ((aa ttrraaiinniinngg ccoorrppuuss)).. • EExxaammpplleess iinncclluuddee tthhee TTaaggggeerrss bbaasseedd oonn tthhee HHiiddddeenn MMaarrkkoovv MMooddeell ((HHMMMM)),, ssuucchh aass tthhee oonnee pprrooppoosseedd ffoorr kkaasshhmmiirrii bbyy MMeehhddii,, 22000099..
  • 22. SSttoocchhaassttiicc PPOOSS TTaaggggiinngg • 11)) IInnppuutt::-- aa ssttrriinngg ooff wwoorrddss.. • EEgg..(( BBooookk tthhaatt fflliigghhtt)) • 22)) OOuuttppuutt::-- aa ssiinnggee bbeesstt ttaagg ffoorr eeaacchh wwoorrdd • EEgg.. (( bbooookk//VVBB tthhaatt//DDTT fflliigghhtt//NNNN )) • 33)) PPrroobblleemm ::-- rreessoollvvee aammbbiigguuiittyy >> ddiissaammbbiigguuaattiioonn.. • EEgg.. BBooookk (( hhaanndd mmee tthhaatt bbooookk bbooookk tthhaatt fflliigghhtt))
  • 23. WWhhaatt iiss PPOOSS TTaaggggiinngg ggoooodd ffoorr?? OOrr AApppplliiccaattiioonnss aanndd uusseess ooff TTaaggggiinngg PPOOSS TTaaggggiinngg iiss vveerryy iimmppoorrttaanntt ffrroomm aa ccoommppuuttaattiioonnaall ppeerrssppeeccttiivvee bbeeccaauussee iitt ccaann bbee ccoonnssiiddeerreedd aass aa bbaassiicc sstteepp iinn pprroovviiddiinngg tthhee oorrggaanniizzeedd iinnppuutt ffoorr aannyy ootthheerr hhiigghheerr lleevveell ccoommppuuttaattiioonnaall pprroocceessss.. HHoowweevveerr,, iittss uusseess ccaann bbee ppuutt iinn aa mmoorree oorrggaanniizzeedd wwaayy iinn tthhee ffoolllloowwiinngg mmaannnneerr;; 11))PPOOSS TTaaggggiinngg iiss iimmppoorrttaanntt ffoorr llaanngguuaaggee pprroocceessssiinngg bbeeccaauussee iitt ggiivveess uuss aa ssiiggnniiffiiccaanntt aammoouunntt ooff iinnffoorrmmaattiioonn aabboouutt tthhee wwoorrdd aanndd iittss nneeiigghhbboouurrss.. EEgg.. TTaaggsseettss ddiissttiinngguuiisshh bbeettwweeeenn ppoosssseessssiivvee pprroonnoouunnss ((mmyy,, yyoouurr,, hhiiss,, hheerr,, iittss)) aanndd ppeerrssoonnaall pprroonnoouunnss (( II,, yyoouu,, hhee,, mmee)) aanndd tthhiiss ddiissttiinnccttiioonn ccaann tteellll aa ssyysstteemm,, wwhhaatt wwoorrddss aarree lliikkeellyy ttoo ooccccuurr iinn iittss vviicciinniittyy.. PPoosssseessssiivvee pprroonnoouunnss aarree lliikkeellyy ttoo bbee ffoolllloowweedd bbyy aa nnoouunn aanndd ppeerrssoonnaall pprroonnoouunnss bbyy aa vveerrbb.. TThhiiss ccaann bbee vveerryy uusseeffuull iinn mmoosstt ooff tthhee llaanngguuaaggee pprroocceessssiinngg mmooddeellss..
  • 24. 2) The ppaarrtt ooff ssppeeeecchh ooff aa wwoorrdd ccaann aallssoo ggiivvee iinnffoorrmmaattiioonn aabboouutt tthhee pprroonnuunncciiaattiioonn ooff aa ppaarrttiiccuullaarr wwoorrdd.. eegg.. tthhee wwoorrdd ccoonntteenntt ((nnoouunn)) vvss ccoonntteenntt (( aaddjjeeccttiivvee)) aarree pprroonnoouunncceedd ddiiffffeerreennttllyy.. ((TThhee nnoouunn iiss pprroonnoouunncceedd CCOONNtteenntt //KKOONN--tteenntt// aanndd tthhee aaddjjeeccttiivvee ccoonnTTEENNTT //kkuuhhnn--TTEENNTT//wwiitthh tthhee ccaappiittaallss iinnddiiccaattiinngg ssttrreessss))
  • 25. 33)) PPOOSS TTaaggggiinngg iiss uusseeffuull ffoorr iinnffoorrmmaattiioonnaall rreettrriieevvaall.. SSiinnccee kknnoowwiinngg aa wwoorrdd’’ss ppaarrtt ooff ssppeeeecchh ccaann hheellpp ttoo tteellll uuss wwhhiicchh mmoorrpphhoollooggiiccaall aaffffiixxeess iitt ccaann ttaakkee.. 44)) PPOOSS TTaaggggiinngg iiss aallssoo uusseeffuull iinn ootthheerr iinnffoorrmmaattiioonn rreettrriieevvaall aapppplliiccaattiioonnss bbeeccaauussee iitt hheellppss iinn sseelleeccttiioonn ooff nnoouunnss oorr ootthheerr iimmppoorrttaanntt wwoorrddss ffrroomm aa ddooccuummeenntt..
  • 26. 5) Automatic PPOOSS TTaaggggeerrss ccaann aallssoo hheellpp iinn bbuuiillddiinngg aauuttoommaattiicc wwoorrdd sseennssee ddiissaammbbiigguuaattiinngg aallggoorriitthhmmss.. 66)) AAuuttoommaattiicc PPOOSS TTaaggggeerrss aarree aallssoo uusseedd iinn ddeevveellooppiinngg aaddvvaanncceedd AAuuttoommaattiicc SSppeeeecchh RReeccooggnniittiioonn ((AASSRR)) llaanngguuaaggee mmooddeellss.. 77)) PPOOSS aarree vveerryy oofftteenn uusseedd ffoorr ““ppaarrttiiaall ppaarrssiinngg”” eegg.. FFoorr qquuiicckkllyy ffiinnddiinngg nnaammeess oorr ootthheerr pphhrraasseess ffoorr iinnffoorrmmaattiioonn eexxttrraaccttiioonn aapppplliiccaattiioonnss.. 88)) IInn aaddddiittiioonn ttoo tthhee aabboovvee uusseess PPOOSS TTaaggggeerrss aarree vveerryy iimmppoorrttaanntt ffoorr lliinngguuiissttiicc rreesseeaarrcchh.. eegg,, iinn ffiinnddiinngg iinnssttaanncceess oorr ffrreeqquueenncciieess ooff aa ppaarrttiiccuullaarr ccoonnssttrruuccttiioonn iinn aa llaarrggee lliinngguuiissttiicc ccoorrppuuss//ccoorrppoorraa..