Ad Hoc Monitoring of Vocabulary Shifts over Time Tom Kenter, Melvin - PowerPoint PPT Presentation

Ad Hoc Monitoring of Vocabulary Shifts over Time Tom Kenter, Melvin Wevers, Pim Huijnen, Maarten de Rijke CIKM 2015 - October 2015 - Melbourne

Ad ¡hoc ¡monitoring ¡of ¡vocabulary ¡shi5s ¡ over ¡7me ¡ walkman ¡ ¡ ¡ ¡ iPod ¡ 1986 ¡ 2000 ¡ underlying ¡concept ¡ portable ¡audio ¡player ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Overview ¡ iPod ¡(2001) ¡ Ini7al ¡seed ¡set ¡ Our ¡system ¡ ¡ 1986-­‑1990 ¡ 1991-­‑1995 ¡ 1996-­‑2000 ¡ 2001-­‑2005 ¡ -­‑ ¡walkman, ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ -­‑ ¡iPod ¡ 10 ¡word ¡ -­‑ ¡walkmanII ¡ -­‑ ¡walkman ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ vocabularies ¡ ... ¡ ... ¡ ... ¡ ... ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Overview ¡ • Monitoring ¡vocabularies, ¡ not ¡literal ¡words ¡ iPod ¡(2001) ¡ • Ad ¡hoc ¡fashion ¡ Ini7al ¡seed ¡set ¡ • Substan7al ¡7me ¡span ¡ Our ¡system ¡ (1950-­‑1990) ¡ ¡ • Joint ¡work ¡with ¡historians ¡ 1986-­‑1990 ¡ 1991-­‑1995 ¡ 1996-­‑2000 ¡ 2001-­‑2005 ¡ -­‑ ¡walkman, ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ -­‑ ¡iPod ¡ 10 ¡word ¡ -­‑ ¡walkmanII ¡ -­‑ ¡walkman ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ vocabularies ¡ ... ¡ ... ¡ ... ¡ ... ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Challenges ¡ • The ¡original ¡seed ¡word ¡does ¡not ¡necessarily ¡survive ¡over ¡ 7me ¡ • The ¡underlying ¡concept ¡— ¡ portable ¡audio ¡player ¡— ¡might ¡ never ¡be ¡men7oned ¡ Concept ¡dri5 ¡ iPod ¡(2001) ¡ ¡ Ini7al ¡seed ¡set ¡ • You ¡have ¡to ¡to ¡adapt ¡ Our ¡system ¡ ¡ • You ¡should ¡not ¡adapt ¡too ¡much ¡ 1986-­‑1990 ¡ 1991-­‑1995 ¡ 1996-­‑2000 ¡ 2001-­‑2005 ¡ -­‑ ¡walkman, ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ -­‑ ¡iPod ¡ -­‑ ¡walkmanII ¡ -­‑ ¡walkman ¡ -­‑ ¡discman ¡ -­‑ ¡mp3-­‑player ¡ ... ¡ ... ¡ ... ¡ ... ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Vocabularies ¡from ¡sliding ¡7me ¡ windows ¡ 1980-­‑1989 ¡ word1, ¡ word2, ¡ .... ¡ 1980-­‑1989 ¡ seed ¡word ¡ word2vec ¡model ¡ Document ¡collec7on ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Vocabularies ¡from ¡sliding ¡7me ¡ windows ¡ 1979-­‑1988 ¡ word1, ¡ word2, ¡ .... ¡ 1980-­‑1989 ¡ 1979-­‑1988 ¡ word1, ¡ word2, ¡ word2vec ¡model ¡ .... ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Vocabularies ¡from ¡sliding ¡7me ¡ windows ¡ vocabulary at time t t = t + 1 expand to semantic graph prune with semantic space for time t +1 Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Vocabularies ¡from ¡sliding ¡7me ¡ windows ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Aggregate ¡over ¡vocabularies ¡ 1980-­‑1984 ¡ 1985-­‑1989 ¡ 1960-­‑1964 ¡ word1, ¡ word1, ¡ word1, ¡ Final ¡output ¡vocabularies ¡ word2, ¡ word2, ¡ word2, ¡ .... ¡ .... ¡ .... ¡ ... ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Adap7ve ¡method ¡ 1980-­‑1989 ¡ word1, ¡ word2, ¡ .... ¡ 1980-­‑1989 ¡ seed ¡word ¡ word2vec ¡model ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Adap7ve ¡method ¡ 1979-­‑1988 ¡ word1, ¡ word2, ¡ .... ¡ 1980-­‑1989 ¡ word1, ¡ 1979-­‑1988 ¡ word2, ¡ word2vec ¡model ¡ .... ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Non-­‑adap7ve ¡method ¡ 1980-­‑1989 ¡ word1, ¡ word2, ¡ .... ¡ 1980-­‑1989 ¡ seed ¡word ¡ word2vec ¡model ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Non-­‑adap7ve ¡method ¡ 1979-­‑1988 ¡ word1, ¡ word2, ¡ .... ¡ 1979-­‑1988 ¡ seed ¡word ¡ word2vec ¡model ¡ ¡ 1960 ¡ 1970 ¡ 1980 ¡ 1990 ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Evalua7on ¡ • Corpus ¡ 4 ¡decades ¡digi7zed ¡Dutch ¡newspapers ¡ • 21 ¡seed ¡sets ¡ • Pooling ¡approach ¡ • Manually ¡annotated ¡data ¡set ¡ Annotated ¡by ¡historians ¡ download ¡ • Dataset ¡is ¡publicly ¡available ¡ h_p://ilps.science.uva.nl/resources/shi5s/ ¡ ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡

Evalua7on ¡ Ad ¡Hoc ¡Monitoring ¡of ¡Vocabulary ¡Shi5s ¡over ¡Time ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Tom ¡Kenter, ¡Melvin ¡Wevers, ¡Pim ¡Huijnen, ¡Maarten ¡de ¡Rijke ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡CIKM ¡2015, ¡Melbourne, ¡Australia ¡ ¡