❚❤❡ t♦♣♦❧♦❣✐❝❛❧ ❢❛❝❡ ♦❢ r❡❝♦♠♠❡♥❞❛t✐♦♥✳ ❊r✇❛♥ ▲❡ ▼❡rr❡r✱ ■♥r✐❛
- ✐❧❧❡s ❚ré❞❛♥✱ ▲❆❆❙✴❈◆❘❙
t - - PowerPoint PPT Presentation
t rt r rrr r s r
❚❤❡ t♦♣♦❧♦❣✐❝❛❧ ❢❛❝❡ ♦❢ r❡❝♦♠♠❡♥❞❛t✐♦♥✳ ❊r✇❛♥ ▲❡ ▼❡rr❡r✱ ■♥r✐❛
■♥♣✉t✿ ✉s❡r ❛❝t✐♦♥s✴❞❛t❛✳ ❆r❜✐tr❛r② ♣r♦❝❡ss✐♥❣✿ ♦✉t♣✉t✴r❡s✉❧ts ❯s❡rs ❝❛♥♥♦t ❛❝❝❡ss t❤❡ ❞❛t❛✱ ❤✐st♦r②✱ ❛❧❣♦r✐t❤♠✳✳✳ ❚r✉st ❣✐✈❡♥ t♦ t❤❡ r❡♠♦t❡ s❡r✈✐❝❡✴❛❧❣♦r✐t❤♠✱
✇❤✐❧❡ ✐t ❤❛s ❜✐❣ ✐♥t❡r❡st ✐♥ ♠❛♥✐♣✉❧❛t✐♥❣ t❤❡ ♦✉t♣✉ts ✭❡✳❣✳✱ ❛❞s✮
◆♦✇❛❞❛②s✿ ❞❡❢❛✉❧t ♣r❡❞✐❝t✐♦♥ ❜② ♠♦❞❡❧s → s❝♦r❡ → ❞❡❝✐s✐♦♥ ❉❛t❛✿ t❤♦✉s❛♥❞s ♦❢ ❢❛❝t♦rs✱ ❞♦ ②♦✉ ❦♥♦✇✴✉♥❞❡rst❛♥❞ t❤❡♠ ❛❧❧❄
✶
✶✳ ❉❡❡♣❳♣❧♦r❡ ❅ ❙❖❙P ✷✵✶✼
❊①♣❧❛✐♥❛❜✐❧✐t②✿ ❣♦♦❞ ♦♥❧② ✐❢ ②♦✉ ❛❝❝❡ss t❤❡ ❛❧❣♦r✐t❤♠ ❧♦❝❛❧❧②✦
✷
❚r❛♥s♣❛r❡♥❝②✿ ✏♣❧❡❛s❡ tr✉st ♠❡ ■ ❛♠ ❝❧❡❛♥✑
✸
✷✳ ▲■▼❊✿ ✧❲❤② ❙❤♦✉❧❞ ■ ❚r✉st ❨♦✉❄✧✿ ❊①♣❧❛✐♥✐♥❣ t❤❡ Pr❡❞✐❝t✐♦♥s ♦❢ ❆♥② ❈❧❛ss✐✜❡r✱ ✷✵✶✻ ✸✳ ❤tt♣s✿✴✴✇✇✇✳❣♦✉✈❡r♥❡♠❡♥t✳❢r✴❛r❣✉♠❡♥t❛✐r❡✴❧❡✲❣♦✉✈❡r♥❡♠❡♥t✲♣✉❜❧✐❡✲❧❡✲❝♦❞❡✲❞❡s✲❛❧❣♦r✐t❤♠❡s✲❞❡✲♣❛r❝♦✉rs✉♣
❊①♣❧❛✐♥❛❜✐❧✐t②✿ ❣♦♦❞ ♦♥❧② ✐❢ ②♦✉ ❛❝❝❡ss t❤❡ ❛❧❣♦r✐t❤♠ ❧♦❝❛❧❧②✦
✷
❚r❛♥s♣❛r❡♥❝②✿ ✏♣❧❡❛s❡ tr✉st ♠❡ ■ ❛♠ ❝❧❡❛♥✑
✸
✷✳ ▲■▼❊✿ ✧❲❤② ❙❤♦✉❧❞ ■ ❚r✉st ❨♦✉❄✧✿ ❊①♣❧❛✐♥✐♥❣ t❤❡ Pr❡❞✐❝t✐♦♥s ♦❢ ❆♥② ❈❧❛ss✐✜❡r✱ ✷✵✶✻ ✸✳ ❤tt♣s✿✴✴✇✇✇✳❣♦✉✈❡r♥❡♠❡♥t✳❢r✴❛r❣✉♠❡♥t❛✐r❡✴❧❡✲❣♦✉✈❡r♥❡♠❡♥t✲♣✉❜❧✐❡✲❧❡✲❝♦❞❡✲❞❡s✲❛❧❣♦r✐t❤♠❡s✲❞❡✲♣❛r❝♦✉rs✉♣
✹
✹✳ ■♥✈❡st✐❣❛t✐♥❣ ❆❞ ❚r❛♥s♣❛r❡♥❝② ▼❡❝❤❛♥✐s♠s ✐♥ ❙♦❝✐❛❧ ▼❡❞✐❛✿ ❆ ❈❛s❡ ❙t✉❞② ♦❢ ❋❛❝❡❜♦♦❦✬s ❊①♣❧❛♥❛t✐♦♥s✱ ◆❉❙❙ ✷✵✶✽
✹
✹✳ ■♥✈❡st✐❣❛t✐♥❣ ❆❞ ❚r❛♥s♣❛r❡♥❝② ▼❡❝❤❛♥✐s♠s ✐♥ ❙♦❝✐❛❧ ▼❡❞✐❛✿ ❆ ❈❛s❡ ❙t✉❞② ♦❢ ❋❛❝❡❜♦♦❦✬s ❊①♣❧❛♥❛t✐♦♥s✱ ◆❉❙❙ ✷✵✶✽
❚❤❡ ❜♦✉♥❝❡r ♣r♦❜❧❡♠✦ ✺
✺✳ ❚❤❡ ❜♦✉♥❝❡r ♣r♦❜❧❡♠✿ ❝❤❛❧❧❡♥❣❡s ❢♦r r❡♠♦t❡ ❡①♣❧❛✐♥❛❜✐❧✐t②✱ ❛r❳✐✈ ✷✵✶✾
t✇❡❛❦ ❝r❛❢t❛❜❧❡ ✐♥♣✉t s✉❜♠✐t t♦ t❤❡ ❜❧❛❝❦✲❜♦① ❝♦❧❧❡❝t r❡s✉❧ts ✐❢ ❡♥♦✉❣❤ t♦ ❝♦♥❝❧✉❞❡ ♦♥ ❤②♣♦t❤❡s✐s✿ r❡t✉r♥ ❧♦♦♣❀
❇❯❚ ❛ss✉♠✐♥❣ t❤❛t t❤❡ ❜❧❛❝❦✲❜♦① ❝❛♥ ❜❡ ❛❞✈❡rs❛r✐❛❧ ❆◆❉ t❤❛t t❤❡ ♥✉♠❜❡r ♦❢ s✉❜♠✐ss✐♦♥s ♠✉st ❜❡ s♠❛❧❧
t✇❡❛❦ ❝r❛❢t❛❜❧❡ ✐♥♣✉t s✉❜♠✐t t♦ t❤❡ ❜❧❛❝❦✲❜♦① ❝♦❧❧❡❝t r❡s✉❧ts ✐❢ ❡♥♦✉❣❤ t♦ ❝♦♥❝❧✉❞❡ ♦♥ ❤②♣♦t❤❡s✐s✿ r❡t✉r♥ ❧♦♦♣❀
❇❯❚ ❛ss✉♠✐♥❣ t❤❛t t❤❡ ❜❧❛❝❦✲❜♦① ❝❛♥ ❜❡ ❛❞✈❡rs❛r✐❛❧ ❆◆❉ t❤❛t t❤❡ ♥✉♠❜❡r ♦❢ s✉❜♠✐ss✐♦♥s ♠✉st ❜❡ s♠❛❧❧
❋r♦♠ ✉s❡r✲❝♦♥tr♦❧ ♦❢ ❛❧❣♦r✐t❤♠s t♦ ❛❧❣♦r✐t❤♠✐❝✲❝♦♥tr♦❧ ❍✉❣❡ ✐♠♣❛❝t✱ ❝❧♦s❡ t♦ ♥♦ t♦♦❧s t♦❞❛② t♦ ❛ss❡ss t❤✐s ❲❡ ♥❡❡❞ ✉s❡r✲s✐❞❡❞ ❛✉❞✐t ❛❧❣♦r✐t❤♠s
❇❧❡♥❞ ♦❢ s❡❝✉r✐t②✱ ❞❛t❛ s❝✐❡♥❝❡✱ ❜❡❤❛✈✐♦✉r❛❧ t❤❡♦r②✳✳✳
❘❡❝♦♠♠❡♥❞❡rs✿ ✜❧t❡r✐♥❣ t♦♦❧s ❢♦r ✐t❡♠s Pr❡❞✐❝t ✉s❡r t❛st❡s ❢♦r ✐t❡♠s ❘❡t✉r♥s t❤❡ ♠♦st ❧✐❦❡❧② ♣r❡❢❡rr❡❞ ✐t❡♠s
ecount vcount 200 400 600 800 1500 2000 2500 3000 4000 5000 5.0 5.5 6.0 6.5
Crawl Number Value
✸✸ ❞❛②s ♦❢ ②♦✉t✉❜❡ ❤♦✉r❧② ❝r❛✇❧✐♥❣✳ E(|V (Gt) ∩ V (Gt+✶)|) = ✼✹.✼%
❲✐t❤ ❝♦♦❦✐❡ ❲✐t❤♦✉t ❝♦♦❦✐❡
❲✐t❤ ❝♦♦❦✐❡ ❲✐t❤♦✉t ❝♦♦❦✐❡
❉✐✣❝✉❧t t♦ ❞❡✜♥❡ P♦❧✐t✐❝❛❧ ✭s♦❢t ❝❡♥s♦rs❤✐♣✮ ❊❝♦♥♦♠✐❝❛❧ ✭♠❛①✐♠✐s❡ ✐♥❝♦♠❡✮ ❖♣❡r❛t✐♦♥❛❧ ✭s❡r❡♥❞✐♣✐t②✮ ❖✉r ❞❡✜♥✐t✐♦♥✿ ❇✐❛s✐♥❣ ❡❞❣❡s❂ r❡✇✐r✐♥❣ t❤❡ ❣r❛♣❤ ♦❢ r❡❝♦♠♠❡♥❞❛t✐♦♥s ❖❜s❡r✈❛t✐♦♥ ✶ ❇✐❛s❡❞ ❡❞❣❡s t❛♥❣✐❜❧② ✐♠♣❛❝t t❤❡ ❣r❛♣❤ str✉❝t✉r❡ ❖❜s❡r✈❛t✐♦♥ ✷ ■t ✐s ♣♦ss✐❜❧❡ t♦ ❞❡t❡❝t s✉❝❤ ❜✐❛s✳
✶✼ ♥♦r♠❛❧ r❡❝♦♠♠❡♥❞❛t✐♦♥s ✷ ✧❘❡❝♦♠♠❡♥❞❡❞ ❢♦r ②♦✉✧
k = ✶✼ ♥♦r♠❛❧ r❡❝♦♠♠❡♥❞❛t✐♦♥s k′ = ✷ ✧❘❡❝♦♠♠❡♥❞❡❞ ❢♦r ②♦✉✧
❙❤♦rt ❧✐♥❦s ↔ ✧❧♦❝❛❧✐t②✧ ✧❍♦♠♦♣❤✐❧②✧ ▲♦♥❣ ✧r❛♥❞♦♠✧ ❧✐♥❦s ✇❡❛❦ t✐❡s
❙❤♦rt ❧✐♥❦s ↔ ✧❧♦❝❛❧✐t②✧ ✧❍♦♠♦♣❤✐❧②✧ ▲♦♥❣ ✧r❛♥❞♦♠✧ ❧✐♥❦s ↔ ✇❡❛❦ t✐❡s v
0e+00 1e+07 2e+07 3e+07 4e+07 1 2 3 4 5 6 7 8 9 10 11 12 13 14 hops Count Graph Unbiased Biased
❖❜❥❡❝t✐✈❡✿ t✉♥❡ t❤❡ ❧❡✈❡❧ ♦❢ ❜✐❛s ✐♥tr♦❞✉❝❡❞ ❜② t❤❡ ♦♣❡r❛t♦r
d
✐t❡♠s ❢❡❛t✉r❡s ✵ ✿ ■♥❞❡♣❡♥❞❡♥t ♦✉t♣✉ts✱ ✧♠❛①✐♠✉♠ ❜✐❛s✧ ✿ ◆♦ ❜✐❛s
❖❜❥❡❝t✐✈❡✿ t✉♥❡ t❤❡ ❧❡✈❡❧ ♦❢ ❜✐❛s ✐♥tr♦❞✉❝❡❞ ❜② t❤❡ ♦♣❡r❛t♦r
d
d′
✐t❡♠s ❢❡❛t✉r❡s ✵ ✿ ■♥❞❡♣❡♥❞❡♥t ♦✉t♣✉ts✱ ✧♠❛①✐♠✉♠ ❜✐❛s✧ ✿ ◆♦ ❜✐❛s
❖❜❥❡❝t✐✈❡✿ t✉♥❡ t❤❡ ❧❡✈❡❧ ♦❢ ❜✐❛s ✐♥tr♦❞✉❝❡❞ ❜② t❤❡ ♦♣❡r❛t♦r
d
d′ iRR′
✐t❡♠s ❢❡❛t✉r❡s iRR′ = ✵ ✿ ■♥❞❡♣❡♥❞❡♥t ♦✉t♣✉ts✱ ✧♠❛①✐♠✉♠ ❜✐❛s✧ iRR′ = d = d′ ✿ ◆♦ ❜✐❛s
0e+00 2e+07 4e+07 1 2 3 4 5 6 7 8 9 10 11 12 hops Count Graph Unbiased Biased
iRR′ = ✵ → ← iRR′ = d
0e+00 2e+07 4e+07 1 2 3 4 5 6 7 8 9 10 11 12 hops Count Graph Unbiased Biased
❚♦② ♠♦❞❡❧
0e+00 1e+07 2e+07 3e+07 4e+07 1 2 3 4 5 6 7 8 9 10 11 12 13 14 hops Count Graph Unbiased Biased
❨❚ ❞❛t❛s❡t ❚❤❡ r❡♠♦✈❛❧ ♦❢ ✶✵% ❧✐♥❦s ❤❛s ❛ ❞r❛st✐❝ ✐♠♣❛❝t ♦♥ ♣❛t❤ ❧❡♥❣t❤ ❞✐str✐❜✉t✐♦♥ ⇒ ✐♠♣♦rt❛♥t ❧✐♥❦s ✭✇rt ❤♦♣ ❞✐st❛♥❝❡✮ ⇒ ❇❡t✇❡❡♥♥❡ss ❝❡♥tr❛❧✐t② s❤♦✉❧❞ ❞♦✿ cB(e) =
σ(s, t|e) σ(s, t) ∝ P(e ∈ Biased)
0.00 0.25 0.50 0.75 1.00 0.00 0.25 0.50 0.75 1.00 FPR+TPR TPR iRR' 1 2 3 4
▼♦st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r ▲❡❛st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r
0.00 0.25 0.50 0.75 1.00 0.00 0.25 0.50 0.75 1.00 FPR+TPR TPR iRR' 1 2 3 4
▼♦st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r ▲❡❛st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r
0.00 0.25 0.50 0.75 1.00 0.00 0.25 0.50 0.75 1.00 FPR+TPR TPR iRR' 1 2 3 4
▼♦st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r ▲❡❛st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r
0.00 0.25 0.50 0.75 1.00 0.00 0.25 0.50 0.75 1.00 FPR+TPR TPR iRR' 1 2 3 4
▼♦st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r ▲❡❛st ♣r♦❜❛❜❧② ❜✐❛s❡❞ ❛❝❝♦r❞✐♥❣ t♦ ❝❧❛ss✐✜❡r
0.00 0.25 0.50 0.75 1.00 25 50 75 100 FPR+TPR TPR Heuristic edgeBet thMax random
❊①❛♠♣❧❡ ❛♣♣❧✐❝❛t✐♦♥✿ ❜✐❛s ❞❡t❡❝t✐♦♥
❇✐❛s ✧❜r❡❛❦s✧ t❤❡ r❡❝♦♠♠❡♥❞❡r ❧♦❝❛❧✐t② ◆♦t s♦ ❜❛❞ ❤❡✉r✐st✐❝ ❯s❡r✲❧♦❝❛❧ ♦❜s❡r✈❛t✐♦♥ ✦
❚❤❡ t♦♣♦❧♦❣✐❝❛❧ ❢❛❝❡ ♦❢ r❡❝♦♠♠❡♥❞❛t✐♦♥✱ ❈♦♠♣❧❡① ◆❡t✇♦r❦s✱ ✷✵✶✼✳ ✧❘❡✈❡rs❡ ❡♥❣✐♥❡❡r✐♥❣✧ r❡♠♦t❡ ❜❧❛❝❦ ❜♦①❡s ✳✳✳ ❉✐✣❝✉❧t ♠♦❞❡❧ ❜✉t✳✳✳ ♦♥❧② ❛♥s✇❡rs t♦ ❛ ❢❡✇ q✉❡st✐♦♥s