Improving Performance and Cost in a Hyperconnected World - - PowerPoint PPT Presentation

▶
improving performance and cost in a hyperconnected world
SMART_READER_LITE
LIVE PREVIEW

Improving Performance and Cost in a Hyperconnected World - - PowerPoint PPT Presentation

Feb 08, 2024 168 likes •418 views

Improving Performance and Cost in a Hyperconnected World Georgios Smaragdakis Th The New Internet Google, Akamai, NeJlix Amazon, Global Transit / "Hyper

slide-1
SLIDE 1

Improving ¡Performance ¡and ¡Cost ¡in ¡ a ¡Hyperconnected ¡World ¡ ¡

Georgios ¡Smaragdakis ¡

slide-2
SLIDE 2

Global Internet Core Global Transit / National Backbones "Hyper Giants" Large Content, Consumer, Hosting CDN Customer IP Networks Regional / Tier2 Providers

IXP IXP ISP2 ISP1 IXP

2

Th The New Internet

Source: ¡Arbor ¡Networks ¡2010 ¡

New ¡core ¡of ¡interconnected ¡content ¡and ¡consumer ¡networks ¡[1,2] ¡ ¡

¡ ¡ ¡ ¡ ¡“HyperconnecGvity” ¡

Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡

[1] ¡ ¡“Internet ¡Interdomain ¡Traffic”, ¡Labovicz ¡et ¡al. ¡ ¡SIGCOMM ¡2010 ¡ [2] ¡ ¡“Anatomy ¡of ¡a ¡large ¡European ¡IXP”, ¡Ager ¡et ¡al. ¡SIGCOMM ¡2012 ¡

¡

2

slide-3
SLIDE 3

Global Internet Core Global Transit / National Backbones "Hyper Giants" Large Content, Consumer, Hosting CDN Customer IP Networks Regional / Tier2 Providers

IXP IXP ISP2 ISP1 IXP

3

Th The New Internet

Source: ¡Arbor ¡Networks ¡2010 ¡

Will ¡the ¡ISPs ¡conGnue ¡to ¡overprovision ¡their ¡networks? ¡

Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡

3

¡

Adjust ¡rouGng ¡or ¡peering ¡

  • ­‑ ¡Offline ¡process ¡
  • ­‑ ¡Oscilla5ons ¡[1] ¡

¡

Traffic ¡Engineering: ¡

[1] ¡ ¡“Internet ¡Traffic ¡Engineering ¡by ¡OpGmizing ¡OSPF ¡ ¡Weights”, ¡Fortz, ¡Thorup, ¡INFOCOM ¡2000 ¡

slide-4
SLIDE 4

Global Internet Core Global Transit / National Backbones "Hyper Giants" Large Content, Consumer, Hosting CDN Customer IP Networks Regional / Tier2 Providers

IXP IXP ISP2 ISP1 IXP

4

New Chal allenges

Source: ¡Arbor ¡Networks ¡2010 ¡

Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡

4

Movi ving Tar arget I : Popular ar Applicat ations, new CDN par arad adigms Movi ving Tar arget II : Bo Bottle ttlenecks s [1

[1] ]

[1] ¡ ¡“Improving ¡Performance ¡on ¡the ¡Internet”, ¡Leighton, ¡CACM ¡2009 ¡

slide-5
SLIDE 5

Global Internet Core Global Transit / National Backbones "Hyper Giants" Large Content, Consumer, Hosting CDN Customer IP Networks Regional / Tier2 Providers

IXP IXP ISP2 ISP1 IXP

5

New Chal allenges

Source: ¡Arbor ¡Networks ¡2010 ¡

Google, ¡ Akamai, ¡NeJlix ¡ RapidShare, ¡… ¡

5

Movi ving Tar arget I : Popular ar Applicat ations Movi ving Tar arget II : Bo Bottle ttlenecks s [1

[1] ]

[1] ¡ ¡“Improving ¡Performance ¡on ¡the ¡Internet”, ¡Leighton, ¡CACM ¡2009 ¡

When ¡ISPs ¡loose ¡the ¡control ¡and ¡moneGzaGon ¡of ¡their ¡network: ¡ ¡ “René ¡Obermann, ¡Deutsche ¡Telekom’s ¡chief ¡ ¡ execuGve, ¡said ¡Google ¡and ¡others ¡should ¡pay ¡ ¡ telecoms ¡groups ¡for ¡carrying ¡content ¡on ¡their ¡networks” ¡

slide-6
SLIDE 6

6

Content Distribution Chal allenges

Client Client CDN DNS CDN DNS

Internet Servi vice Provi vider r (IS (ISP) )

CDN Hos CDN Host t

1 ¡ 2 ¡ 3 ¡ 4 ¡ 5 ¡

User ¡ ¡ Mis-­‑locaGon ¡[1] ¡ ¡

[1] ¡ ¡“Comparing ¡DNS ¡Resolvers ¡in ¡the ¡Wild”, ¡Ager ¡et ¡al. ¡IMC ¡2010 ¡

6

Provi vider/ r/ 3rd

rd par

arty DN DNS

slide-7
SLIDE 7

7

Content Distribution Chal allenges

Client Client CDN DNS CDN DNS

Provi vider/ r/ 3rd

rd par

arty DN DNS

Internet Servi vice Provi vider r (IS (ISP) )

CDN Hos CDN Host t

1 ¡ 2 ¡ 3 ¡ 4 ¡ 5 ¡

User ¡ ¡ Mis-­‑locaGon ¡ ¡ Unawareness ¡

  • f ¡Network ¡

Boelenecks ¡[1] ¡ ¡

[1] ¡ ¡“Moving ¡Beyond ¡End-­‑to-­‑end ¡Path ¡ ¡InformaGon ¡to ¡OpGmize ¡CDN ¡Performance”, ¡Krishnan, ¡Madhyasta, ¡

Srinivasan, ¡Krishnamurthy, ¡Anderson, ¡Gao, ¡ ¡IMC ¡2009 ¡

7

slide-8
SLIDE 8

8

Content Distribution Chal allenges

Client Client CDN DNS CDN DNS

Provi vider/ r/ 3rd

rd par

arty DN DNS

Internet Servi vice Provi vider r (IS (ISP) )

CDN Hos CDN Host t

1 ¡ 2 ¡ 3 ¡ 4 ¡ 5 ¡

User ¡ ¡ Mis-­‑locaGon ¡ ¡ Unawareness ¡

  • f ¡Network ¡

Boelenecks ¡

8

Diminishing ¡ Revenue ¡of ¡“Bytes ¡ Delivery” ¡

¡

¡

slide-9
SLIDE 9

9

Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡

Gran and Chal allenge

¡

¡

9

[1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡

Client Client

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host Cong Conges ested ed pat ath Ho Host A A Ho Host D D Ho Host B B Ho Host C C

slide-10
SLIDE 10

10

Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡

Gran and Chal allenge

¡

¡

10

[1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡

Client Client

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host Cong Conges ested ed pat ath Ho Host A A Ho Host D D Ho Host B B Ho Host C C

¡ Requirements: ¡

  • ­‑ ¡Online ¡Process ¡
  • ­‑ ¡No ¡RouGng ¡Re-­‑configuraGon ¡
  • ­‑ ¡No ¡AddiGonal ¡Investments/Possible ¡OpEx ¡ReducGon ¡
  • ­‑ ¡Transparent ¡to ¡end-­‑users ¡

¡

slide-11
SLIDE 11

11

Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡

Gran and Chal allenge

¡

¡

11

[1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡

Client Client

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host Cong Conges ested ed pat ath Ho Host A A Ho Host D D Ho Host B B Ho Host C C

¡ ¡ ¡ ¡A ¡new ¡paradigm ¡for ¡negoGaGons ¡and ¡collaboraGon! ¡ ¡ E.g. ¡joint ¡products, ¡rethinking ¡VoD, ¡rewards ¡if ¡your ¡behave ¡nicely. ¡ ¡ ¡A ¡new ¡blue ¡print ¡to ¡design ¡networks! ¡ ¡ E.g., ¡making ¡decisions: ¡backbones ¡or ¡colocaGon/exchange ¡points? ¡ ¡ Is ¡remote ¡peering ¡enough? ¡

win-­‑win ¡situaGon ¡

slide-12
SLIDE 12

12

Ne Network D Diver ersi sity o y of CD f CDN Ser N Server ers s

¡

  • ­‑ ¡Significant ¡Network ¡Diversity ¡of ¡servers ¡over ¡Gme ¡for ¡top ¡content ¡

providers, ¡especially ¡during ¡peak ¡Gme ¡

  • ­‑ ¡Typically, ¡a ¡significant ¡number ¡(3 ¡to ¡10) ¡of ¡different ¡paths ¡to ¡access ¡the ¡

content ¡are ¡available ¡

12

slide-13
SLIDE 13

13

ISP-CDN Collab aborat ation

Client Client External al DNS

Provi vider/ r/ 3rd

rd par

arty DN DNS

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host

1 ¡ 2 ¡ 5 ¡ 3 ¡ 6 ¡ 4 ¡ 7 ¡ 7 ¡

Ho Host 1 1 Ho Host 2 2

[Avai ailab able Servers], CPU load ad,

TTL TTL (

(seco second nds) s) Full ¡View ¡of ¡ the ¡ISP ¡ Network ¡ and ¡user ¡ locaGon ¡

13

Network ¡ ¡ Monitor ¡

slide-14
SLIDE 14

14

ISP-CDN Collab aborat ation

Client Client External al DNS Provi vider r DN DNS

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host

1 ¡ 2 ¡ 5 ¡ 3 ¡ 6 ¡ 4 ¡ 7 ¡ 7 ¡

Ho Host1 Ho Host2 2 Ho Host3 Ho Host4

Ho Host 1 1 Ho Host 2 2

14

Network ¡ ¡ Monitor ¡ Ho Host2 2 Ho Host1 Ho Host3 Ho Host4

slide-15
SLIDE 15

15

ISP-CDN Collab aborat ation

Client Client External al DNS Provi vider r DN DNS

Internet Servi vice Provi vider r (IS (ISP) )

Ho Host

1 ¡ 2 ¡ 5 ¡ 3 ¡ 6 ¡ 4 ¡ 7 ¡ 7 ¡

Ho Host1 Ho Host2 2 Ho Host3 Ho Host4

Ho Host2 2 Ho Host1 Ho Host4 Ho Host3

Ho Host 1 1 Ho Host 2 2

15

Network ¡ ¡ Monitor ¡ Ho Host2 2 Ho Host1 Ho Host3 Ho Host4

slide-16
SLIDE 16

16

Network Function Virtual alizat ation

IS ISP

CDN CDN

IS ISP Re Resource Br Brok

  • ker[1

[1] ]

[1] ¡ ¡“Pushing ¡CDN-­‑ISP ¡CollaboraGon ¡to ¡the ¡Limit”, ¡Frank ¡et ¡al. ¡CCR ¡, ¡July ¡2013 ¡

Deman and Request Avai ailab able Locat ations Slice Specificat ations Slice Allocat ation Sl Slice Co ce Commi mmit

Full ¡View ¡of ¡the ¡ISP ¡ Network ¡& ¡ Resources, ¡and ¡user ¡ ¡ ¡ ¡ locaGon ¡

Gener Generic ic Applian ance

16

slide-17
SLIDE 17

17

Network Function Virtual alizat ation

IS ISP

CDN CDN

IS ISP Re Resource Br Brok

  • ker[1

[1] ]

[1] ¡ ¡“Pushing ¡CDN-­‑ISP ¡CollaboraGon ¡to ¡the ¡Limit”, ¡Frank ¡et ¡al. ¡CCR ¡, ¡July ¡2013 ¡

Deman and Request Avai ailab able Locat ations Slice Specificat ations Slice Allocat ation Sl Slice Co ce Commi mmit

Full ¡View ¡of ¡the ¡ISP ¡ Network ¡& ¡ Resources, ¡and ¡user ¡ ¡ ¡ ¡ locaGon ¡

Gener Generic ic Applian ance

17

¡

¡

Short-­‑5me ¡scales: ¡ ¡

  • n-­‑demand ¡CDN ¡deployment ¡

¡ Long-­‑5me ¡scales: ¡ ¡

Placement ¡of ¡CDN ¡servers ¡(Gogle ¡GGC, ¡NeMlix ¡ OpenConnect,..), ¡Licensed ¡CDN ¡(Akamai, ¡Edgecast,..) ¡

slide-18
SLIDE 18

18

Network Load ad Bal alan ancing

Clients in P Clients in PoP

  • P

Ho Host A A Ho Host B B Ho Host C C

18

slide-19
SLIDE 19

19

Network Load ad Bal alan ancing

Clients in P Clients in PoP

  • P

Ho Host A A Ho Host B B Ho Host C C

19

slide-20
SLIDE 20

Network Load ad Bal alan ancing

Clients in P Clients in PoP

  • P

Ho Host A A Ho Host B B Ho Host C C

20

slide-21
SLIDE 21

Network Load ad Bal alan ancing

Clients in P Clients in PoP

  • P

Ho Host A A Ho Host B B Ho Host C C

21

Ne New Ho Host

slide-22
SLIDE 22

22

An Opportunity for r Better r Traf affic Engineering

¡

  • ­‑ ¡Moving ¡traffic ¡from ¡congested ¡link ¡to ¡less ¡congested ¡
  • ­‑ ¡Improvement ¡in ¡the ¡networks ¡capacity ¡(10-­‑20%) ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡
  • ­‑ ¡Performance ¡improvements ¡in ¡mulGple ¡metrics ¡

22

Local ality Improvement

slide-23
SLIDE 23

Summary ¡

  • ­‑ A ¡large ¡frac5on ¡of ¡the ¡Internet ¡traffic ¡is ¡due ¡to ¡a ¡

small ¡number ¡of ¡CDNs ¡

  • ­‑ Opportunity ¡for ¡joint ¡CDN ¡deployment ¡and ¡ ¡

¡ ¡ ¡ ¡co-­‑opera5on ¡by ¡ISP ¡and ¡CDN ¡by ¡u5lizing: ¡ ¡ ¡ ¡ ¡ ¡ ¡(1) ¡server ¡and ¡path ¡diversity ¡ ¡ ¡ ¡ ¡ ¡(2) ¡knowledge ¡about ¡the ¡network ¡and ¡user ¡loca5on ¡ ¡ ¡ ¡ ¡ ¡(3) ¡flexible ¡server ¡deployment ¡

  • ­‑ Benefits ¡for ¡all ¡involved ¡par5es ¡including ¡CDNs, ¡ISPs, ¡

end-­‑users ¡

23

slide-24
SLIDE 24

24

Than ank you!

ht http:/ p://www.smar arag agdak akis.net/resear arch/Collab aborat ation

24