A n A n a l y s i s o f A c c e l e r a t o r - - PowerPoint PPT Presentation

SLIDE 1

A n A n a l y s i s

• f

A c c e l e r a t

• r

C

• u

p l i n g i n H e t e r

• g

e n e

• u

s A r c h i t e c t u r e s

C

• l

u mb i a U n i v e r s i t y C

• l

u mb i a U n i v e r s i t y E mi l i

• G

. C

• t

a P a

• l
• Ma

n t

• v

a n i G i u s e p p e D i G u g l i e l mo L u c a P . C a r l

• n

i

D A C ' 1 5 , S a n F r a n c i s c

• ,

C A , U S A

SLIDE 2

P

• s

t

• D

e n n a r d s c a l i n g a n d fi x e d p

• w

e r b u d g e t s a r e d r i v i n g d e s i g n s t

• w

a r d s p e c i a l i z a t i

• n

A c c e l e r a t

• r

s h a v e b e c

• me

b e c

• me

e s s e n t i a l f

• r

h i g h

• e

f fi c i e n c y s y s t e ms , e . g . S

• C

s

G e n e r a l i t y v s . E f fi c i e n c y

CPUs CMPs Many-cores Accelerators (ASICs) Generality Energy Efficiency 1 10 100 1000 DSPs, GPGPUs Specialization

SLIDE 3

O u r G

• a

l

O u r g

• a

l : t

• d

r a w

• b

s e r v a t i

• n

s a b

• u

t p e r f

• r

ma n c e , e f fi c i e n c y a n d p r

• g

r a mma b i l i t y

• f

a c c e l e r a t

• r

s w i t h d i f f e r e n t c

• u

p l i n g s T w

• ma

i n

• p

t i

• n

s w . r . t . C P U s :

• T

i g h t l y

• C
• u

p l e d ( T C A s )

• L
• s

e l y

• C
• u

p l e d ( L C A s ) A ma j

• r

t r a d e

• f

f i n a c c e l e r a t

• r

d e s i g n , s i n c e i t d e t e r mi n e s h

• w

me mo r y i s a c c e s s e d

A n a l y s i s

• f

A c c e l e r a t

• r

C

• u

p l i n g s

SLIDE 4

T i g h t l y

• C
• u

p l e d ( T C A s )

✔ N

i l i n v

• c

a t i

• n
• v

e r h e a d ( v i a I S A e x t e n s i

• n

s )

✔ N

• i

n t e r n a l s t

• r

a g e : d i r e c t a c c e s s t

• L

1 c a c h e

✗ L

i mi t e d p

• r

t a b i l i t y : d e s i g n h e a v i l y t i e d t

• C

P U

a . k . a . “ c

• p

r

• c

e s s

• r

mo d e l ”

SLIDE 5

L

• s

e l y

• C
• u

p l e d ( L C A s )

✔ G

• d

d e s i g n r e u s e : n

• C

P U

• s

p e c i fi c k n

• w

l e d g e

✗ F

i x e d s e t

• u

p c

• s

t s d u e t

• d

r i v e r i n v

• c

a t i

• n

a n d D MA

✔ F

r e e d

• m

t

• t

a i l

• r

p r i v a t e me mo r i e s ( s c r a t c h p a d s ) , e . g . p r

• v

i d i n g d i f f e r e n t b a n k s , p

• r

t s , a n d b i t w i d t h s

✗ S

c r a t c h p a d s r e q u i r e l a r g e a r e a e x p e n s e s

a . k . a . “ S

• C
• l

i k e mo d e l ”

SLIDE 6

L

• s

e l y

• C
• u

p l e d ( L C A s )

✔ G

• d

d e s i g n r e u s e : n

• C

P U

• s

p e c i fi c k n

• w

l e d g e

✗ F

i x e d s e t

• u

p c

• s

t s d u e t

• d

r i v e r i n v

• c

a t i

• n

a n d D MA

✔ F

r e e d

• m

t

• t

a i l

• r

p r i v a t e me mo r i e s ( s c r a t c h p a d s ) , e . g . p r

• v

i d i n g d i f f e r e n t b a n k s , p

• r

t s , a n d b i t w i d t h s

✗ S

c r a t c h p a d s r e q u i r e l a r g e a r e a e x p e n s e s

a . k . a . “ S

• C
• l

i k e mo d e l ”

T w

• fl

a v

• r

s :

• L

L C

• D

MA

• D

R A M- D MA

SLIDE 7

T a r g e t A p p l i c a t i

• n

s

[*] http://hpc.pnl.gov/PERFECT

• S

e v e n h i g h

• t

h r

• u

g h p u t a p p l i c a t i

• n

s f r

• m

t h e P E R F E C T B e n c h ma r k S u i t e [ * ]

SLIDE 8

A c c e l e r a t

• r

D e s i g n

• U

s e d H i g h

• L

e v e l S y n t h e s i s f

• r

p r

• d

u c t i v i t y

• Mo

s t e f f

• r

t i s

• n

t h e me mo r y s u b s y s t e m t

• e

x p l

• i

t p a r a l l e l i s m, i . e . a l a r g e n u mb e r

• f
• p

e r a t i

• n

s p e r c l

• c

k c y c l e

– Mo

s t a c c e l e r a t

• r

a r e a i s t h e r e f

• r

e me mo r y

SLIDE 9

E x p e r i me n t a l Me t h

• d
• l
• g

y

• F

u l l

• s

y s t e m s i mu l a t i

• n

r u n n i n g L i n u x

• I

n

• r

d e r e mb e d d e d

• l

i k e i 3 8 6 c

• r

e s

• D

e t a i l e d L e v e l

• 1

a n d L e v e l

• 2

c a c h e mo d e l s

• A

c c u r a t e D R A M s i mu l a t i

• n

w i t h D R A MS i m2

SLIDE 10

• L

a t e n c i e s f r

• m

R T L a r e b a c k

• a

n n

• t

a t e d i n t

• t

h e s i mu l a t

• r

( f

• r

T C A s ) a n d S y s t e mC ( L C A s )

• L

C A s : S y s t e mC a c c e l e r a t

• r

s i mu l a t i

• n

r u n i n p a r a l l e l w i t h t h e s i mu l a t

• r

, s y n c h r

• n

i z i n g e v e r y 1 c y c l e s

H e t e r

• g

e n e

• u

s S y s t e m S i mu l a t i

• n

I n p u t C c

• d

e S y s t e mC R T L O u t p u t A d d s p e c i a l i n s t r u c t i

• n

s

H i g h

• L

e v e l S y n t h e s i s T

• l

T C A s i mu l a t i

• n

L C A s i mu l a t i

• n

Wr i t e O S d r i v e r , a d d d r i v e r i n v

• c

a t i

• n

s

E x p e r i me n t a l Me t h

• d
• l
• g

y

SLIDE 11

S p e e d u p

• v

e r S

• f

t w a r e

• L

L C

• D

MA L C A > D R A M- D MA L C A > T C A

• R

a t i

• f

s c r a t c h p a d v s . i n p u t s i z e ma t t e r s , e . g . F F T

• D

R A M b a n d w i d t h b

• t

t l e n e c k

• n

a c c e l e r a t

• r

s w i t h c

• mmu

n i c a t i

• n

> > c

• mp

u t a t i

• n

, e . g . s

• r

t

SLIDE 12

P e r f

• r

ma n c e & E n e r g y

• L

L C

• D

MA L C A > D R A M- D MA L C A > T C A

• E

f fi c i e n c y g a p b e t w e e n L C A s d u e t

• d

i f f e r e n c e i n

• f

f

• c

h i p a c c e s s e s

• L

L C p

• l

l u t i

• n

s t u d y r e s u l t s i n p a p e r / p

• s

t e r

SLIDE 13

C

• n

c l u d i n g O b s e r v a t i

• n

s

• Wh

y L C A s > T C A s : T a i l

• r

e d , ma n y

• p
• r

t e d s c r a t c h p a d s a r e k e y t

• p

e r f

• r

ma n c e

– L

1 s c a n n

• t

p r

• v

i d e t h i s p a r a l l e l i s m ( a t m

• s

t 2 p

• r

t s ! )

• L

C A s b e s t p

• s

i t i

• n

e d t

• d

e l i v e r h i g h t h r

• u

g h p u t g i v e n n

• n
• t

r i v i a l i n p u t s a me n a b l e t

• c
• mp

u t a t i

• n

i n b u r s t s

– D

R A M b a n d w i d t h c a n l i mi t t h i s p

• t

e n t i a l

• P

r

• g

r a mmi n g L C A s i s n

• t

c

• n

c e p t u a l l y c

• mp

l e x

– O

p e r a t i n g S y s t e ms h a v e s i mp l e , w e l l

• d

e fi n e d i n t e r f a c e s f

• r

t h i s