A SPARSE-GRAPH-CODED FILTER BANK APPROACH TO MINIMUM-RATE - - PowerPoint PPT Presentation

A ¡SPARSE-­‑GRAPH-­‑CODED ¡FILTER ¡BANK ¡APPROACH ¡ TO ¡MINIMUM-­‑RATE ¡SPECTRUM-­‑BLIND ¡SAMPLING ¡ ¡

Orhan ¡Ocal, ¡Xiao ¡Li ¡and ¡Kannan ¡Ramchandran ¡ UC ¡Berkeley ICASSP ¡2016 ¡ SHANGHAI

Outline

• Problem ¡statement ¡and ¡prior ¡work ¡
• Our ¡contribution ¡
• Sparse-­‑graph-­‑coded ¡filter ¡bank ¡
• Signal ¡recovery ¡as ¡decoding ¡on ¡sparse ¡graph ¡codes ¡
• Numerical ¡validation

2

• Complex ¡valued ¡
• Band ¡limited ¡
• Sparse ¡frequency ¡support

Signal ¡model

3

example

Sampling ¡signals ¡with ¡sparse ¡spectra

4

Sampling ¡signals ¡with ¡sparse ¡spectra

Nyquist ¡rate ¡fM ¡works

4

Sampling ¡signals ¡with ¡sparse ¡spectra

Nyquist ¡rate ¡fM ¡works Landau ¡[1967] ¡

• Know ¡the ¡frequency ¡support ¡
• Sample ¡at ¡rate ¡fL (Landau ¡rate)

4

Sampling ¡signals ¡with ¡sparse ¡spectra

Nyquist ¡rate ¡fM ¡works Landau ¡[1967] ¡

• Know ¡the ¡frequency ¡support ¡
• Sample ¡at ¡rate ¡fL (Landau ¡rate)

Sampling ¡not ¡knowing ¡the ¡frequency ¡support ¡(spectrum-­‑blind)

4

Some ¡prior ¡work ¡on ¡spectrum-­‑blind ¡sampling

• Feng ¡and ¡Bresler ¡[1996] ¡
• Semi-­‑blind ¡sampling ¡at ¡rate ¡fL

5

Some ¡prior ¡work ¡on ¡spectrum-­‑blind ¡sampling

• Feng ¡and ¡Bresler ¡[1996] ¡
• Semi-­‑blind ¡sampling ¡at ¡rate ¡fL
• Lu ¡and ¡Do ¡[2008] ¡
• 2fL ¡is ¡necessary ¡and ¡sufficient ¡for ¡adversarial ¡setting

5

Some ¡prior ¡work ¡on ¡spectrum-­‑blind ¡sampling

• Feng ¡and ¡Bresler ¡[1996] ¡
• Semi-­‑blind ¡sampling ¡at ¡rate ¡fL
• Lu ¡and ¡Do ¡[2008] ¡
• 2fL ¡is ¡necessary ¡and ¡sufficient ¡for ¡adversarial ¡setting
• Mishali ¡and ¡Eldar ¡[2009] ¡
• Compressive ¡sensing ¡framework ¡
• Constructive ¡scheme ¡cannot ¡match ¡2fL

5

Our ¡contributions

• Minimum-­‑rate ¡spectrum-­‑blind ¡sampling ¡
• Coding ¡theory ¡and ¡sampling ¡theory ¡
• Capacity-­‑approaching ¡codes ¡for ¡erasure ¡channels ¡ ¡
• Filter ¡banks ¡that ¡approach ¡Landau ¡rate ¡for ¡sampling

6

Sampling ¡theory Coding ¡theory Our ¡approach

Main ¡result

7

Remarks ¡

• Under ¡genericity ¡assumptions ¡fs = fL
• Computational ¡cost ¡O(fL) ¡independent ¡of ¡fM
• First ¡work ¡to ¡achieve ¡this ¡
• Can ¡be ¡extended ¡to ¡handle ¡sampling ¡noise

Main ¡result

7

Filter ¡bank ¡for ¡sampling

8

Filter ¡bank ¡for ¡sampling

8

Filter ¡bank ¡for ¡sampling

• Sample ¡the ¡signal ¡at ¡rate ¡B

8

• Filter ¡and ¡then ¡sample ¡at ¡rate ¡B

Filter ¡bank ¡for ¡sampling

• Sample ¡the ¡signal ¡at ¡rate ¡B

8

H(f)

• Filter ¡and ¡then ¡sample ¡at ¡rate ¡B

Filter ¡bank ¡for ¡sampling

• Sample ¡the ¡signal ¡at ¡rate ¡B

8

H(f)

• Filter ¡and ¡then ¡sample ¡at ¡rate ¡B

Filter ¡bank ¡for ¡sampling

• Sample ¡the ¡signal ¡at ¡rate ¡B

8

H(f)

• Filter ¡and ¡then ¡sample ¡at ¡rate ¡B

Filter ¡bank ¡for ¡sampling

• Sample ¡the ¡signal ¡at ¡rate ¡B

8

H(f)

Filter ¡bank ¡for ¡sampling

9

Aggregate ¡sampling ¡rate: , ¡Nyquist ¡rate ¡for ¡x(t)

‘Sparse-­‑graph-­‑coded’ ¡filter ¡bank

10

m ¡filters ¡ N ¡bands

‘Sparse-­‑graph-­‑coded’ ¡filter ¡bank

10

m ¡filters ¡ N ¡bands

‘Sparse-­‑graph-­‑coded’ ¡filter ¡bank

10

where m ¡filters ¡ N ¡bands

matrix

Example ¡— ¡sparse ¡graph ¡underlying ¡the ¡measurements

11

A C D B E F

Example ¡— ¡sparse ¡graph ¡underlying ¡the ¡measurements

11

A C D B E F

Example ¡— ¡sparse ¡graph ¡underlying ¡the ¡measurements

11

Sparse ¡bipartite ¡graph A C D B E F

`

12

A C D B E F

`

12

visual ¡cleaning ¡for ¡presentation: ¡
 remove ¡edges ¡that ¡connect ¡to ¡non-­‑active ¡bands A C D B E F

`

12

visual ¡cleaning ¡for ¡presentation: ¡
 remove ¡edges ¡that ¡connect ¡to ¡non-­‑active ¡bands A C D B E F

Example ¡— ¡peeling

13

Measurement ¡classification ¡ zero-­‑ton: ¡ ¡ ¡ ¡no ¡signal ¡ single-­‑ton: ¡no ¡aliasing ¡ multi-­‑ton: ¡ ¡aliasing

A C D B E F

Example ¡— ¡peeling

13

Measurement ¡classification ¡ zero-­‑ton: ¡ ¡ ¡ ¡no ¡signal ¡ single-­‑ton: ¡no ¡aliasing ¡ multi-­‑ton: ¡ ¡aliasing

A C D B E F

Example ¡— ¡peeling

13

Measurement ¡classification ¡ zero-­‑ton: ¡ ¡ ¡ ¡no ¡signal ¡ single-­‑ton: ¡no ¡aliasing ¡ multi-­‑ton: ¡ ¡aliasing

A C D B E F

Example ¡— ¡peeling

13

Measurement ¡classification ¡ zero-­‑ton: ¡ ¡ ¡ ¡no ¡signal ¡ single-­‑ton: ¡no ¡aliasing ¡ multi-­‑ton: ¡ ¡aliasing

A C D B E F

Example ¡— ¡peeling

14

Assume ¡a ¡mechanism: ¡

identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡(here ¡B ¡and ¡F) ¡and ¡ maps ¡them ¡to ¡which ¡bands ¡they ¡ came ¡from ¡(here ¡1 ¡and ¡4 ¡resp.)

Measurement ¡classification ¡ zero-­‑ton: ¡ ¡ ¡ ¡no ¡signal ¡ single-­‑ton: ¡no ¡aliasing ¡ multi-­‑ton: ¡ ¡aliasing

bands channels A C D B E F

Example ¡— ¡peeling

15

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from ¡

• utput:

channel ¡B: ¡(red, ¡index ¡= ¡1) ¡ channel ¡F: ¡(blue, ¡index ¡= ¡4)

A C D B E F bands channels

Example ¡— ¡peeling

16

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from ¡

• utput:

peel ¡from ¡channels ¡they ¡alias ¡into!

channel ¡B: ¡(red, ¡index ¡= ¡1) ¡ channel ¡F: ¡(blue, ¡index ¡= ¡4)

A C D B E F bands channels

Example ¡— ¡peeling

17

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from

A C D B E F bands channels

Example ¡— ¡peeling

18

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from ¡

• utput:

channel ¡D: ¡(green, ¡index ¡= ¡8) ¡ channel ¡E: ¡(cyan, ¡index ¡= ¡5)

A C D B E F bands channels

Example ¡— ¡peeling

19

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from ¡

• utput:

channel ¡D: ¡(green, ¡index ¡= ¡8) ¡ channel ¡E: ¡(cyan, ¡index ¡= ¡5)

peel ¡from ¡channels ¡they ¡alias ¡into!

A C D B E F bands channels

Example ¡— ¡peeling

20

mechanism: ¡ identifies ¡which ¡channels ¡have ¡ no ¡aliasing ¡and ¡maps ¡them ¡to ¡ which ¡bands ¡they ¡came ¡from

signal ¡is ¡completely ¡recovered!

A C D B E F bands channels

Construction ¡of ¡the ¡sparse-­‑graph ¡code

• Designed ¡through ¡capacity-­‑

approaching ¡sparse-­‑graph ¡codes ¡

• Connect ¡each ¡band ¡to ¡channels ¡at ¡

random ¡according ¡to ¡a ¡carefully ¡ chosen ¡degree ¡distribution ¡

• Asymptotically, ¡number ¡of ¡channels ¡

equals ¡to ¡number ¡of ¡active ¡bands

21

bands channels

Peeling ¡in ¡discrete-­‑time ¡domain

22

A C D B E F frequency ¡domain time ¡domain discrete ¡index ¡n continuous ¡index ¡f perform ¡the ¡peeling ¡on
 discrete-­‑time ¡samples

Realizing ¡the ¡mechanism

Identify ¡which ¡channels ¡have ¡no ¡aliasing ¡and ¡map ¡them ¡to ¡bands

23

fM fM magnitude phase phase ¡stairs identifies ¡blue ¡band same ¡magnitude ¡response
 ‘stairs’ ¡phase ¡response

Sketch ¡of ¡proof

24

Number ¡of ¡bands ¡N

Numerical ¡experiment

25

Output ¡from ¡two ¡sample ¡channels true ¡signal ¡ ¡ ¡ ¡ ¡estimates Input ¡spectrum ¡and ¡time ¡domain ¡signal

Concluding ¡remarks

• Minimum-­‑rate ¡spectrum-­‑blind ¡sampling ¡through ¡designing ¡a ¡

filter ¡bank ¡guided ¡by ¡sparse-­‑graph ¡codes ¡

• First ¡work ¡to ¡connect ¡sampling ¡theory ¡with ¡coding ¡theory

26

Future ¡work

• Robustifying ¡the ¡algorithm ¡against ¡non-­‑idealities ¡
• realizable ¡filters ¡
• measurement ¡noise

References

• H. ¡J. ¡Landau, ¡“Necessary ¡density ¡conditions ¡for ¡sampling ¡and ¡interpolation ¡of ¡

certain ¡entire ¡functions,” ¡Acta ¡Math., ¡vol. ¡117, ¡pp. ¡37–52, ¡February ¡1967. ¡

• M. ¡Mishali ¡and ¡Y. ¡C. ¡Eldar, ¡“Blind ¡Multiband ¡Signal ¡Reconstruction: ¡

Compressed ¡Sensing ¡for ¡Analog ¡Signals,” ¡in ¡IEEE ¡Trans. ¡Signal ¡Process., ¡vol. ¡ 57, ¡no. ¡3, ¡pp. ¡993-­‑1009, ¡March ¡2009. ¡

• P. ¡Feng ¡and ¡Y. ¡Bresler, ¡“Spectrum-­‑blind ¡minimum-­‑rate ¡sampling ¡and ¡

reconstruction ¡of ¡multiband ¡signals,” ¡in ¡Proc. ¡IEEE ¡int. ¡Conf. ¡Acoust. ¡Speech ¡ and ¡Sig. ¡Process., ¡Atlanta, ¡GA, ¡IEEE, ¡vol. ¡3, ¡pp. ¡1689-­‑-­‑1692, ¡May ¡1996. ¡

• Xiao ¡Li, ¡S. ¡Pawar ¡and ¡K. ¡Ramchandran, ¡‘Sub-­‑linear ¡time ¡compressed ¡sensing ¡

using ¡sparse-­‑graph ¡codes,” ¡in ¡Proc. ¡IEEE ¡Int. ¡Symp. ¡Inf. ¡Theory, ¡Hong ¡Kong, ¡

• pp. ¡1645-­‑1649, ¡June ¡2015. ¡
• Y. ¡M. ¡Lu ¡and ¡M. ¡N. ¡Do, ¡“A ¡Theory ¡for ¡Sampling ¡Signals ¡From ¡a ¡Union ¡of ¡

Subspaces,” ¡in ¡IEEE ¡Trans. ¡Signal ¡Process., ¡vol. ¡56, ¡no. ¡6, ¡pp. ¡2334-­‑2345, ¡June ¡ 2008.

27

Implementation ¡of ¡filters

28

fM fM magnitude phase phase ¡stairs lowpass ¡filter