Analyzing ¡Brains, ¡Bodies ¡and ¡ Big ¡Data ¡using ¡SIFT ¡Features ¡
Matthew Toews, PhD ¡
ETS, Montréal, March 9, 2016
Analyzing Brains, Bodies and Big Data using SIFT Features - - PowerPoint PPT Presentation
Analyzing Brains, Bodies and Big Data using SIFT Features Matthew Toews, PhD ETS, Montral, March 9, 2016 Hello! University of British Columbia 1996-2001, B. Eng McGill University 2001-2008 PhD,
ETS, Montréal, March 9, 2016
McGill University 2001-2008 PhD, Tal Arbel Recalage par information mutuel Harvard Medical School 2009 – 2015 Postdoc, William Wells University of British Columbia 1996-2001, B. Eng
2 ¡
3 ¡
4 ¡
(2) Visual cortext: « orientation columns » (1) Retina: « center-surround » Joe ¡Sakic
5 ¡
(2) Gradient orientation histograms (1) Scale-space: Laplacian-of-Gaussian
Joe ¡Sakic
6 ¡
Distinctive Image Features from Scale-Invariant Keypoints
DisDncDve ¡Image ¡Features ¡from ¡Scale-‑Invariant ¡Keypoints ¡
7 ¡
Geometry ¡
Appearance ¡ ¡
8 ¡
Distinctive Image Features from Scale-Invariant Keypoints
8 ¡
Condi2onal ¡Independence ¡ Bayes ¡Theorem ¡
Reference frame (non-observable)
Local ¡feature ¡
i
Transform ¡relaDng ¡feature ¡and ¡OCI ¡ geometries: ¡ Geometrical ¡transform ¡ (similarity) ¡
i i
2 1 f
2 1
Posterior ¡Distribu2on ¡
2 1
10 ¡
i
i
11 ¡
i i
Model ¡ New ¡Image ¡ Detection: Maximum A Posteriori (MAP)
2 1 f
DetecDon, ¡LocalizaDon ¡and ¡Sex ¡ClassificaDon ¡of ¡Faces ¡ from ¡Arbitrary ¡Viewpoints ¡and ¡Under ¡Occlusion ¡
M ¡Toews ¡and ¡T ¡Arbel, ¡ IEEE ¡TransacDons ¡on ¡Pagern ¡Analysis ¡and ¡Machine ¡Intelligence, ¡31(9), ¡pp. ¡1567-‑1581, ¡2009. ¡
DetecDon, ¡LocalizaDon ¡and ¡Sex ¡ClassificaDon ¡of ¡Faces ¡ from ¡Arbitrary ¡Viewpoints ¡and ¡Under ¡Occlusion ¡
M ¡Toews ¡and ¡T ¡Arbel, ¡ IEEE ¡TransacDons ¡on ¡Pagern ¡Analysis ¡and ¡Machine ¡Intelligence, ¡31(9), ¡pp. ¡1567-‑1581, ¡2009. ¡
Female Male
1 ) | ( ) | ( < Female f p Male f p
i i
Rose: Blue:
1 ) | ( ) | ( > Female f p Male f p
i i
14 ¡
DetecDon, ¡LocalizaDon ¡and ¡Sex ¡ClassificaDon ¡of ¡Faces ¡ from ¡Arbitrary ¡Viewpoints ¡and ¡Under ¡Occlusion ¡
M ¡Toews ¡and ¡T ¡Arbel, ¡ IEEE ¡TransacDons ¡on ¡Pagern ¡Analysis ¡and ¡Machine ¡Intelligence, ¡31(9), ¡pp. ¡1567-‑1581, ¡2009. ¡
15 ¡
p(f )
Feature f
A ¡StaDsDcal ¡Parts-‑based ¡Appearance ¡Model ¡of ¡Anatomical ¡Variability ¡
M ¡Toews ¡and ¡T ¡Arbel, ¡ IEEE ¡TransacDons ¡on ¡Medical ¡Imaging, ¡Vol. ¡26(4), ¡pp. ¡497-‑508, ¡2007. ¡ ¡
16 ¡
Feature ¡variability ¡
Feature-‑based ¡Model ¡ Ac2ve ¡Appearance ¡Model ¡
A ¡StaDsDcal ¡Parts-‑based ¡Appearance ¡Model ¡of ¡Anatomical ¡Variability ¡
M ¡Toews ¡and ¡T ¡Arbel, ¡ IEEE ¡TransacDons ¡on ¡Medical ¡Imaging, ¡Vol. ¡26(4), ¡pp. ¡497-‑508, ¡2007. ¡ ¡
17 ¡
18 ¡
¡
¡ ¡
¡
How ¡big ¡data ¡is ¡possible? ¡
19 ¡
20 ¡
– Tina ¡Kapur: ¡ExecuDve ¡Director ¡
– Neurosurgery ¡: ¡Alexendra ¡Golby, ¡MD ¡ – Prostate ¡: ¡Clare ¡Tempany, ¡MD ¡ – Guidance ¡: ¡Noby ¡Hata, ¡PhD ¡ – ComputaDon ¡: ¡William ¡Wells, ¡PhD ¡
22 ¡
ENTRANCE ¡INTO ¡AMIGO ¡ MRI ¡ PET/CT ¡ OR ¡ ANGIO ¡
Courtesy ¡Balasz ¡Lengyel, ¡BWH ¡
23 ¡
Precise ¡Localiza-on ¡of ¡Tumor ¡Boundaries ¡for ¡Therapy ¡ +ultrasound ¡ + ¡navigaDon ¡ +mass ¡spect ¡ 5700 ¡Square ¡Feet ¡ ¡ Launched ¡in ¡2011 ¡
Lowe ¡D. ¡ ¡Dis2nc2ve ¡Image ¡Features ¡from ¡Scale-‑Invariant ¡Keypoints. ¡Intl ¡J ¡ Computer ¡Vision, ¡2004. ¡
[2]Toews ¡M, ¡Wells ¡W. ¡SIFT-‑Rank: ¡Ordinal ¡Descriptors ¡for ¡Invariant ¡Feature ¡Correspondence. ¡ ¡ Interna2onal ¡Conference ¡on ¡Computer ¡Vision ¡and ¡Pa^ern ¡Recogni2on ¡(CVPR), ¡2009. ¡pp ¡172-‑177. ¡ [1] ¡Toews ¡M., ¡Wells ¡III ¡W.M., ¡Collins ¡D.L., ¡Arbel ¡T. ¡Feature-‑Based ¡Morphometry. ¡Int ¡Conf ¡Med ¡Image ¡ Comput ¡Comput ¡Assist ¡Interv. ¡2009 ¡Sep;12(Pt ¡2):109-‑16. ¡PMID: ¡20426102. ¡PMCID: ¡PMC3854925. ¡
x: 3D location σ: Scale Appearance Geometry
MRI, ¡CT: ¡100s ¡to ¡1000s ¡of ¡features ¡per ¡scan ¡ Brain ¡MRI ¡ Lung ¡CT ¡
– Train ¡from ¡large ¡sets ¡of ¡images, ¡labels ¡
– ~200 ¡B ¡per ¡feature ¡
– InformaDve ¡image ¡summary ¡
– Matching ¡features ¡across ¡images ¡ – Image ¡registraDon ¡
– Feature ¡atlas ¡formaDon ¡ – Represent ¡scans ¡by ¡(e.g. ¡1K ¡bit) ¡vector ¡
Toews ¡M., ¡Wells ¡III ¡W.M. ¡Efficient ¡and ¡Robust ¡Model-‑to-‑Image ¡Alignment ¡using ¡3D ¡Scale-‑ Invariant ¡Features. ¡Med ¡Image ¡Anal. ¡2013 ¡Apr;17(3):271-‑82. ¡PMID: ¡23265799. ¡PMCID: ¡
Toews ¡M., ¡Wells ¡III ¡W.M. ¡Efficient ¡and ¡Robust ¡Model-‑to-‑Image ¡Alignment ¡using ¡3D ¡Scale-‑ Invariant ¡Features. ¡Med ¡Image ¡Anal. ¡2013 ¡Apr;17(3):271-‑82. ¡PMID: ¡23265799. ¡PMCID: ¡
33
MNI BITE database 82 correspondences Feature extraction: ~25 seconds per image Feature matching: < 1 second Interpolation: ~25 seconds
34
Before registration After registration
35
Robust spatio-temporal registration of 4D cardiac ultrasound sequences Jørn Bersvendsen, Matthew Toews, Adriyana Danudibroto, William M. Wells, Stig Urheim, Raúl San José Estépar, Eigil Samset. SPIE Medical Imaging, 2016. 9790-14.
36
Toews ¡M., ¡Wells ¡III ¡W.M., ¡Collins ¡D.L., ¡Arbel ¡T. ¡Feature-‑Based ¡Morphometry. ¡Int ¡Conf ¡Med ¡ Image ¡Comput ¡Comput ¡Assist ¡Interv. ¡2009 ¡Sep;12(Pt ¡2):109-‑16. ¡PMID: ¡20426102. ¡PMCID: ¡
39 ¡
hgp://www.maghewtoews.com/projects/oasis/ ¡
Toews ¡M., ¡Wells ¡III ¡W.M., ¡Zöllei ¡L. ¡A ¡Feature-‑based ¡Developmental ¡Model ¡of ¡the ¡Infant ¡Brain ¡in ¡ Structural ¡MRI. ¡Int ¡Conf ¡Med ¡Image ¡Comput ¡Comput ¡Assist ¡Interv. ¡2012 ¡Oct;15(Pt ¡2):204-‑11. ¡ PMID: ¡23286050. ¡PMCID: ¡PMC4009075. ¡
Invariant ¡Feature-‑based ¡Alignment ¡of ¡Volumetric ¡Mul2-‑modal ¡Images ¡ ¡ ¡M. ¡Toews, ¡L. ¡Zöllei, ¡W.M. ¡Wells ¡III, ¡Image ¡Processing ¡in ¡Medical ¡Imaging, ¡2013, ¡pp. ¡25-‑36, ¡2013 ¡
1) Positive Correlation 2) Negative Correlation Model: Local Intensity Correlations
0 ¡ 200 ¡ 400 ¡ 600 ¡ 800 ¡ 1000 ¡ 1200 ¡ 0 ¡ 500 ¡ 1000 ¡ 1500 ¡ 2000 ¡ 2500 ¡ 3000 ¡ 3500 ¡
Images ¡(1-‑5 ¡per ¡subject, ¡~700 ¡subjects) ¡ Feature ¡Correspondences ¡
Many ¡local ¡feature ¡correspondences, ¡different ¡subjects ¡… ¡? ¡ Unpublished ¡work ¡with ¡Chris2an ¡Wachinger ¡
0 ¡ 200 ¡ 400 ¡ 600 ¡ 800 ¡ 1000 ¡ 1200 ¡ 0 ¡ 500 ¡ 1000 ¡ 1500 ¡ 2000 ¡ 2500 ¡ 3000 ¡ 3500 ¡
Images ¡(1-‑5 ¡per ¡subject, ¡~700 ¡subjects) ¡ Feature ¡Correspondences ¡
Many ¡local ¡feature ¡correspondences, ¡different ¡subjects ¡… ¡? ¡ Same ¡Subject! ¡
Toews ¡M, ¡San ¡Jose ¡Estepar ¡R, ¡et ¡al., ¡Wells ¡W. ¡A ¡Feature-‑based ¡Approach ¡to ¡Big ¡Data ¡Analysis ¡of ¡ Medical ¡Images. ¡Informa2on ¡Processing ¡in ¡Medical ¡Imaging ¡(IPMI) ¡2015 ¡
Toews ¡M, ¡San ¡Jose ¡Estepar ¡R, ¡et ¡al., ¡Wells ¡W. ¡A ¡Feature-‑based ¡Approach ¡to ¡Big ¡Data ¡Analysis ¡of ¡ Medical ¡Images. ¡Informa2on ¡Processing ¡in ¡Medical ¡Imaging ¡(IPMI) ¡2015 ¡
Toews ¡M, ¡San ¡Jose ¡Estepar ¡R, ¡et ¡al., ¡Wells ¡W. ¡A ¡Feature-‑based ¡Approach ¡to ¡Big ¡Data ¡Analysis ¡of ¡ Medical ¡Images. ¡Informa2on ¡Processing ¡in ¡Medical ¡Imaging ¡(IPMI) ¡2015 ¡
Wachinger ¡C, ¡Toews ¡M, ¡Golland ¡P, ¡Wells ¡W. ¡Keypoint ¡Transfer ¡Segmenta2on. ¡ Informa2on ¡Processing ¡in ¡Medical ¡Imaging ¡(IPMI) ¡2015. ¡
51 ¡
52 ¡
MZ ¡Twin ¡ (%100 ¡DNA ¡shared) ¡ Non-‑Twin ¡Sibling, ¡ 50% ¡DNA ¡shared ¡ Distance: ¡% ¡of ¡shared ¡nearest ¡ neighbor ¡correspondences. ¡ ¡ VerDces ¡in ¡NN ¡graph ¡across ¡ subjects ¡closely ¡resemble ¡ geneDc ¡links. ¡ Test ¡ Subject ¡
Toews ¡M, ¡Wells ¡W. ¡How ¡Are ¡Siblings ¡Similar? ¡How ¡Similar ¡Are ¡Siblings? ¡Large-‑Scale ¡Imaging ¡Gene2cs ¡ Using ¡Local ¡Image ¡Features. ¡Interna2onal ¡Symposium ¡on ¡Biomedical ¡Imaging ¡(ISBI) ¡2016. ¡
NN ¡methods ¡approach ¡opDmality ¡ as ¡the ¡number ¡of ¡data ¡-‑> ¡∞ ¡ ¡ ¡ ¡ ¡ E.g. ¡Anatomical ¡accuracy ¡of ¡NN ¡ correspondences ¡between ¡brain ¡
classificaDon,” ¡IEEE ¡Trans. ¡Inf. ¡Theory, ¡13(1), ¡pp. ¡ 21–27, ¡1967. ¡
Toews ¡M, ¡Wells ¡W. ¡How ¡Are ¡Siblings ¡Similar? ¡How ¡Similar ¡Are ¡Siblings? ¡Large-‑Scale ¡Imaging ¡Gene2cs ¡ Using ¡Local ¡Image ¡Features. ¡Interna2onal ¡Symposium ¡on ¡Biomedical ¡Imaging ¡(ISBI) ¡2016. ¡
¡ ¡ Neuroimage ¡Analysis ¡Center ¡ ¡ Nac.spl.harvard.edu ¡ P41EB015902 ¡ William ¡Wells, ¡Ron ¡Kikinis, ¡Raul ¡San ¡Jose ¡Estepar ¡ ¡ ¡ Na2onal ¡Center ¡For ¡Image ¡Guided ¡Therapy ¡ www.ncigt.org ¡ P41EB015898 ¡ Tina ¡Kapur, ¡Claire ¡Tempany ¡ ¡ ¡ Na2onal ¡Ins2tute ¡for ¡Biomedical ¡Imaging ¡and ¡Bioengineering ¡ ¡ ¡ ¡ École ¡de ¡Techologie ¡Supérieure ¡ Ahmad ¡Chaddad, ¡ChrisDan ¡Derossiers, ¡Eric ¡Granger ¡ ¡ ¡