Pipeline Status at the Start of Cycle 4 Crystal Brogan 1 - - PowerPoint PPT Presentation

1

Pipeline Status at the Start of Cycle 4

Crystal Brogan

2

Calibration ¡Pipeline ¡Performance

No ¡Intervention Intervention Tweaked Sent ¡to ¡Manual

Cycle ¡3

• Calibration ¡Pipeline ¡in ¡production ¡use ¡for ¡

Cycle ¡2 ¡and ¡3 ¡for ¡standard ¡observing ¡ modes

• As ¡of: ¡July ¡8, ¡2016 ¡(EPT):
• 1214 ¡OUSs ¡Fully ¡Observed
• 250 ¡Waiting ¡for ¡processing
• 258 ¡in ¡process
• Pipeline ¡expected ¡to ¡calibrate ¡83%
• 786 ¡sent ¡to ¡the ¡pipeline
• 223 ¡remain ¡to ¡be ¡sent
• In ¡process ¡excluded ¡from ¡diagram.
• Actual ¡Pipeline ¡Failures
• (i.e. ¡Crash) ¡~ ¡0%

Cycle ¡2

3

Calibration ¡Manual ¡Intervention

Outlier ¡Amplitude Bad ¡Antenna Outlier ¡Phase Cycle 2 Cycle 3

• Reasons ¡for ¡Manual ¡

intervention ¡captured ¡by ¡ SACMs.

• For ¡cycle ¡3 ¡focused ¡on ¡Bad ¡

Antenna.

• Outlier ¡Amplitude ¡was ¡hoped ¡

to ¡be ¡addressed ¡by:

– Improvements ¡to ¡online ¡system – Application ¡of ¡online ¡flags

• Heuristics ¡for ¡addressing ¡

Outlier ¡Amplitude ¡being ¡ developed ¡by ¡EU-­‑ARC ¡(Italy)

4

Weblog

• Primary interface from pipeline to stakeholders:

– PI (Represented by PLWG) – Commissioning Team (PLWG, Tiger Teams) – Data Reducers (JAO, ARCs)

• Currently presents a hierarchical view allowing very deep

investigation.

– Commissioning view

• Not optimized for review speed

– Topics page intended to provide overview for this purpose. – Project has not prioritized heuristics and specifications.

• Really needed to get experience before designing this.

5

Applycal weblog ¡plots: 1 ¡row ¡per ¡calibrator ¡per ¡execution 1 ¡column ¡per ¡spw Note ¡size ¡of ¡ scroll ¡bar. ¡Takes ¡ 62 ¡clicks ¡to ¡get ¡to ¡ bottom ¡of ¡page

6

ALMA Imaging Pipeline Status: Cycle 3

Pipeline Manual

• Quantitatively not suitable for delivery:

– Incomplete continuum subtraction – Errors in depth of cleaning – Lack of clean masking

• Informative imaging (target for Cycle 3)

delivered.

• Initial pipeline results were promising at

qualitative level.

T

• prepare for Cycle 4, effort mobilized

(led by NA) in Jan 2016 to improve the requirements, heuristics, and testing Note other ARCs also make significant contributions, for example EA leads all SD efforts

7

Imaging ¡Pipeline: ¡June ¡1 ¡2016

After ¡Major ¡Rework ¡of ¡Procedure

Cycle 3R4 Cycle 4R1

8

Imaging Pipeline Procedure (Cycle 4)

• 1. Calibrator ¡continuum ¡images ¡per ¡spw from ¡pipeline ¡calibrated ¡MS
• 2. Split ¡out ¡target ¡into ¡new ¡MS
• 3. Create ¡Science ¡Target ¡dirty ¡cubes ¡per ¡spw
• 4. Find ¡the ¡continuum ¡regions ¡using ¡the ¡dirty ¡cubes ¡(findContinuum)
• 5. UV ¡continuum ¡subtraction ¡(hif_uvcontfit / ¡hif_uvcontsub) ¡fitorder=1
• continuum ¡in ¡DATA ¡column;Ϳ ¡continuum ¡subtracted ¡in ¡CORRECTED ¡column
• 6. Cleaned ¡aggregate ¡continuum ¡of ¡each ¡Science ¡Target ¡using ¡findcont channels
• 7. Cleaned ¡per ¡spw continuum ¡of ¡each ¡Science ¡Target ¡using ¡findcont channels
• 8. Make ¡cleaned ¡cubes ¡from ¡Science ¡Target ¡continuum ¡subtracted ¡data
• Images made using revamped tclean task
• All continuum images multi-frequency synthesis
• For fractional bandwidth > 10% (Bands 3 & 4 presently) uses nterms=2 to

account for spectral index variations

• Science

Target images made to 20% Power Point of Primary Beam Response

• Cubes made per channel, all (non-flagged) channels in LSRK
• Cleans are

“light” due to present lack of automatic clean masking and self-calibration 4 x predicted rms noise x dynamic range modifier

9

Per spw continuum images… these should look alike! Example Weblog (Cycle 3 project)

10

Peak Intensity of cubes… look there is a bright

• utflow…

11

Each image has a “Details” page

12

Key continuum subtraction diagnostic tool: MOM0_FC Moment 0 image created from the channels identified as continuum in the “continuum-subtracted” cube Line residual present when this image should be noise like

13

Original findCont result Refined findCont result… after this change MOM0_FC is noise like

14

Development T

• pics (terse summary of 5 year plan)

Heuristics

• Automatic Clean Masking
• Improved Imaging (inc. self cal)
• Flagging improvements (inc. target flagging)
• Calibration improvements (low SNR)
• Observing Strategies (Phase Diff)
• Observing Modes (Polarization, Spectral Survey)
• Image Combination (Group Processing)
• Incorporating imaging intents from PI
• QA Score Improvements
• Improved weblog review (speed)

15

Timeline ¡for ¡Rollout

Month ¡of ¡year Cycle ¡N Cycle N+1 Dec ¡-­‑ Feb Mar ¡-­‑ Apr CyN R1 ¡testing; ¡punchlist May Obsmode f2f; ¡PLWG ¡f2f: Cy ¡N+1 “wish ¡list” June July CyN R2 ¡testing Obsmode doc ¡review ¡& ¡telecons Aug CyN E2e ¡testing Obsmode doc ¡review ¡& ¡telecons Sept Acceptance; Finalize ¡CyN user ¡ documentation; ¡PL ¡public release Oct ¡-­‑ Nov Cy ¡N+1 ¡New ¡Reqt & ¡heuristics definition

Implications: ¡

• We ¡have ¡to ¡set ¡Cycle ¡N+1 ¡PL ¡requirements ¡& ¡priorities ¡before ¡

we ¡even ¡understand ¡behavior ¡of ¡Cycle ¡N ¡PL!

• We ¡have ¡to ¡develop ¡new ¡heuristics ¡for ¡Cy ¡N+1 ¡when ¡we’ve ¡
• nly ¡had ¡1-­‑2mo ¡in-­‑use ¡experience ¡with ¡Cy ¡N ¡PL!

16

Other ¡Imaging ¡Challenges

• Till ¡now, ¡(manual) ¡imaging ¡QA2 ¡based ¡on ¡1 ¡source, ¡maybe ¡even ¡

1 ¡spw. ¡No ¡cubes ¡if ¡only ¡continuum ¡SG.

– Execution ¡times ¡much ¡longer – Calibration ¡weblog ¡multiples ¡by ¡number ¡of ¡executions ¡x ¡number ¡ calibrators ¡& ¡sources – Imaging ¡weblog ¡multiples ¡by ¡number ¡of ¡SPW ¡x ¡number ¡of ¡sources – How ¡many ¡need ¡to ¡be ¡Quality ¡Assured? ¡What ¡if ¡not ¡relevant ¡to ¡PI ¡ science ¡goal? ¡

• PLWG ¡has ¡concentrated ¡efforts ¡on ¡detailed ¡diagnostic ¡

measures, ¡but ¡not ¡much ¡effort ¡has ¡been ¡available ¡for:

– Higher ¡level ¡Organization ¡of ¡information – Identifying ¡most ¡useful ¡scores ¡

• These ¡all ¡take ¡research ¡and ¡lots ¡of ¡testing!
• We ¡leave ¡analysis ¡of ¡these ¡products ¡to ¡community ¡led ¡

development ¡(i.e. ¡ADMIT, ¡MAGIX, ¡Source ¡Finding ¡etc)

17

www.nrao.edu science.nrao.edu public.nrao.edu

The National Radio Astronomy Observatory is a facility of the National Science Foundation

• perated under cooperative agreement by Associated Universities, Inc.