CONCURRENT COLLECTIONS 2 5/24/11 Concurrent Collec9ons - - PowerPoint PPT Presentation

CONCURRENT ¡COLLECTIONS ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

1 ¡

Acknowledgements ¡

• Slides ¡and ¡material ¡from ¡
• Kathleen ¡Knobe ¡(Intel) ¡
• Vivek ¡Sarkar ¡(Rice ¡University) ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

2 ¡

CnC ¡– ¡Concurrent ¡Collec9ons ¡

• Declara9vely ¡specify ¡the ¡computa9on ¡
• And ¡the ¡ordering ¡constraints ¡
• Parallelism ¡is ¡implicit ¡
• Available ¡from ¡Intel ¡at ¡ ¡
• hPp://soRware.intel.com/en-­‑us/ar9cles/intel-­‑concurrent-­‑

collec9ons-­‑for-­‑cc/ ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

3 ¡

Two ¡Sources ¡of ¡Dependencies ¡

• Data ¡Dependency ¡(Producer ¡Consumer) ¡
• Consumer ¡of ¡a ¡data ¡cannot ¡execute ¡before ¡producer ¡has ¡

produced ¡the ¡data ¡

• Control ¡Dependency ¡
• Controllee ¡cannot ¡execute ¡unless ¡its ¡execu9on ¡is ¡determined ¡

as ¡necessary ¡by ¡the ¡Controller ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

4 ¡

Three ¡Kinds ¡of ¡Collec9ons ¡

• ( ¡Step ¡) ¡– ¡represents ¡computa9on ¡
• [ ¡Item ¡] ¡– ¡represents ¡data ¡
• < ¡Tag ¡> ¡– ¡represents ¡control ¡flow ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

5 ¡

Dynamic ¡Instances ¡of ¡Collec9ons ¡

• Mul9ple ¡instances ¡for ¡each ¡Step, ¡Item, ¡Tag ¡collec9ons ¡

at ¡run9me ¡

• Each ¡instance ¡has ¡a ¡unique ¡Tag ¡
• A ¡tag ¡is ¡a ¡tuple ¡of ¡values ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

6 ¡

Item ¡Collec9on ¡

• Each ¡(data) ¡item ¡instance ¡is ¡dynamically ¡wriPen ¡once ¡
• Persists ¡in ¡the ¡‘tuple ¡space’ ¡forever ¡
• Garbage ¡collec9on ¡is ¡implicit ¡
• Each ¡step ¡instance ¡can ¡
• Get() ¡mul9ple ¡item ¡instances ¡from ¡mul9ple ¡item ¡collec9ons ¡
• Put() ¡mul9ple ¡item ¡instance ¡into ¡mul9ple ¡item ¡collec9ons ¡
• Each ¡item ¡can ¡be ¡Get() ¡by ¡mul9ple ¡steps ¡instance ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

7 ¡

Step ¡Collec9on ¡

• Every ¡step ¡collec9on ¡is ¡“prescribed” ¡by ¡a ¡Tag ¡

collec9on ¡

• An ¡step ¡instance ¡with ¡tag ¡T ¡can ¡execute ¡only ¡if ¡T ¡is ¡present ¡in ¡

the ¡prescribed ¡Tab ¡collec9on ¡

• Each ¡(computa9on) ¡step ¡instance ¡is ¡of ¡the ¡form ¡
• A ¡sequence ¡of ¡Item ¡Get()s ¡
• Determins9c ¡side-­‑effect-­‑free ¡sequen9al ¡computa9on ¡
• A ¡func9on ¡of ¡the ¡tag ¡and ¡data ¡items ¡read ¡
• A ¡sequence ¡of ¡Item ¡Put()s ¡and ¡Tag ¡Put()s ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

8 ¡

Tag ¡Collec9on ¡

• Explicitly ¡specifies ¡the ¡control ¡flow ¡between ¡steps ¡
• A ¡tag ¡collec9on ¡might ¡control ¡mul9ple ¡step ¡collec9ons ¡ ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

9 ¡

Simple ¡Example ¡

5/24/11 ¡

• Break ¡an ¡input ¡string ¡into ¡sequences ¡of ¡repeated ¡

characters ¡

• Filter ¡only ¡strings ¡of ¡odd ¡length ¡

Concurrent ¡Collec9ons ¡

10 ¡

Execu9on ¡Seman9cs ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

11 ¡

• A ¡step ¡instance ¡becomes ¡“proscribed” ¡when ¡its ¡tag ¡is ¡available ¡
• A ¡step ¡instance ¡becomes ¡“inputs ¡available” ¡when ¡all ¡its ¡Get()s ¡

can ¡succeed ¡

• A ¡step ¡is ¡enabled ¡when ¡it ¡is ¡“proscribed” ¡and ¡“inputs ¡available” ¡ ¡
• Enabled ¡steps ¡will ¡eventually ¡be ¡executed ¡

Control ¡Tags ¡Follow ¡Data ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

12 ¡

Graph ¡in ¡Textual ¡Form ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

13 ¡

// control tags <int singletonTag: singleton>; <int spanTags: spanID>; // data items [string input <int>: singleton]; [string span <int>: spanID]; [string results <int>: spanID]; // proscription relation <singletonTag> :: (createSpan); <spanTags> :: (processSpan); // program inputs and outputs env -> [input]; env -> <singletonTag>; [results] -> env; // producer/consumer relations [input: singleton] -> (createSpan: singleton)

• > <spanTags: spanID>, [span: spanID];

[span] -> (processSpan) -> [results];

Coordina9on ¡Separated ¡from ¡Code ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

14 ¡

int createSpan::execute(const int & t, partStr_context & c ) const { // Get input string string in; c.input.get(t, in); while (! in.empty()) { // construct span // … c.span.put(j, in.substr(j, len)); c.spanTags.put(j); // … } return CnC::CNC_Success; }

Control ¡Separate ¡From ¡Data ¡

• Face ¡detec9on ¡through ¡a ¡cascading ¡sequence ¡of ¡

classifiers ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

15 ¡

Scheduling ¡Decisions ¡

• When ¡to ¡execute ¡enabled ¡steps ¡instances ¡
• Where ¡to ¡execute ¡enabled ¡step ¡instances ¡
• Specula9vely ¡execute ¡steps ¡whose ¡inputs ¡are ¡available ¡
• Based ¡on ¡availability ¡of ¡processor ¡resources ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

16 ¡

Differences ¡Between ¡Linda ¡and ¡CnC ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

17 ¡

Is ¡CnC ¡Determinis9c? ¡

• For ¡a ¡given ¡input, ¡does ¡CnC ¡generate ¡the ¡same ¡
• utput? ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

18 ¡

Program ¡Termina9on ¡

• A ¡CnC ¡program ¡terminates ¡when ¡ ¡
• No ¡step ¡instance ¡is ¡execu9ng ¡
• All ¡unexecuted ¡steps ¡are ¡not ¡enabled ¡
• Valid ¡program ¡termina9on ¡
• All ¡proscribed ¡steps ¡are ¡executed ¡
• i.e. ¡A ¡proscribed ¡step ¡s9ll ¡wai9ng ¡for ¡an ¡input ¡data ¡ ¡error ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

19 ¡

Garbage ¡Collec9on ¡

• An ¡item ¡once ¡produced ¡logically ¡stays ¡forever ¡
• Can ¡be ¡garbage ¡collected ¡when ¡no ¡future ¡step ¡instance ¡will ¡

issue ¡a ¡Get() ¡with ¡the ¡same ¡tag ¡

• A ¡difficult ¡analysis ¡problem ¡
• Current ¡implementa9on ¡
• User ¡provides ¡a ¡getCount() ¡method ¡
• Determines ¡the ¡number ¡of ¡steps ¡that ¡will ¡read ¡the ¡item ¡

5/24/11 ¡ Concurrent ¡Collec9ons ¡

20 ¡