The problem of many hands and the distribu4on of - - PowerPoint PPT Presentation

The ¡problem ¡of ¡many ¡hands ¡and ¡the ¡ distribu4on ¡of ¡responsibility ¡in ¡socio-­‑ technical ¡systems ¡

• Dr. ¡Neelke ¡Doorn ¡

Overview ¡of ¡the ¡presenta4on ¡

Responsibility ¡of ¡engineers ¡ ¡

• Condi&ons ¡for ¡responsibility ¡
• The ¡problem ¡of ¡many ¡hands ¡

¡ Responsibility ¡of ¡users ¡of ¡ technology ¡ ¡

• Engineering ¡design ¡and ¡the ¡ ¡

¡ ¡ ¡ ¡ ¡distribu&on ¡of ¡responsibility ¡

Responsibility ¡of ¡engineers ¡

• Team ¡or ¡network ¡ ¡

¡ ¡ ¡of ¡many ¡people ¡

• Four ¡responsibility ¡condi&ons ¡

Four ¡responsibility ¡condi4ons ¡– ¡foreseeability ¡ ¡

• 1. ¡Freedom ¡condi4on: ¡
• Free ¡to ¡act ¡
• No ¡external ¡pressure ¡
• No ¡freedom ¡= ¡No ¡responsibility ¡

Example: ¡point ¡a ¡gun ¡to ¡someone’s ¡head ¡

Four ¡responsibility ¡condi4ons ¡– ¡freedom ¡of ¡ ac4on ¡

• 2. ¡Knowledge ¡condi4on: ¡
• Should ¡have ¡the ¡knowledge ¡of ¡possible ¡nega&ve ¡outcomes ¡
• No ¡knowledge ¡= ¡No ¡responsibility ¡

Example: ¡painted ¡door ¡

Four ¡responsibility ¡condi4ons ¡– ¡causal ¡ contribu4on ¡

• 3. ¡Causal ¡connec4on: ¡
• Act ¡of ¡the ¡person ¡ ¡& ¡nega&ve ¡outcome ¡
• No ¡causal ¡rela&onship ¡= ¡No ¡responsibility ¡

Example: ¡painted ¡door ¡

Four ¡responsibility ¡condi4ons ¡– ¡wrong-­‑doing ¡

• 4. ¡Transgression ¡of ¡a ¡norm ¡condi4on: ¡
• Doing ¡a ¡fault ¡ac&on ¡
• No ¡transgression ¡= ¡No ¡responsibility ¡

“Ins5tu5ons ¡should ¡be ¡designed ¡in ¡ such ¡a ¡way ¡that ¡they ¡represent ¡the ¡ right ¡norms” ¡

Example: ¡the ¡use ¡of ¡a ¡new ¡material ¡(1/2) ¡

• Person ¡A ¡working ¡in ¡the ¡laboratory; ¡ ¡

¡ ¡ ¡ ¡ ¡fundamental ¡research ¡ ¡

• Person ¡B ¡designer ¡of ¡fire-­‑resistant ¡ ¡

¡ ¡ ¡ ¡ ¡clothing ¡for ¡firemen ¡

• Person ¡C ¡director ¡of ¡the ¡fire ¡brigade ¡
• Person ¡D ¡responsible ¡for ¡cleaning ¡ ¡

¡ ¡ ¡ ¡ ¡the ¡clothing ¡ ¡

Example: ¡the ¡use ¡of ¡a ¡new ¡material ¡(2/2) ¡

• Person ¡A ¡working ¡in ¡the ¡laboratory; ¡fundamental ¡research ¡ ¡

à Not ¡responsible ¡because ¡ignorant ¡about ¡the ¡dangerous ¡use ¡of ¡his ¡material ¡

• Person ¡B ¡designer ¡of ¡fire-­‑resistant ¡clothing ¡for ¡firemen ¡

à Not ¡responsible ¡because ¡ignorant ¡about ¡dangerous ¡proper&es ¡of ¡the ¡material ¡

• Person ¡C ¡director ¡of ¡the ¡fire ¡brigade ¡

à Not ¡responsible ¡because ¡ignorant ¡about ¡the ¡dangerous ¡proper&es ¡of ¡the ¡material ¡

• Person ¡D ¡responsible ¡for ¡cleaning ¡the ¡clothing ¡

à ¡Not ¡responsible ¡because ¡ignorant ¡and ¡possibly ¡also ¡not ¡free ¡to ¡do ¡otherwise ¡

The ¡problem ¡of ¡many ¡hands ¡

Defini&on: ¡ ¡

• A ¡collec4ve ¡of ¡people ¡is ¡responsible ¡for ¡ ¡an ¡outcome, ¡while ¡

none ¡of ¡the ¡individual ¡people ¡can ¡be ¡held ¡responsible ¡ ¡ Urgent ¡in ¡engineering: ¡ ¡

• ONen ¡many ¡people ¡involved ¡and ¡poten&ally ¡high ¡impact ¡if ¡

things ¡go ¡wrong ¡

¡Who ¡is ¡responsible ¡ for ¡this ¡disaster? ¡ ¡

Backward-­‑looking ¡versus ¡forward-­‑looking ¡ responsibility ¡

Backward-­‑looking ¡responsibility: ¡ ¡

• ANer ¡things ¡have ¡gone ¡wrong ¡

¡ Forward-­‑looking ¡responsibility: ¡ ¡

• Responsibility ¡before ¡something ¡has ¡happened ¡ ¡
• Condi4ons ¡to ¡be ¡met ¡

Responsibility ¡and ¡technology ¡

Technologies ¡may ¡reduce ¡responsibility ¡of ¡individuals ¡

• Example: ¡auto-­‑pilot ¡in ¡airplane ¡ ¡

¡ Can ¡technologies ¡also ¡enhance ¡a ¡person’s ¡responsibility? ¡ ¡ ¡ ¡

Example ¡1: ¡The ¡V-­‑chip ¡

V-­‑chip: ¡a ¡technological ¡device ¡that ¡blocks ¡programs ¡with ¡violent ¡ content ¡ ¡ Does ¡the ¡V-­‑chip ¡enhance ¡a ¡parent’s ¡responsibility? ¡

• No: ¡parents ¡now ¡lack ¡the ¡freedom ¡to ¡decide ¡for ¡

themselves ¡

• Yes: ¡parents ¡have ¡more ¡means ¡to ¡control ¡their ¡childrens’ ¡

watching ¡behavior ¡

Example ¡2: ¡Control ¡room ¡

Large physically dispersed facility or service Decisions on the basis of a huge amount of information

• Lay out of the working space
• How the information is presented

Correct decision

Bad ¡design ¡à à ¡Nega4ve ¡impact ¡

• n ¡responsibility ¡

Good ¡design ¡à à ¡Posi4ve ¡impact ¡

• n ¡responsibility ¡

Conclusion ¡

• Technology ¡affects ¡a ¡person ¡ability ¡to ¡carry ¡ ¡ ¡

¡out ¡his ¡tasks ¡and ¡du&es ¡ ¡

• Well-­‑designed ¡technologies ¡may ¡enhance ¡a ¡ ¡ ¡

¡person’s ¡responsibility ¡

Thank ¡you ¡for ¡your ¡aVen4on! ¡ ¡

Please ¡post ¡any ¡ques5ons ¡you ¡may ¡have ¡in ¡our ¡ discussion ¡forum ¡