The problem of many hands and the distribu4on of - PowerPoint PPT Presentation

The ¡problem ¡of ¡many ¡hands ¡and ¡the ¡ distribu4on ¡of ¡responsibility ¡in ¡socio-­‑ technical ¡systems ¡ Dr. ¡Neelke ¡Doorn ¡

Overview ¡of ¡the ¡presenta4on ¡ Responsibility ¡of ¡engineers ¡ ¡ Responsibility ¡of ¡users ¡of ¡ technology ¡ ¡ • Engineering ¡design ¡and ¡the ¡ ¡ • Condi&ons ¡for ¡responsibility ¡ ¡ ¡ ¡ ¡ ¡distribu&on ¡of ¡responsibility ¡ • The ¡problem ¡of ¡many ¡hands ¡ ¡

Responsibility ¡of ¡engineers ¡ • Team ¡or ¡network ¡ ¡ ¡ ¡ ¡of ¡many ¡people ¡ • Four ¡responsibility ¡condi&ons ¡

Four ¡responsibility ¡condi4ons ¡– ¡foreseeability ¡ ¡ 1. ¡Freedom ¡condi4on: ¡ • Free ¡to ¡act ¡ • No ¡external ¡pressure ¡ • No ¡freedom ¡= ¡No ¡responsibility ¡ Example: ¡point ¡a ¡gun ¡to ¡someone’s ¡head ¡

Four ¡responsibility ¡condi4ons ¡– ¡freedom ¡of ¡ ac4on ¡ 2. ¡Knowledge ¡condi4on: ¡ • Should ¡have ¡the ¡knowledge ¡of ¡possible ¡nega&ve ¡outcomes ¡ • No ¡knowledge ¡= ¡No ¡responsibility ¡ Example: ¡painted ¡door ¡

Four ¡responsibility ¡condi4ons ¡– ¡causal ¡ contribu4on ¡ 3. ¡Causal ¡connec4on: ¡ • Act ¡of ¡the ¡person ¡ ¡& ¡nega&ve ¡outcome ¡ • No ¡causal ¡rela&onship ¡= ¡No ¡responsibility ¡ Example: ¡painted ¡door ¡

Four ¡responsibility ¡condi4ons ¡– ¡wrong-­‑doing ¡ 4. ¡Transgression ¡of ¡a ¡norm ¡condi4on: ¡ • Doing ¡a ¡fault ¡ac&on ¡ • No ¡transgression ¡= ¡No ¡responsibility ¡

“Ins5tu5ons ¡should ¡be ¡designed ¡in ¡ such ¡a ¡way ¡that ¡they ¡represent ¡the ¡ right ¡norms” ¡

Example: ¡the ¡use ¡of ¡a ¡new ¡material ¡(1/2) ¡ • Person ¡A ¡working ¡in ¡the ¡laboratory; ¡ ¡ ¡ ¡ ¡ ¡ ¡fundamental ¡research ¡ ¡ • Person ¡B ¡designer ¡of ¡fire-­‑resistant ¡ ¡ ¡ ¡ ¡ ¡ ¡clothing ¡for ¡firemen ¡ • Person ¡C ¡director ¡of ¡the ¡fire ¡brigade ¡ • Person ¡D ¡responsible ¡for ¡cleaning ¡ ¡ ¡ ¡ ¡ ¡ ¡the ¡clothing ¡ ¡

Example: ¡the ¡use ¡of ¡a ¡new ¡material ¡(2/2) ¡ Person ¡A ¡working ¡in ¡the ¡laboratory; ¡fundamental ¡research ¡ ¡ • à Not ¡responsible ¡because ¡ignorant ¡about ¡the ¡dangerous ¡use ¡of ¡his ¡material ¡ Person ¡B ¡designer ¡of ¡fire-­‑resistant ¡clothing ¡for ¡firemen ¡ • à Not ¡responsible ¡because ¡ignorant ¡about ¡dangerous ¡proper&es ¡of ¡the ¡material ¡ Person ¡C ¡director ¡of ¡the ¡fire ¡brigade ¡ • à Not ¡responsible ¡because ¡ignorant ¡about ¡the ¡dangerous ¡proper&es ¡of ¡the ¡material ¡ Person ¡D ¡responsible ¡for ¡cleaning ¡the ¡clothing ¡ • à ¡Not ¡responsible ¡because ¡ignorant ¡and ¡possibly ¡also ¡not ¡free ¡to ¡do ¡otherwise ¡

The ¡problem ¡of ¡many ¡hands ¡ Defini&on: ¡ ¡ • A ¡ collec4ve ¡of ¡people ¡ is ¡responsible ¡for ¡ ¡an ¡outcome, ¡while ¡ none ¡of ¡the ¡individual ¡people ¡can ¡be ¡held ¡responsible ¡ ¡ Urgent ¡in ¡engineering: ¡ ¡ • ONen ¡ many ¡people ¡involved ¡and ¡poten&ally ¡ high ¡impact ¡if ¡ things ¡go ¡wrong ¡

¡Who ¡is ¡responsible ¡ for ¡this ¡disaster? ¡ ¡

Backward-­‑looking ¡versus ¡forward-­‑looking ¡ responsibility ¡ Backward-­‑looking ¡responsibility: ¡ ¡ • ANer ¡things ¡have ¡gone ¡wrong ¡ ¡ Forward-­‑looking ¡responsibility: ¡ ¡ • Responsibility ¡ before ¡something ¡has ¡happened ¡ ¡ • Condi4ons ¡to ¡be ¡met ¡

Responsibility ¡and ¡technology ¡ Technologies ¡may ¡reduce ¡responsibility ¡of ¡individuals ¡ • Example: ¡auto-­‑pilot ¡in ¡airplane ¡ ¡ ¡ Can ¡technologies ¡also ¡enhance ¡a ¡person’s ¡responsibility? ¡ ¡ ¡ ¡

Example ¡1: ¡The ¡V-­‑chip ¡ V-­‑chip : ¡a ¡technological ¡device ¡that ¡blocks ¡programs ¡with ¡violent ¡ content ¡ ¡ Does ¡the ¡V-­‑chip ¡enhance ¡a ¡parent’s ¡responsibility? ¡ • No: ¡parents ¡now ¡ lack ¡the ¡freedom ¡to ¡decide ¡ for ¡ themselves ¡ • Yes: ¡parents ¡have ¡ more ¡means ¡to ¡control ¡ their ¡childrens’ ¡ watching ¡behavior ¡

Example ¡2: ¡Control ¡room ¡ Large physically dispersed facility or service Decisions on the basis of a huge amount of information • Lay out of the working space Correct decision • How the information is presented

Bad ¡design ¡ à à ¡Nega4ve ¡impact ¡ on ¡responsibility ¡ Good ¡design ¡ à à ¡Posi4ve ¡impact ¡ on ¡responsibility ¡

Conclusion ¡ • Technology ¡affects ¡a ¡person ¡ability ¡to ¡carry ¡ ¡ ¡ ¡out ¡his ¡tasks ¡and ¡du&es ¡ ¡ • Well-­‑designed ¡technologies ¡may ¡ enhance ¡a ¡ ¡ ¡ ¡person’s ¡ responsibility ¡

Thank ¡you ¡for ¡your ¡aVen4on! ¡ ¡ Please ¡post ¡any ¡ques5ons ¡you ¡may ¡have ¡in ¡our ¡ discussion ¡forum ¡