From robot ethics to ethical robots Alan FT Winfield - - PowerPoint PPT Presentation

From ¡robot ¡ethics ¡ ¡ to ¡ethical ¡robots ¡

Alan ¡FT ¡Winfield ¡ Bristol ¡Robo7cs ¡Laboratory ¡ alanwinfield.blogspot.com ¡ Engineering ¡Moral ¡Agents ¡-­‑ ¡from ¡Human ¡ Morality ¡to ¡Ar7ficial ¡Morality ¡ Dagstuhl, ¡30 ¡May ¡– ¡3 ¡June ¡2016 ¡

Work ¡in ¡Robot ¡Ethics ¡

• Co-­‑organised ¡2010 ¡EPSRC/AHRC ¡workshop ¡that ¡draRed ¡

the ¡Principles ¡of ¡Robo7cs ¡

– hSps://www.epsrc.ac.uk/research/ourporUolio/themes/ engineering/ac7vi7es/principlesofrobo7cs/ ¡

• Member, ¡Bri7sh ¡Standards ¡Ins7tute ¡working ¡group ¡that ¡

developed ¡BS ¡8611:2016 ¡Guide ¡to ¡the ¡ethical ¡design ¡and ¡ applica1on ¡of ¡robots ¡and ¡robo1c ¡systems ¡ ¡

• Member, ¡Ethics ¡Advisory ¡Board ¡for ¡the ¡EU ¡Human ¡Brain ¡
• Project. ¡
• Co-­‑chair ¡General ¡Principles ¡commiSee ¡of ¡IEEE ¡standards ¡

ini7a7ve ¡for ¡Ethical ¡Considera7ons ¡in ¡the ¡Design ¡of ¡ Autonomous ¡Systems ¡

– hSp://standards.ieee.org/develop/indconn/ec/ autonomous_systems.html ¡

TRUST ¡

A ¡roboethics ¡roadmap ¡

ethics ¡ regula7on ¡ standards ¡

Responsible ¡ Innova7on ¡ Rome ¡declara7on ¡on ¡RRI ¡ EPSRC ¡AREA ¡framework ¡ Ethical ¡ governance ¡ Bench-­‑ marks ¡ Open ¡science ¡ reproducibility ¡ Verifica7on ¡& ¡ valida7on ¡ Design ¡ ¡ for ¡Safety ¡

Regulatory ¡Bodies ¡

Public ¡ Engagement ¡

Transparency ¡ Public ¡dialogue ¡ Developed ¡for ¡EU ¡H2020 ¡topic ¡group ¡on ¡ ethical, ¡legal ¡and ¡societal ¡issues. ¡ ¡

Proof ¡of ¡concept: ¡an ¡ethical ¡robot ¡

4

Consequence ¡engine ¡

¡The ¡safety-­‑ethical ¡logic ¡

IF for all robot actions, the human is equally safe THEN (* default safe actions *)

• utput safe actions

ELSE (* ethical actions *)

• utput actions for least unsafe human outcomes

Combining ¡Safety ¡and ¡ethical ¡rules: ¡

Red ¡(proxy ¡human) ¡heading ¡for ¡danger ¡

7

Danger ¡zone! ¡ Blue’s ¡goal ¡

Blue ¡prevents ¡red ¡from ¡coming ¡to ¡harm ¡

8

An ¡ethical ¡dilemma ¡

9

The ¡ethics ¡of ¡ethical ¡robots ¡

• Do ¡we ¡have ¡a ¡moral ¡impera1ve ¡to ¡try ¡and ¡

build ¡ethical ¡robots? ¡

– given ¡the ¡choice ¡why ¡would ¡we ¡build ¡amoral ¡ cogni7ve ¡systems..? ¡

• “All ¡things ¡considered, ¡advanced ¡autonomous ¡

systems ¡that ¡use ¡moral ¡criteria ¡to ¡rank ¡different ¡ courses ¡of ¡ac7on ¡are ¡preferable ¡to ¡ones ¡that ¡pay ¡no ¡ aSen7on ¡to ¡moral ¡issues” ¡

• Wallach ¡W ¡and ¡Allen ¡C ¡(2009), ¡Moral ¡Machines: ¡Teaching ¡robots ¡right ¡

from ¡wrong, ¡Oxford. ¡

• What ¡processes ¡of ¡ethical ¡governance ¡do ¡we ¡need ¡

for ¡ethical ¡robots? ¡

11 ¡

Thank ¡you! ¡

• Primary ¡reference: ¡
• Winfield ¡AFT, ¡Blum ¡C ¡and ¡Liu ¡W ¡(2014), ¡Towards ¡

an ¡Ethical ¡Robot: ¡Internal ¡Models, ¡Consequences ¡ and ¡Ethical ¡Ac7on ¡Selec7on, ¡pp ¡85-­‑96 ¡in ¡ Advances ¡in ¡Autonomous ¡Robo7cs ¡Systems, ¡ Lecture ¡Notes ¡in ¡Computer ¡Science ¡Volume ¡ 8717, ¡Eds. ¡Mistry ¡M, ¡Leonardis ¡A, ¡Witkowski ¡M ¡ and ¡Melhuish ¡C, ¡Springer, ¡2014. ¡

• For ¡addi7onal ¡background ¡and ¡videos ¡see: ¡
• hSp://alanwinfield.blogspot.co.uk/2014/08/on-­‑

internal-­‑models-­‑part-­‑2-­‑ethical-­‑robot.html ¡

• Acknowledgements: ¡ ¡
• colleagues ¡in ¡the ¡BRL, ¡but ¡especially ¡Drs ¡Wenguo ¡

Liu, ¡Chris7an ¡Blum ¡and ¡Dieter ¡Vanderelst ¡ ¡