From robot ethics to ethical robots Alan FT Winfield - PowerPoint PPT Presentation

From ¡robot ¡ethics ¡ ¡ to ¡ethical ¡robots ¡ Alan ¡FT ¡Winfield ¡ Engineering ¡Moral ¡Agents ¡-­‑ ¡from ¡Human ¡ Morality ¡to ¡Ar7ficial ¡Morality ¡ Bristol ¡Robo7cs ¡Laboratory ¡ Dagstuhl, ¡30 ¡May ¡– ¡3 ¡June ¡2016 ¡ alanwinfield.blogspot.com ¡

Work ¡in ¡Robot ¡Ethics ¡ • Co-­‑organised ¡2010 ¡EPSRC/AHRC ¡workshop ¡that ¡draRed ¡ the ¡Principles ¡of ¡Robo7cs ¡ – hSps://www.epsrc.ac.uk/research/ourporUolio/themes/ engineering/ac7vi7es/principlesofrobo7cs/ ¡ • Member, ¡Bri7sh ¡Standards ¡Ins7tute ¡working ¡group ¡that ¡ developed ¡BS ¡8611:2016 ¡ Guide ¡to ¡the ¡ethical ¡design ¡and ¡ applica1on ¡of ¡robots ¡and ¡robo1c ¡systems ¡ ¡ • Member, ¡Ethics ¡Advisory ¡Board ¡for ¡the ¡EU ¡Human ¡Brain ¡ Project. ¡ • Co-­‑chair ¡General ¡Principles ¡commiSee ¡of ¡IEEE ¡standards ¡ ini7a7ve ¡for ¡Ethical ¡Considera7ons ¡in ¡the ¡Design ¡of ¡ Autonomous ¡Systems ¡ – hSp://standards.ieee.org/develop/indconn/ec/ autonomous_systems.html ¡

A ¡roboethics ¡roadmap ¡ Public ¡ Engagement ¡ Rome ¡declara7on ¡on ¡RRI ¡ Transparency ¡ EPSRC ¡AREA ¡framework ¡ Responsible ¡ Public ¡dialogue ¡ Innova7on ¡ Design ¡ ¡ Verifica7on ¡& ¡ Ethical ¡ for ¡Safety ¡ valida7on ¡ governance ¡ Bench-­‑ TRUST ¡ Open ¡science ¡ marks ¡ reproducibility ¡ ethics ¡ standards ¡ regula7on ¡ Developed ¡for ¡EU ¡H2020 ¡topic ¡group ¡on ¡ ethical, ¡legal ¡and ¡societal ¡issues. ¡ ¡ Regulatory ¡Bodies ¡

Proof ¡of ¡concept: ¡an ¡ethical ¡robot ¡ 4

Consequence ¡engine ¡

¡The ¡safety-­‑ethical ¡logic ¡ Combining ¡Safety ¡and ¡ethical ¡rules: ¡ IF for all robot actions, the human is equally safe � THEN (* default safe actions *) � � output safe actions � ELSE (* ethical actions *) � � output actions for least unsafe human outcomes �

Red ¡(proxy ¡human) ¡heading ¡for ¡danger ¡ Danger ¡zone ! ¡ Blue’s ¡goal ¡ 7

Blue ¡prevents ¡red ¡from ¡coming ¡to ¡harm ¡ 8

An ¡ethical ¡dilemma ¡ 9

The ¡ethics ¡of ¡ethical ¡robots ¡ • Do ¡we ¡have ¡a ¡ moral ¡impera1ve ¡ to ¡try ¡and ¡ build ¡ethical ¡robots? ¡ – given ¡the ¡choice ¡why ¡would ¡we ¡build ¡amoral ¡ cogni7ve ¡systems..? ¡ • “All ¡things ¡considered, ¡advanced ¡autonomous ¡ systems ¡that ¡use ¡moral ¡criteria ¡to ¡rank ¡different ¡ courses ¡of ¡ac7on ¡are ¡preferable ¡to ¡ones ¡that ¡pay ¡no ¡ aSen7on ¡to ¡moral ¡issues” ¡ Wallach ¡W ¡and ¡Allen ¡C ¡(2009), ¡Moral ¡Machines: ¡Teaching ¡robots ¡right ¡ • from ¡wrong, ¡Oxford. ¡ • What ¡processes ¡of ¡ ethical ¡governance ¡ do ¡we ¡need ¡ for ¡ethical ¡robots? ¡

Thank ¡you! ¡ Primary ¡reference: ¡ • o Winfield ¡AFT, ¡Blum ¡C ¡and ¡Liu ¡W ¡(2014), ¡Towards ¡ an ¡Ethical ¡Robot: ¡Internal ¡Models, ¡Consequences ¡ and ¡Ethical ¡Ac7on ¡Selec7on, ¡pp ¡85-­‑96 ¡in ¡ Advances ¡in ¡Autonomous ¡Robo7cs ¡Systems, ¡ Lecture ¡Notes ¡in ¡Computer ¡Science ¡Volume ¡ 8717, ¡Eds. ¡Mistry ¡M, ¡Leonardis ¡A, ¡Witkowski ¡M ¡ and ¡Melhuish ¡C, ¡Springer, ¡2014. ¡ For ¡addi7onal ¡background ¡and ¡videos ¡see: ¡ • o hSp://alanwinfield.blogspot.co.uk/2014/08/on-­‑ internal-­‑models-­‑part-­‑2-­‑ethical-­‑robot.html ¡ • Acknowledgements: ¡ ¡ o colleagues ¡in ¡the ¡BRL, ¡but ¡especially ¡Drs ¡Wenguo ¡ Liu, ¡Chris7an ¡Blum ¡and ¡Dieter ¡Vanderelst ¡ ¡ 11 ¡