Designing Privacy and Security: Beyond the Technical - PowerPoint PPT Presentation

Designing ¡Privacy ¡and ¡Security: ¡ Beyond ¡the ¡Technical ¡ Perspec9ve ¡ ¡ Charles ¡D. ¡Raab ¡ Professorial ¡Fellow ¡ Director ¡of ¡CRISP ¡(Centre ¡for ¡Research ¡into ¡Informa9on, ¡ Surveillance ¡and ¡Privacy) ¡ University ¡of ¡Edinburgh ¡ ¡ ENISA/DG ¡CONNECT/UNIVERSITY ¡OF ¡LUXEMBOURG ¡ Annual ¡Privacy ¡Forum ¡2015: ¡‘Bringing ¡Research ¡and ¡Policy ¡ Together’ ¡ Luxembourg, ¡7-­‑8 ¡October ¡2015 ¡ ¡ ¡ ¡ ¡ 1 ¡

To ¡Begin: ¡Privacy ¡by ¡Design ¡and ¡by ¡ Default ¡ ¡ Council ¡of ¡the ¡EU, ¡Brussels, ¡11 ¡June ¡2015 ¡(OR. ¡en) ¡9565/15 ¡Compromise ¡Text ¡of ¡General ¡Data ¡Protec9on ¡Regula9on ¡ ¡ ¡ ¡ Ar$cle ¡23 ¡ Data ¡protecBon ¡by ¡design ¡and ¡by ¡default ¡ ¡ ¡ 1. ¡(…) ¡Having ¡regard ¡to ¡available ¡technology ¡and ¡the ¡cost ¡of ¡implementaZon ¡ and ¡taking ¡account ¡of ¡ the ¡nature, ¡scope, ¡context ¡and ¡purposes ¡of ¡the ¡ processing ¡ as ¡well ¡as ¡the ¡likelihood ¡and ¡severity ¡of ¡the ¡risk ¡for ¡rights ¡and ¡ freedoms ¡of ¡individuals ¡posed ¡by ¡the ¡processing, ¡the ¡controllers ¡shall ¡ implement ¡(…) ¡technical ¡and ¡organisaZonal ¡measures ¡appropriate ¡to ¡the ¡ processing ¡acZvity ¡being ¡carried ¡out ¡and ¡its ¡objecZves, ¡such ¡as ¡data ¡ minimisaZon ¡and ¡pseudonymisaZon, ¡in ¡such ¡a ¡way ¡that ¡the ¡processing ¡will ¡ meet ¡the ¡requirements ¡of ¡this ¡RegulaZon ¡and ¡protect ¡the ¡rights ¡of ¡(…) ¡data ¡ subjects. ¡ ¡ ¡ 2. ¡The ¡controller ¡shall ¡implement ¡appropriate ¡measures ¡for ¡ensuring ¡that, ¡by ¡ default, ¡only ¡(…) ¡personal ¡data ¡(…) ¡which ¡are ¡necessary ¡for ¡each ¡specific ¡ purpose ¡of ¡the ¡processing ¡are ¡processed; ¡this ¡applies ¡to ¡the ¡amount ¡of ¡(…) ¡ data ¡collected, ¡the ¡extent ¡of ¡their ¡processing, ¡the ¡period ¡of ¡their ¡storage ¡and ¡ their ¡accessibility. ¡Where ¡the ¡purpose ¡of ¡the ¡processing ¡is ¡not ¡intended ¡to ¡ provide ¡the ¡public ¡with ¡informaZon, ¡those ¡mechanisms ¡shall ¡ensure ¡that ¡by ¡ default ¡personal ¡data ¡are ¡not ¡made ¡accessible ¡without ¡human ¡intervenZon ¡to ¡ an ¡indefinite ¡number ¡of ¡individuals. ¡ 2 ¡

What ¡Must ¡We ¡Know ¡about ¡PbD? ¡(1) ¡ CRISP, ¡ Designing ¡Privacy ¡In: ¡Se?ng ¡the ¡Research ¡Agenda ¡ (March ¡2015) ¡ ¡ Any ¡evidence ¡that ¡businesses ¡value ¡PbD? ¡ ¡ • Any ¡evidence ¡that ¡PbD ¡actually ¡protects ¡privacy? ¡ • How ¡does ¡an ¡organisaZon ¡in ¡a ¡supply ¡chain ¡negoZate ¡appropriate ¡privacy ¡ • levels ¡for ¡their ¡business ¡model? ¡ Who ¡in ¡the ¡organisaZon ¡is ¡tasked ¡with ¡PbD? ¡Is ¡a ¡champion ¡necessary? ¡ • Is ¡PbD ¡scalable? ¡Can ¡it ¡be ¡implemented ¡across ¡the ¡whole ¡organisaZon ¡or ¡ • even ¡between ¡organisaZons? ¡ What ¡inhibits ¡the ¡adopZon ¡of ¡PbD ¡by ¡designers ¡and ¡companies ¡(i.e., ¡ • resources, ¡lack ¡of ¡understanding, ¡percepZons ¡of ¡compeZZve ¡ environment, ¡etc.)? ¡ How ¡can ¡PbD ¡performance ¡be ¡cerZfied, ¡measured ¡and ¡moneZsed? ¡ • What ¡corporate ¡reporZng ¡mechanisms ¡and ¡techniques ¡need ¡to ¡be ¡ • developed ¡for ¡effecZve ¡PbD ¡pracZce? ¡ ¡ ¡ ¡ 3 ¡

What ¡Must ¡We ¡Know ¡about ¡PbD? ¡(2) ¡ ¡ CRISP, ¡ Designing ¡Privacy ¡In: ¡Se?ng ¡the ¡Research ¡Agenda ¡ (March ¡2015) ¡ ¡ What ¡regulatory ¡and ¡legal ¡instruments ¡are ¡appropriate ¡to ¡encourage ¡PbD? ¡ • Should ¡PbD ¡be ¡seen ¡only ¡as ¡a ¡way ¡of ¡complying ¡with ¡data ¡protecZon ¡law? ¡ • Could ¡PbD ¡play ¡a ¡role ¡in ¡building ¡relaZonships ¡between ¡data ¡controllers ¡ • and ¡data ¡subjects? ¡ When ¡and ¡why ¡do ¡organisaZons ¡begin ¡to ¡bother ¡about ¡privacy? ¡ • Can ¡self-­‑audit ¡be ¡encouraged? ¡Can ¡accountability ¡for ¡PbD ¡be ¡engineered? ¡ • How ¡can ¡privacy ¡be ¡promoted ¡as ¡part ¡of ¡an ¡organizaZonal ¡culture? ¡ • Are ¡voluntary ¡internaZonal ¡standards ¡possible? ¡ ¡Can ¡they ¡be ¡incenZvised? ¡ • Can ¡the ¡media, ¡pressure ¡groups, ¡and ¡NGOs ¡play ¡a ¡role ¡in ¡promoZng ¡and ¡ • monitoring ¡PbD? ¡ 4 ¡

What ¡Must ¡We ¡Know ¡about ¡PbD? ¡(3) ¡ CRISP, ¡ Designing ¡Privacy ¡In: ¡Se?ng ¡the ¡Research ¡Agenda ¡ (March ¡2015) ¡ ¡ How ¡is ¡privacy ¡experienced, ¡felt ¡and ¡acted ¡upon ¡by ¡service ¡users? ¡ • Why ¡and ¡how ¡do ¡individuals ¡care ¡about ¡privacy? ¡ • How ¡can ¡we ¡learn ¡what ¡they ¡require ¡in ¡terms ¡of ¡privacy ¡protecZon? ¡ • How ¡can ¡PbD ¡research ¡be ¡used ¡to ¡educate ¡the ¡public ¡about ¡privacy, ¡their ¡ • rights, ¡and ¡their ¡data ¡management? ¡ How ¡can ¡public ¡understanding ¡of ¡privacy ¡and ¡privacy ¡rights ¡be ¡improved? ¡ • Are ¡companies’ ¡reputaZons ¡really ¡at ¡stake ¡if ¡they ¡do ¡not ¡adopt ¡PbD? ¡ • What ¡are ¡the ¡trust ¡issues ¡in ¡the ¡value/supply ¡chain ¡around ¡PbD? ¡ • What ¡would ¡a ¡privacy ¡friendly ¡internet ¡look ¡like? ¡ • But ¡what ¡is ¡‘privacy’? ¡ 5 ¡

Privacy: ¡Individual ¡Value ¡ • No ¡single ¡definiZon ¡or ¡conceptualisaZon ¡ • Deontological ¡and ¡consequenZalist ¡value ¡ • Seven ¡types ¡ (Finn, ¡ et ¡al., ¡ 2013) : ¡privacy ¡of: ¡ ¡ ¡ ¡the ¡person ¡ ¡ ¡behaviour ¡and ¡acZon ¡ ¡ ¡communicaZon ¡ ¡ ¡data ¡and ¡image ¡ ¡ ¡ ¡thoughts ¡and ¡feelings ¡ ¡ ¡locaZon ¡and ¡space ¡ ¡ ¡associaZon ¡ • Context-­‑dependent ¡ (Nissenbaum, ¡2010) ¡ 6 ¡

Individual ¡Privacy ¡ ConvenZonal ¡privacy ¡paradigm: ¡individualisZc, ¡classical ¡liberal, ¡rights-­‑ • oriented ¡only ¡ Leads ¡to ¡(tendenZous) ‘ privacy ¡v. ¡public ¡interest/security/etc. ’ construct ¡ • Privacy ¡is ¡indeed ¡an ¡individual ¡right: ¡fundamental ¡but ¡not ¡absolute ¡ ¡ • But ¡privacy’s ¡importance ¡goes ¡beyond ¡that ¡of ¡the ¡individual: ¡a ¡crucial ¡ • underpinning ¡of ¡interpersonal ¡relaZonships, ¡of ¡society ¡itself, ¡and ¡of ¡the ¡ workings ¡of ¡democraZc ¡poliZcal ¡system ¡ ¡ To ¡consider ¡privacy ¡only ¡as ¡an ¡individual ¡right ¡is ¡to ¡ignore ¡its ¡value ¡in ¡these ¡ • other ¡dimensions ¡ When ¡individual ¡privacy ¡is ¡protected, ¡the ¡fabric ¡of ¡society, ¡the ¡funcZoning ¡ • of ¡poliZcal ¡processes ¡and ¡the ¡exercise ¡of ¡important ¡freedoms ¡are ¡thereby ¡ protected. ¡When ¡it ¡is ¡eroded, ¡society ¡and ¡the ¡polity ¡are ¡also ¡harmed; ¡it ¡is ¡ in ¡the ¡public ¡interest, ¡and ¡not ¡only ¡in ¡the ¡interest ¡of ¡the ¡individual, ¡to ¡ protect ¡privacy ¡ ¡ 7 ¡