Discussion of Privacy as a Tool for Robust Mechanism - - PowerPoint PPT Presentation

Discussion ¡of ¡Privacy ¡as ¡a ¡Tool ¡for ¡Robust ¡ Mechanism ¡Design ¡in ¡Large ¡Markets ¡ ¡ Leeat ¡Yariv ¡

General ¡Theme ¡

• Interpret ¡differenAal ¡privacy ¡as ¡a ¡criterion ¡for ¡

robustness ¡of ¡mechanisms ¡

• A ¡unilateral ¡deviaAon ¡does ¡not ¡affect ¡outcomes ¡

substanAally ¡

• Show ¡link ¡between ¡differenAal ¡privacy ¡and ¡truthful ¡

revelaAon ¡as ¡an ¡approximately ¡dominant ¡strategy ¡in ¡ large ¡games ¡

• Very ¡nice ¡collecAon ¡of ¡results! ¡

Outline ¡for ¡Discussion ¡

• Mostly ¡contrast ¡approach ¡with ¡that ¡in ¡

Economics ¡

• Robustness ¡in ¡Economics ¡

– Making ¡distribuAonal ¡assumpAons ¡ – Robust ¡implementaAon ¡

• Large ¡markets ¡literature ¡in ¡Economics ¡

Making ¡DistribuAonal ¡AssumpAons ¡

• Focus ¡on ¡the ¡matching ¡setup ¡
• One-­‑to-­‑one ¡matching ¡(slightly ¡different) ¡
• Firms: ¡{F1, ¡F2,…,Fn} ¡
• Workers: ¡{W1,W2,…,Wn} ¡

Random ¡Matching ¡

• Suppose ¡at ¡the ¡outset, ¡match ¡uAliAes ¡are ¡randomly ¡

selected: ¡

• Uf

ij ¡– ¡Firm ¡i’s ¡uAlity ¡from ¡matching ¡with ¡j ¡

• Uw

ij ¡– ¡Worker ¡j’s ¡uAlity ¡from ¡matching ¡with ¡i ¡

• Suppose ¡Uf

ij, ¡Uw ij ¡ ¡are ¡i.i.d ¡and ¡uniform ¡on ¡[0, ¡1] ¡

• Assume ¡all ¡prefer ¡to ¡be ¡matched ¡with ¡anyone ¡over ¡

remaining ¡unmatched ¡

Random ¡Matching ¡

¡ ¡ U ¡= ¡ ¡ ¡ ¡ ¡

• We ¡know ¡that ¡stable ¡mechanisms ¡are ¡not ¡

incenAve ¡compaAble ¡ ¡ ¡

¡ ¡

Uf

11, ¡Uw 11 ¡

¡ ¡ ¡

Uf

12, ¡Uw 12 ¡

¡ ¡

Uf

nn, ¡Uw nn ¡

¡

Random ¡Matching ¡

• How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡

approximately ¡incenAve ¡compaAble? ¡

• Pick ¡an ¡ε ¡> ¡0 ¡
• Agents ¡report ¡their ¡true ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡
• Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡

side ¡

• Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡

¡ ¡ ¡ ¡ ¡ ¡Uf

ij ¡ ¡> ¡1 ¡– ¡ε ¡ ¡and ¡ ¡Uw ij ¡ ¡> ¡1 ¡– ¡ε ¡

¡

• A ¡link ¡occurs ¡with ¡probability ¡ε2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡

Random ¡Matching ¡

• How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡

approximately ¡incenAve ¡compaAble? ¡

• Pick ¡an ¡ε ¡> ¡0 ¡
• Agents ¡report ¡their ¡true ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡
• Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡

side ¡

• Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡

¡ ¡ ¡ ¡ ¡ ¡Uf

ij ¡ ¡> ¡1 ¡– ¡ε ¡ ¡and ¡ ¡Uw ij ¡ ¡> ¡1 ¡– ¡ε ¡

¡

• A ¡link ¡occurs ¡with ¡probability ¡ε2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡

Random ¡Matching ¡

• How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡

approximately ¡incenAve ¡compaAble? ¡

• Pick ¡an ¡ε ¡> ¡0 ¡
• Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡
• Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡

side ¡

• Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡

¡ ¡ ¡ ¡ ¡ ¡Uf

ij ¡ ¡> ¡1 ¡– ¡ε ¡ ¡and ¡ ¡Uw ij ¡ ¡> ¡1 ¡– ¡ε ¡

¡

• A ¡link ¡occurs ¡with ¡probability ¡ε2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡

Random ¡Matching ¡

• How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡

approximately ¡incenAve ¡compaAble? ¡

• Pick ¡an ¡ε ¡> ¡0 ¡
• Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡
• Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ ¡
• Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡

¡ ¡ ¡ ¡ ¡ ¡Uf

ij ¡ ¡> ¡1 ¡– ¡ε ¡ ¡and ¡ ¡Uw ij ¡ ¡> ¡1 ¡– ¡ε ¡

¡

• A ¡link ¡occurs ¡with ¡probability ¡ε2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡

Random ¡Matching ¡

• How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡

approximately ¡incenAve ¡compaAble? ¡

• Pick ¡an ¡ε ¡> ¡0 ¡
• Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡
• Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ ¡
• Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡

¡ ¡ ¡ ¡ ¡ ¡Uf

ij ¡ ¡> ¡1 ¡– ¡ε ¡ ¡and ¡ ¡Uw ij ¡ ¡> ¡1 ¡– ¡ε ¡

¡

• A ¡link ¡occurs ¡with ¡probability ¡ε2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡

Random ¡Matching ¡ ¡

Firms ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Workers ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡

Random ¡Matching ¡

• Random ¡graph ¡– ¡probability ¡of ¡each ¡link ¡is ¡ε2 ¡
• Erdos ¡and ¡Renyi ¡(1964): ¡As ¡long ¡as ¡the ¡graph ¡is ¡connected ¡enough, ¡

namely ¡as ¡long ¡as ¡ε2 ¡approaches ¡0 ¡slower ¡than ¡log(n)/n, ¡there ¡is ¡a ¡ perfect ¡matching ¡with ¡probability ¡ ¡1 ¡

• In ¡the ¡induced ¡matching: ¡

– Any ¡blocking ¡pair ¡can ¡gain ¡at ¡most ¡ε ¡each ¡from ¡matching ¡à ¡ almost ¡stable ¡ – Any ¡individual ¡can ¡gain ¡at ¡most ¡ε ¡from ¡mis-­‑reporAng, ¡regardless ¡

• f ¡what ¡others’ ¡are ¡doing ¡à ¡almost ¡incenAve ¡compaAble ¡

– [Does ¡it ¡saAsfy ¡differenAal ¡privacy?] ¡

Random ¡Matching ¡

• Random ¡graph ¡– ¡probability ¡of ¡each ¡link ¡is ¡ε2 ¡
• Erdos ¡and ¡Renyi ¡(1964): ¡As ¡long ¡as ¡the ¡graph ¡is ¡connected ¡enough, ¡

namely ¡as ¡long ¡as ¡ε2 ¡approaches ¡0 ¡slower ¡than ¡log(n)/n, ¡there ¡is ¡a ¡ perfect ¡matching ¡with ¡probability ¡ ¡1 ¡

• In ¡the ¡induced ¡matching: ¡

– Any ¡blocking ¡pair ¡can ¡gain ¡at ¡most ¡ε ¡each ¡from ¡matching ¡à ¡ almost ¡stable ¡ – Any ¡individual ¡can ¡gain ¡at ¡most ¡ε ¡from ¡mis-­‑reporAng ¡à ¡almost ¡ incenAve ¡compaAble ¡ – [Does ¡it ¡saAsfy ¡differenAal ¡privacy?] ¡

So ¡What’s ¡the ¡Problem? ¡

• This ¡seems ¡to ¡depend ¡on ¡distribuAonal ¡

assumpAons ¡(though ¡some ¡general ¡results ¡ exist ¡– ¡Lee, ¡2014) ¡

• Not ¡robust ¡to ¡any ¡belief ¡about ¡others’ ¡

behavior ¡

Robust ¡ImplementaAon ¡

Wilson ¡Doctrine ¡(1987): ¡A ¡good ¡theory ¡of ¡mechanism ¡design ¡ should ¡not ¡rely ¡too ¡heavily ¡on ¡assumpAons ¡of ¡common ¡ knowledge ¡ ¡

• Desire ¡for ¡a ¡robust ¡mechanism ¡
• Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“simple” ¡for ¡parAcipants ¡
• Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“fair” ¡– ¡those ¡who ¡cannot ¡

make ¡complex ¡inferences ¡or ¡calculaAons ¡are ¡not ¡ disadvantaged ¡

Robust ¡ImplementaAon ¡

Wilson ¡Doctrine ¡(1987): ¡A ¡good ¡theory ¡of ¡mechanism ¡design ¡ should ¡not ¡rely ¡too ¡heavily ¡on ¡assumpAons ¡of ¡common ¡ knowledge ¡ ¡

• Desire ¡for ¡a ¡robust ¡mechanism ¡
• Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“simple” ¡for ¡parAcipants ¡
• Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“fair” ¡– ¡those ¡who ¡cannot ¡

make ¡complex ¡inferences ¡or ¡calculaAons ¡are ¡not ¡ disadvantaged ¡

Robust ¡ImplementaAon ¡

Wilson ¡Doctrine ¡(1987): ¡A ¡good ¡theory ¡of ¡mechanism ¡design ¡should ¡ not ¡rely ¡too ¡heavily ¡on ¡assumpAons ¡of ¡common ¡knowledge ¡ ¡

• IniAally, ¡this ¡led ¡to ¡imposing ¡strong ¡soluAon ¡concepts. ¡For ¡instance, ¡

dominant-­‑strategy ¡implementaAon ¡

• But ¡is ¡that ¡opAmal? ¡
• In ¡principal, ¡a ¡detail-­‑free ¡mechanism ¡might ¡be ¡very ¡complex, ¡asking ¡

agents ¡many ¡quesAons ¡(their ¡beliefs, ¡their ¡beliefs ¡about ¡others’ ¡ beliefs, ¡their ¡beliefs ¡about ¡other’s ¡beliefs ¡about ¡their ¡beliefs, ¡etc.) ¡

• Would ¡a ¡welfare-­‑maximizing ¡or ¡profit-­‑maximizing ¡designer ¡choose ¡

simple ¡dominant-­‑strategy ¡mechanisms? ¡

Robust ¡ImplementaAon ¡

Wilson ¡Doctrine ¡(1987): ¡A ¡good ¡theory ¡of ¡mechanism ¡design ¡should ¡ not ¡rely ¡too ¡heavily ¡on ¡assumpAons ¡of ¡common ¡knowledge ¡ ¡

• IniAally, ¡this ¡led ¡to ¡imposing ¡strong ¡soluAon ¡concepts. ¡For ¡instance, ¡

dominant-­‑strategy ¡implementaAon ¡

• But ¡is ¡that ¡opAmal? ¡
• In ¡principle, ¡a ¡detail-­‑free ¡mechanism ¡might ¡be ¡very ¡complex, ¡asking ¡

agents ¡many ¡quesAons ¡(their ¡beliefs, ¡their ¡beliefs ¡about ¡others’ ¡ beliefs, ¡their ¡beliefs ¡about ¡other’s ¡beliefs ¡about ¡their ¡beliefs, ¡etc.) ¡

• Would ¡a ¡welfare-­‑maximizing ¡or ¡profit-­‑maximizing ¡designer ¡choose ¡

simple ¡dominant-­‑strategy ¡mechanisms? ¡

Robust ¡ImplementaAon ¡

• Note: ¡In ¡Aaron’s ¡papers ¡this ¡does ¡not ¡seem ¡to ¡

be ¡a ¡big ¡issue, ¡as ¡outcomes ¡are ¡asymptoAcally ¡ efficient ¡(although ¡in ¡matching ¡– ¡stability ¡does ¡ not ¡equal ¡welfare ¡maximizaAon?) ¡

• Chung ¡and ¡Eli ¡(2007) ¡provided ¡foundaAons ¡for ¡

dominant-­‑strategy ¡implementaAon ¡in ¡private-­‑ value ¡aucAons ¡(profit-­‑maximizing ¡aucAoneer ¡ considering ¡worst-­‑case ¡scenarios) ¡

Robust ¡ImplementaAon ¡

• Lots ¡of ¡literature ¡followed: ¡for ¡instance, ¡

Bergemann ¡and ¡Morris ¡(2008, ¡2009, ¡2011, ¡2012, ¡ 2013,…), ¡Azevedo ¡and ¡Budish ¡(2013) ¡

• Considers ¡robustness ¡to ¡ ¡

– Beliefs, ¡higher-­‑order ¡beliefs, ¡etc. ¡ – Details ¡of ¡the ¡environment ¡(collusion, ¡shill ¡bidders, ¡ etc.) ¡

• Much ¡of ¡this ¡literature ¡also ¡takes ¡a ¡worst-­‑case ¡

approach ¡(and ¡is ¡sAll ¡within ¡Economics!) ¡

Large ¡Games ¡in ¡Economics ¡

• Really ¡large ¡games, ¡with ¡a ¡conAnuum ¡of ¡players, ¡make ¡life ¡easier ¡

(no ¡consumer ¡can ¡affect ¡prices, ¡no ¡student ¡can ¡affect ¡schools’ ¡ thresholds, ¡etc.) ¡

• Small ¡Large ¡games ¡(discrete ¡number ¡of ¡players) ¡

– Old ¡school: ¡Show ¡that ¡different ¡soluAon ¡concepts ¡(core, ¡compeAAve ¡ equilibrium, ¡Shapley ¡value) ¡coincide ¡with ¡many ¡players ¡(Aumann ¡and ¡ Shapley, ¡1974) ¡ – Recent ¡history: ¡Show ¡that ¡in ¡large ¡games ¡outcomes ¡are ¡efficient ¡(Mailath ¡ and ¡Postlewaite, ¡1990 ¡on ¡bargaining, ¡Pesendorfer ¡and ¡Swinkels, ¡2007 ¡on ¡ aucAons, ¡Feddersen ¡and ¡Pesendorfer, ¡2007 ¡on ¡voAng, ¡Lee ¡and ¡Yariv, ¡2014 ¡

• n ¡matching) ¡

¡ [An ¡Economist’s ¡view: ¡privacy ¡might ¡someLmes ¡entail ¡a ¡cost, ¡and ¡we ¡ may ¡want ¡to ¡consider ¡the ¡trade-­‑off ¡explicitly] ¡ ¡

Large ¡Games ¡in ¡Economics ¡

• Really ¡large ¡games, ¡with ¡a ¡conAnuum ¡of ¡players, ¡make ¡life ¡easier ¡

(no ¡consumer ¡can ¡affect ¡prices, ¡no ¡student ¡can ¡affect ¡schools’ ¡ thresholds, ¡etc.) ¡

• Small ¡Large ¡games ¡(discrete ¡number ¡of ¡players) ¡

– Old ¡school: ¡Show ¡that ¡different ¡soluAon ¡concepts ¡(core, ¡compeAAve ¡ equilibrium, ¡Shapley ¡value) ¡coincide ¡with ¡many ¡players ¡(Aumann ¡and ¡ Shapley, ¡1974) ¡ – Recent ¡history: ¡Show ¡that ¡in ¡large ¡games ¡outcomes ¡are ¡efficient ¡(Mailath ¡ and ¡Postlewaite, ¡1990 ¡on ¡bargaining, ¡Pesendorfer ¡and ¡Swinkels, ¡2007 ¡on ¡ aucAons, ¡Feddersen ¡and ¡Pesendorfer, ¡2007 ¡on ¡voAng, ¡Lee ¡and ¡Yariv, ¡2014 ¡

• n ¡matching) ¡

¡ [An ¡Economist’s ¡view: ¡privacy ¡might ¡someLmes ¡entail ¡a ¡cost, ¡and ¡we ¡ may ¡want ¡to ¡consider ¡the ¡trade-­‑off ¡explicitly] ¡ ¡

Large ¡Games ¡– ¡Modern ¡Day ¡

Indeed, ¡making ¡assumpAons ¡(someAmes, ¡rather ¡general) ¡on ¡ distribuAons ¡of ¡types, ¡preferences, ¡etc. ¡and ¡assuming ¡common ¡ knowledge ¡ ¡

• IncenLve ¡compaLbility ¡in ¡matching ¡markets: ¡Immorlica ¡and ¡

Mahdian ¡(2005), ¡Kojima ¡and ¡Pathak ¡(2009), ¡Lee ¡(2014) ¡

• InsensiLvity ¡to ¡details ¡of ¡underlying ¡normal ¡form ¡game: ¡Kalai ¡

(2004) ¡

• Myopic ¡behavior ¡in ¡repeated ¡games: ¡Green ¡(1980), ¡

Sabourian ¡(1990), ¡Al ¡Najjar ¡and ¡Smorodinsky ¡(2001) ¡

• Strategy-­‑proofness*: ¡Azevedo ¡and ¡Budish ¡(2013) ¡

THE ¡ ¡ ¡END ¡