Recommender Systems as Part of a Choice Architecture - - PowerPoint PPT Presentation

¡

¡ ¡

Recommender ¡Systems ¡as ¡Part ¡of ¡a ¡Choice ¡ Architecture ¡for ¡HCI ¡

¡ Anthony ¡Jameson ¡

DFKI, ¡German ¡Research ¡Center ¡for ¡Ar8ficial ¡Intelligence ¡ Saarbrücken, ¡Germany ¡ hAp://dFi.de/~jameson/ ¡

¡

¡ ¡

Introduc8on ¡

For ¡more ¡explana8on ¡and ¡background, ¡see ¡the ¡extended ¡abstract ¡for ¡this ¡talk ¡and/

• r ¡the ¡following ¡ar8cle: ¡

Jameson, ¡A., ¡Berendt, ¡B., ¡Gabrielli, ¡S., ¡Gena, ¡C., ¡Cena, ¡F., ¡Vernero, ¡F., ¡& ¡Reinecke, ¡K. ¡(2014). ¡ Choice ¡architecture ¡for ¡human-­‑computer ¡interac1on. ¡ Founda8ons ¡and ¡Trends ¡in ¡Human-­‑Computer ¡Interac8on, ¡7(1-­‑2), ¡1-­‑235. ¡ hAp://dx.doi.org/10.1561/1100000028 ¡

¡

Is ¡This ¡How ¡Decision ¡Making ¡Research ¡Looks? ¡ ¡

Why ¡Not ¡Just ¡Focus ¡on ¡the ¡“E”? ¡

• Recommenders ¡can ¡work ¡together ¡with ¡the ¡
• ther ¡strategies ¡
• Some8mes ¡the ¡others ¡are ¡more ¡suitable ¡than ¡

recommenda8on ¡

Choice ¡Support ¡vs. ¡Persuasion ¡

THINK! ¡ ABOUT ¡ YOUR ¡ CHOICES ¡

GAMBLING ¡MORE, ¡ ENJOYING ¡IT ¡LESS? ¡ For ¡free ¡and ¡ confiden8al ¡ informa8on ¡and ¡advice ¡ about ¡problem ¡ gambling, ¡please ¡ contact ¡

GAMBLING ¡HELP ¡ 1800 ¡858 ¡858 ¡

What’s ¡the ¡Difference? ¡

Persuasive ¡technology ¡

• “... ¡systems ¡designed ¡

to ¡reinforce, ¡change ¡or ¡ shape ¡aitudes ¡or ¡ behaviors ¡or ¡both ¡ without ¡using ¡coercion ¡

• r ¡decep8on” ¡(Oinas-­‑

Kukkonen ¡and ¡Harjumaa ¡ 2008, ¡2009) ¡

• Target ¡aitude ¡/ ¡

behavior ¡is ¡assumed ¡to ¡ be ¡known ¡by ¡the ¡ system’s ¡designer ¡(or ¡ by ¡the ¡system) ¡

Choice-­‑suppor5ng ¡systems ¡

• Systems ¡designed ¡to ¡help ¡

people ¡make ¡choices ¡that ¡ they ¡will, ¡in ¡retrospect, ¡view ¡ as ¡good ¡choices ¡

• What ¡op8on ¡is ¡best ¡will ¡

depend ¡in ¡part ¡on ¡factors ¡ not ¡known ¡to ¡the ¡designer ¡

• r ¡system ¡

What ¡Is ¡a ¡“Good ¡Choice”? ¡

What ¡Do ¡Researchers ¡Think? ¡

• Tradi8onal ¡goals ¡as ¡viewed ¡by ¡decision ¡researchers ¡

– Maximize ¡desirable ¡outcomes ¡ ¡ – Apply ¡a ¡decision ¡procedure ¡that ¡is ¡norma5vely ¡ jus5fiable ¡ ¡

• (E.g., ¡consistent ¡with ¡the ¡laws ¡and ¡principles ¡of ¡

logic, ¡probability, ¡and ¡expected ¡u8lity) ¡

• More ¡recent ¡views ¡of ¡researchers ¡

– A ¡decision ¡procedure ¡is ¡fine ¡if ¡

• … ¡it ¡works ¡well ¡in ¡the ¡problem ¡seing ¡in ¡which ¡it ¡is ¡

applied, ¡even ¡if ¡nowhere ¡else ¡(ecological ¡ ra5onality) ¡

• … ¡it ¡makes ¡good ¡use ¡of ¡the ¡chooser’s ¡limited ¡8me ¡

and ¡cogni8ve ¡resources ¡

24

What ¡Do ¡People ¡Want? ¡(1)

¡

• 1. Achieve ¡a ¡good ¡outcome ¡

– But ¡with ¡respect ¡to ¡what ¡goal? ¡ – Example ¡

• A ¡new ¡applica8on ¡you’ve ¡installed ¡has ¡malfunc8oned ¡and ¡

caused ¡an ¡important ¡file ¡to ¡be ¡corrupted ¡

• Choice: ¡Shall ¡I ¡uninstall ¡this ¡applica8on? ¡
• Possible ¡goals: ¡

– a. ¡Maximize ¡my ¡overall ¡work ¡efficiency ¡from ¡now ¡on ¡ – b. ¡Minimize ¡the ¡likelihood ¡that ¡another ¡important ¡file ¡will ¡be ¡ corrupted ¡

• 2. Don’t ¡spend ¡too ¡much ¡8me ¡and ¡effort ¡

What ¡Do ¡People ¡Want? ¡(2)

¡

• 3. Avoid ¡unpleasant ¡thoughts ¡

– Difficult ¡tradeoffs ¡between ¡two ¡valued ¡outcomes ¡

• (When ¡dealing ¡with ¡an ¡urgent ¡text ¡message:) ¡Keeping ¡on ¡

good ¡terms ¡with ¡your ¡boss ¡vs. ¡arriving ¡safely ¡at ¡your ¡ des8na8on ¡

– Emo5onally ¡charged ¡nega8ve ¡consequences ¡

• Causing ¡an ¡accident ¡while ¡tex8ng ¡
• 4. Be ¡able ¡to ¡jus8fy ¡the ¡choice ¡to ¡other ¡people ¡–

and ¡to ¡yourself ¡

– Jus8fy ¡the ¡specific ¡op5on ¡that ¡you ¡have ¡chosen ¡ – Jus8fy ¡the ¡procedure ¡by ¡which ¡you ¡made ¡the ¡choice ¡

ASPECT ¡PaUerns ¡

Example ¡Choice ¡Situa8on ¡

The ¡Big ¡Picture ¡

AUribute-­‑Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability ¡

– The ¡op8ons ¡can ¡be ¡viewed ¡ meaningfully ¡as ¡items ¡that ¡can ¡be ¡ described ¡in ¡terms ¡of ¡aAributes ¡ and ¡levels ¡ – The ¡desirability ¡of ¡an ¡item ¡can ¡be ¡ es8mated ¡in ¡terms ¡of ¡an ¡ evalua8on ¡of ¡its ¡levels ¡of ¡various ¡ aAributes ¡

• Typical ¡Procedure ¡

– (Op8onal:) ¡C ¡reflects ¡in ¡advance ¡ about ¡the ¡situa8on-­‑specific ¡ rela8ve ¡importance ¡of ¡aAributes ¡ and/or ¡values ¡of ¡aAribute ¡levels ¡ – C ¡reduces ¡the ¡total ¡set ¡of ¡op8ons ¡ to ¡a ¡smaller ¡considera8on ¡set ¡on ¡ the ¡basis ¡of ¡aAribute ¡informa8on ¡ – C ¡chooses ¡from ¡among ¡a ¡ manageable ¡set ¡of ¡op8ons ¡

Consequence-­‑Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability ¡

– The ¡choices ¡are ¡among ¡ac8ons ¡that ¡will ¡ have ¡consequences ¡

• Typical ¡Procedure ¡

– C ¡recognizes ¡that ¡a ¡choice ¡about ¡a ¡ possible ¡ac8on ¡can ¡(or ¡must) ¡be ¡made ¡ – C ¡assesses ¡the ¡situa8on ¡ – C ¡decides ¡when ¡and ¡where ¡to ¡make ¡the ¡ choice ¡ – C ¡iden8fies ¡one ¡or ¡more ¡possible ¡ac8ons ¡ (op8ons) ¡ – C ¡an8cipates ¡(some ¡of) ¡the ¡ consequences ¡of ¡execu8ng ¡the ¡op8ons ¡ – C ¡evaluates ¡(some ¡of) ¡the ¡an8cipated ¡ consequences ¡ – C ¡chooses ¡an ¡op8on ¡that ¡rates ¡ (rela8vely) ¡well ¡in ¡terms ¡of ¡its ¡ consequences ¡

Experience-­‑Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability

¡

– C ¡has ¡made ¡similar ¡choices ¡ in ¡the ¡past ¡

• Typical ¡Procedure ¡

– C ¡applies ¡recogni8on-­‑ primed ¡decision ¡making ¡ – or ¡C ¡acts ¡on ¡the ¡basis ¡of ¡a ¡ habit ¡ – or ¡C ¡chooses ¡a ¡previously ¡ reinforced ¡response ¡ – or ¡C ¡applies ¡the ¡affect ¡ heuris8c ¡

Socially ¡Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability ¡

– There ¡is ¡some ¡informa8on ¡available ¡about ¡what ¡relevant ¡

• ther ¡people ¡do, ¡expect, ¡or ¡recommend ¡in ¡similar ¡

situa8ons ¡

• Typical ¡Procedure ¡

– C ¡considers ¡examples ¡of ¡the ¡choices ¡or ¡evalua8ons ¡of ¡

• ther ¡persons ¡

– and/or ¡C ¡considers ¡the ¡expecta8ons ¡of ¡relevant ¡people ¡ – and/or ¡C ¡considers ¡explicit ¡advice ¡concerning ¡the ¡op8ons ¡

Policy-­‑Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability ¡

– C ¡encounters ¡choices ¡like ¡this ¡one ¡on ¡a ¡regular ¡basis ¡

• Typical ¡Procedure ¡

– [Earlier:] ¡C ¡arrives ¡at ¡a ¡policy ¡for ¡dealing ¡with ¡this ¡type ¡

• f ¡choice ¡

– [Now:] ¡C ¡recognizes ¡which ¡policy ¡is ¡applicable ¡to ¡the ¡ current ¡choice ¡situa8on ¡and ¡applies ¡it ¡to ¡iden8fy ¡the ¡ preferred ¡op8on ¡ – C ¡determines ¡whether ¡actually ¡to ¡execute ¡the ¡op8on ¡ implied ¡by ¡the ¡policy ¡

Choice ¡Bracke8ng ¡

Read ¡et ¡al. ¡(1999) ¡

38

Benefits ¡of ¡Broad ¡Bracke8ng ¡

• Emergent ¡proper8es: ¡ ¡

– The ¡bracketed ¡whole ¡may ¡have ¡proper8es ¡not ¡found ¡in ¡ the ¡parts, ¡such ¡as: ¡ – Diversity ¡ – Change ¡over ¡8me ¡in ¡the ¡quality ¡of ¡experience ¡

• For ¡example, ¡because ¡of ¡increase ¡in ¡skill ¡or ¡change ¡of ¡taste ¡
• BeAer ¡ways ¡of ¡dealing ¡with ¡tradeoffs ¡

– If ¡each ¡op8on ¡has ¡some ¡strengths ¡and ¡some ¡drawbacks, ¡ the ¡individual ¡choice ¡can ¡be ¡hard; ¡but ¡with ¡broad ¡ bracke8ng, ¡it ¡can ¡be ¡easy ¡to ¡choose ¡a ¡sa8sfactory ¡mix ¡

• Adding-­‑up ¡effects ¡

– Consequences ¡that ¡are ¡negligible ¡for ¡a ¡single ¡choice ¡may ¡ become ¡no8ceable ¡for ¡the ¡bracketed ¡whole ¡ – “Save ¡3 ¡minutes ¡today” ¡vs. ¡“Save ¡a ¡total ¡of ¡10 ¡hours ¡this ¡ year” ¡ ¡

39

Trial-­‑and-­‑Error-­‑Based ¡Choice ¡

• Condi8ons ¡of ¡Applicability ¡

– The ¡choice ¡will ¡be ¡made ¡repeatedly; ¡

• r ¡C ¡will ¡have ¡a ¡chance ¡to ¡switch ¡from ¡
• ne ¡op8on ¡to ¡another ¡even ¡axer ¡

having ¡started ¡to ¡execute ¡the ¡first ¡

• p8on ¡
• Typical ¡Procedure ¡

– C ¡selects ¡an ¡op8on ¡O ¡to ¡try ¡out, ¡either ¡ using ¡one ¡of ¡the ¡other ¡choice ¡paAerns ¡

• r ¡(maybe ¡implicitly) ¡by ¡applying ¡an ¡

explora8on ¡strategy ¡ – C ¡executes ¡the ¡selected ¡op8on ¡O ¡ – C ¡no8ces ¡some ¡of ¡the ¡consequences ¡

• f ¡execu8ng ¡O ¡

– C ¡learns ¡something ¡from ¡these ¡ consequences ¡ – (If ¡C ¡is ¡not ¡yet ¡sa8sfied:) ¡C ¡returns ¡to ¡ the ¡selec8on ¡step, ¡taking ¡into ¡account ¡ what ¡has ¡been ¡learned ¡

Combina8ons ¡of ¡ASPECT ¡PaUerns ¡

• PaAerns ¡P1 ¡and ¡P2 ¡are ¡applied ¡in ¡parallel ¡

– My ¡gut ¡says ¡“Choose ¡A” ¡ – My ¡friends ¡say ¡“Choose ¡B” ¡ – My ¡principles ¡say ¡“Choose ¡C” ¡ – When ¡I ¡think ¡about ¡the ¡consequences, ¡I ¡think ¡I ¡should ¡ choose ¡D ¡

• P2 ¡is ¡applied ¡to ¡produce ¡a ¡choice ¡or ¡evalua8on ¡

needed ¡by ¡P1 ¡

– AAribute-­‑based ¡→ ¡Socially ¡based: ¡

• “Average ¡ra8ng” ¡as ¡a ¡product ¡aAribute ¡

– Trial-­‑and-­‑error-­‑based ¡→ ¡Consequence-­‑based ¡

• “I’ll ¡try ¡A ¡first, ¡since ¡it ¡seems ¡to ¡most ¡likely ¡to ¡yield ¡

good ¡results” ¡

ARCADE ¡Strategies ¡

Access ¡Informa5on ¡and ¡Experience ¡

• Consequence-­‑Based ¡Choice: ¡ ¡
• Experience-­‑Based ¡Choice: ¡Reminders ¡of ¡

past ¡experience ¡

• Trial-­‑and-­‑Error-­‑Based ¡Choice: ¡Informa8on ¡

about ¡(not ¡immediately ¡visible) ¡ consequences ¡

Providing ¡Experience ¡Through ¡Simula8on ¡

Chittaro (2012)

Represent ¡the ¡Choice ¡Situa5on ¡

Combine ¡and ¡Compute ¡

Advise ¡About ¡Processing ¡

• Basic ¡Idea ¡

– Common ¡in ¡self-­‑help ¡books ¡ ¡

Paradox ¡of ¡Choice ¡(Schwartz, ¡2004): ¡

• “Adopt ¡the ¡standards ¡of ¡a ¡sa8sficer ¡

rather ¡than ¡a ¡maximizer” ¡

• “Reduce ¡the ¡number ¡of ¡op8ons ¡you ¡

consider ¡before ¡making ¡a ¡decision” ¡

Explicit ¡and ¡Implicit ¡Advice ¡

“We ¡recommend ¡making ¡a ¡free ¡trial ¡before ¡you ¡ decide ¡whether ¡to ¡buy ¡the ¡product.” ¡

Design ¡the ¡Domain ¡

• Basic ¡Idea ¡

– Change ¡the ¡reality ¡in ¡the ¡domain ¡in ¡ ques8on ¡in ¡a ¡way ¡that ¡makes ¡it ¡ easier ¡to ¡make ¡choices ¡

• Examples ¡

– AAribute-­‑based ¡choice: ¡

• Reduce ¡number ¡of ¡op8ons ¡
• Simplify ¡configura8on ¡seings ¡

– Trial-­‑and-­‑error-­‑based ¡choice: ¡

• Make ¡it ¡easy ¡to ¡try ¡things ¡out ¡without ¡

much ¡cost ¡

Evaluate ¡on ¡Behalf ¡of ¡the ¡Chooser ¡

• AAribute-­‑based ¡choice ¡

– Winnow ¡a ¡large ¡number ¡of ¡

• p8ons ¡down ¡to ¡a ¡

manageable ¡considera1on ¡ set ¡

• Trial-­‑and-­‑error-­‑based ¡

choice ¡

– Recommend ¡an ¡op8on ¡to ¡try ¡

• ut ¡next ¡(cf. ¡cri8que-­‑based ¡

recommenders) ¡

• Policy-­‑based ¡choice ¡

– Recommend ¡a ¡policy ¡

How ¡to ¡Introduce ¡Bias ¡ ¡ (Maybe ¡Inadvertently) ¡(1) ¡

Situa1on: ¡You ¡want ¡to ¡induce ¡C ¡to ¡choose ¡O ¡

• Access ¡Informa1on ¡and ¡Experience: ¡Provide ¡

unrepresenta8ve ¡sample ¡(e.g., ¡not ¡revealing ¡ product ¡weaknesses) ¡

• Represent ¡the ¡Choice ¡Situa1on: ¡Make ¡O ¡salient ¡
• r ¡the ¡default ¡
• Combine ¡and ¡Compute: ¡Perform ¡computa8ons ¡

which, ¡although ¡not ¡necessarily ¡strictly ¡incorrect, ¡ are ¡more ¡likely ¡to ¡lead ¡to ¡a ¡choice ¡of ¡O ¡than ¡

• ther ¡equally ¡valid ¡computa8ons ¡would ¡

How ¡to ¡Introduce ¡Bias ¡ ¡ (Maybe ¡Inadvertently) ¡(2) ¡

• Advise ¡About ¡Processing: ¡Encourage ¡C ¡to ¡apply ¡a ¡

procedure ¡that ¡is ¡especially ¡likely ¡to ¡lead ¡to ¡the ¡ choice ¡of ¡O ¡

• Design ¡the ¡Domain: ¡Make ¡op8ons ¡that ¡might ¡

compete ¡with ¡O ¡unavailable ¡or ¡costly ¡to ¡reach ¡

• Evaluate ¡on ¡Behalf ¡of ¡the ¡Chooser: ¡Recommend ¡

O ¡to ¡C ¡without ¡reason ¡to ¡believe ¡C ¡will ¡be ¡ sa8sfied ¡

How ¡to ¡Support ¡Future ¡Choices ¡

• Educa8on ¡and ¡Training ¡

– Normally ¡too ¡ heavyweight ¡for ¡ everyday ¡choices ¡

• Support ¡for ¡“Learning ¡

While ¡Choosing” ¡