Local Search Toolbox so far Uninformed search BFS, DFS, - - PowerPoint PPT Presentation

Local ¡Search ¡

Toolbox ¡so ¡far ¡

• Uninformed ¡search ¡

– BFS, ¡DFS, ¡Itera;ve ¡deepening ¡DFS, ¡Uniform ¡cost ¡ search ¡

• Heuris;c ¡search ¡

– A* ¡

Review ¡

• Search: ¡

– Use ¡in ¡environments ¡that ¡are ¡sta;c, ¡discrete, ¡ 100% ¡observable, ¡determinis;c. ¡

• Things ¡we ¡care ¡about: ¡

– Completeness, ¡op;mality, ¡;me/space ¡complexity. ¡

New ¡Idea: ¡Local ¡Search ¡

• Can ¡be ¡used ¡when ¡path ¡from ¡start ¡state ¡to ¡

goal ¡doesn't ¡maOer ¡(only ¡the ¡goal ¡maOers). ¡

• Process ¡is ¡slightly ¡different ¡than ¡"normal" ¡

search: ¡

– Nodes/states ¡are ¡always ¡complete ¡solu;ons ¡to ¡ the ¡problem, ¡not ¡par;al ¡solu;ons. ¡ – One ¡current ¡node ¡is ¡maintained ¡that ¡has ¡the ¡best ¡ solu;on ¡at ¡the ¡moment. ¡ – Ac+ons ¡generate ¡new ¡nodes ¡with ¡new ¡complete ¡ solu;ons. ¡

Local ¡Search ¡

• Benefits: ¡

– Use ¡very ¡liOle ¡memory, ¡oWen ¡constant. ¡ – Can ¡search ¡very ¡large ¡state ¡spaces ¡quickly. ¡

• Useful ¡in ¡op;miza;on ¡problems. ¡

State-­‑space ¡landscape ¡

State-­‑space ¡landscape ¡

Graph ¡that ¡shows ¡the ¡values ¡of ¡the ¡heuris;c ¡ cost ¡func;on ¡or ¡objec;ve ¡func;on ¡in ¡terms ¡

• f ¡the ¡search ¡space ¡of ¡possible ¡states. ¡

Hill ¡climbing ¡algorithm ¡

• Loop ¡that ¡looks ¡at ¡all ¡possible ¡neighbors ¡of ¡the ¡current ¡

state, ¡and ¡picks ¡the ¡one ¡that ¡increases ¡the ¡op;miza;on ¡ func;on ¡the ¡most. ¡

14 18 17 15 14 18 14 14 14 14 14 12 16 12 13 16 17 14 18 13 14 17 15 18 15 13 15 13 12 15 15 13 15 12 13 14 14 14 16 12 14 12 12 15 16 13 14 12 14 18 16 16 16 14 16 14

Variants ¡

• Stochas;c ¡hill ¡climbing ¡
• Random-­‑restart ¡hill ¡climbing ¡

Simulated ¡annealing ¡

Temperature ¡ gets ¡lower ¡

• ver ¡;me ¡

Probability ¡is ¡lower ¡ with ¡smaller ¡T, ¡ and ¡lower ¡with ¡ bigger ¡abs(delta-­‑E) ¡

Beam ¡search ¡

• Varia;on ¡of ¡hill ¡climbing ¡

– Use ¡k ¡current ¡states ¡ – Generate ¡all ¡of ¡their ¡successors ¡ – Take ¡k ¡best ¡

• Varia;on: ¡stochas;c ¡beam ¡search ¡

– Adds ¡in ¡probabilis;c ¡idea ¡from ¡simulated ¡

• annealing. ¡

– Same ¡as ¡above, ¡but ¡take ¡k ¡best ¡successors ¡based ¡

• n ¡probability. ¡

Gene;c ¡algorithms ¡

• Varia;on ¡on ¡stochas;c ¡beam ¡search. ¡
• Successor ¡states ¡are ¡generated ¡using ¡two ¡

parent ¡states, ¡not ¡one. ¡ ¡(Crossover) ¡

• Muta;on: ¡Randomly ¡modifies ¡a ¡current ¡state. ¡