SLIDE 21 Material ¡& ¡Methods ¡(Contd)
¡ Basic ¡Decision ¡Tree ¡Learning ¡Algorithm: ¡ ¡ DT ¡Algorithm ¡(Samples, ¡A,ributeList, ¡TargetA,ribute) ¡ ¡ If ¡all ¡values ¡of ¡TargetASribute= ¡Posi#ve ¡
Return ¡a ¡leaf ¡node ¡label ¡it ¡Posi#ve ¡
¡ If ¡all ¡values ¡of ¡TargetASribute= ¡Nega#ve ¡
Return ¡a ¡leaf ¡node ¡label ¡it ¡Nega#ve ¡
¡ If ¡ASributeList ¡is ¡empty ¡
Return ¡a ¡leaf ¡node ¡with ¡the ¡most ¡common ¡TargetASribute ¡(Posi#ve, ¡Nega#ve) ¡
¡ Select ¡best ¡splimng ¡aSribute ¡(highest ¡informa#on ¡gain ¡based ¡on ¡informa#on ¡theory) ¡ ¡ Create ¡node ¡labeled ¡with ¡best ¡splimng ¡aSribute ¡name ¡ ¡ For ¡each ¡value ¡ai ¡of ¡samples ¡in ¡SelectedASribute ¡
Let ¡Si ¡be ¡the ¡set ¡of ¡samples ¡in ¡Samples ¡for ¡which ¡TestASribute=ai ¡ ¡ ¡If ¡Si ¡is ¡not ¡empty ¡ ¡ ¡ ¡ ¡ASach ¡the ¡node ¡returned ¡by ¡DT ¡Algorithm ¡(Si, ¡A,ributeList, ¡Target ¡A,ribute) ¡
Root ¡Node ¡ Decision ¡Node ¡ Leaf ¡Node ¡ Arc/Edge ¡
Stopping ¡criterion: ¡ ¡
if ¡all ¡the ¡samples ¡belong ¡to ¡one ¡class ¡or ¡if ¡all ¡the ¡aSributes ¡are ¡used ¡to ¡construct ¡the ¡tree. ¡