Slides for 15-381/781 15-381/781 Fall 2016 - PowerPoint PPT Presentation

Slides for 15-381/781 15-381/781 Fall 2016 ������� ���������������� Slides courtesy of Machine Learning �������������� Instructors: Ariel Procaccia & Emma Brunskill Slides courtesy of Zico Kolter ������������ ���� �

������� ������������������������� �������������������� ���������� ������������������������ ����������� ������������������� �������������������� ������������� ��������������������������������� ��������������������� �

������� ������������������������� �������������������� ���������� ������������������������ ����������� ������������������� �������������������� ������������� ��������������������������������� ��������������������� �

������������� ������������������� ��������� ��������������������� ���������������������������������� ������ ��������������������������������� ����������������� ������� � ��������������������������������� � �

������������� ������������������������������������������������������ ��������������������������������������������������� �������������������������������������� ������������������������� ������������������������������� �������������������������������������� ������������������������������������������� ���������������� ������������������������������������������� ������������������� � �

���������� ���������������� ���������� ���������� �������� ���������� � � � � ���������������������������� ������������� � � , 2 � � , 0 � � , 8 � � , 5 � � � �

���������� ���������� ���������� � � � � ���������������������������� ������������� � � , 2 ���������������� � � , 0 ���������� � � �������� − → , 8 h θ � � , 5 � � � �

� ���������������������������� ������������� � � , 2 ���������� ���������������� � � � � ���������� = h θ , 0 ���������� � � � � �������� − → ���������� = h θ , 8 h θ � � � � � , 5 � � � �

��������������������� ������������� � � ���������� ���������������� � � � � ���������� = h θ ���������� � � � � �������� − → ���������� = h θ h θ � � � � � � � � �

������� ������������������������� �������������������� ���������� ������������������������ ����������� ������������������� �������������������� ������������� ��������������������������������� ��������������������� �

� ��������������� �������������������������� ���������������������������������������������������������� ��������� ������������������������������������������������������� �������������������� ���������������� ���� ���� ���� ���� ���� ���� ���� ���� ���� ���� ���� ���� � � � � � � �

3 2.8 Peak Hourly Demand (GW) 2.6 2.4 2.2 2 1.8 1.6 65 70 75 80 85 90 High Temperature (F) ������������������������������� ������������������������������ ��

����������������� ����������� ≈ θ 1 · ( ���������������� ) + θ 2 ���������������� θ 1 ��� θ 2 ����� ������������������������������������������������ ������ ������������������������������������������������������������ ��

����������������������������������������������� 3 Observed data 2.8 Linear regression prediction Peak Hourly Demand (GW) 2.6 2.4 2.2 2 1.8 1.6 65 70 75 80 85 90 High Temperature (F) ��

�������� �������������� � x ( i ) ∈ R n , i = 1 , . . . , m � ������������������������ i � � ����� x ( i ) ∈ R 2 = 1 ������ � y ( i ) ∈ R � ���������� ����� � ����� y ( i ) ∈ R = { ������������������� i } ���������������� � θ ∈ R n ������������������� � h θ ( x ) : R n → R � �������������������� h θ ( x ) ��������� ���������� ������������� y � ���� ����������������� n � h θ ( x ) = x T θ = x i θ i i =1 ��

�������������� ������������������������������������������������������������ ����� ������������������������������� ������������� ℓ : R × R → R + ������������ ���������������������������������������� h θ ( x ) ������������� y � ��������������������������������� y ����� ��������������� ������������ ℓ ( h θ ( x ) , y ) = ( h θ ( x ) − y ) 2 ��