Ax b - PowerPoint PPT Presentation

�� �� � ������ � ����� � �������� � ����� � Ax ≈ b �� � � ��� ����� ������� ��� ���� � �� ���� ��������� �

����� ��� � �� ����� ! ��"!���# % &���� '� () �������� ��� �� ����� � � ���� �� ������� ������� ������ � ��� � ���� � �� *� � �� + ���� ! ��"!���# % &���� '� ()� �()� ,() ������� �� � ��!�� � "��������� # � ��$���%� ������� &��!$� ' ��� (����� )$��*� � �� ������� + �#��� �� ����� � ��$���!� ,�-����� � � ������� � � �� -� �� + �����! ������� �� .����-������� �� )������� ��/���� ./�0� �

��� � � 1��0 �+��� � # �� 1��# �+ �� 2�!�&�# + ���� !3 "�� � "��45 � (���/ ��# �������� *������/��# �������� � ������6� � � +� ��!���' �3�� !' 7(���� � � � ��!���� 8���!�����9� � �� �����/�# %3� ����:��� % � ���� % 7�� ������ �; 8��� �� �� � � �������� 8��9� <�=3� �! ��+ � &���# �4!��� � ����/ ��# ����� �3 � "�� � ����/ ��# + ���� ! ��"!���# % &���� '� =�"! ��5 � 7*����� �39 (���� )>4� ���� ()� � ���� (���� )>4� ���� �()� � 7) ����9 , ���� (���� )>4� ���� ,() 7),()9� ?

�� ������� �������� � ����� �� �� @

��� ������� ��� � �� �� A��#!� ����/ ��# �+ �� 2�!�&�# B��%4 A ∈ R n × m , b ∈ R n , Ax ≈ b, ������ A T b � = ∅ + 1��+ ���/�/!� b � = ∅ � ���+ 7� �+�&� ! + 1#+��0 "� 1����# �����/��#9� )3!� ���! ≈ =�� =��&#!� !���!/��# !� ��6� � � + ��� �����3 b ���� �� 3 %�! ������� � �!+�������# �3�� !� �

� ��� / �� ��������� B��%5 m � n r ≡ rank( A ) ≤ min { m, n } , + 1�&�!: +���# �4C � ��� �!+�������# �3�� !� b �∈ R ( A ) ��� � � � �!+�������# �3�� ! . b ∈ R ( A ) D

�� !���" � � ���� �# $����� ���� �� A����# + �!� # ��4����3 �� �!/��# % ����� A T Ax = A T b, �� 5 A T A � "� �3!���� � /� + �=�����0 7��!�9��6����#� ���� � ������ �� 5 !��� � ��4����3 !':� � �� �+���0 + � �!#�0�/� A����# + �!� # ��=�#1�� ��4����3 ����� � � � � � � I A − g b = , A T ∅ ∅ x � ���� �� 5 + � �!#�0���� !��� � ��4����3 �� � !01 ��!0�#� ���# "�!� =#�� ��� �����44! g = Ax − b � � ������ �� 5 ��4����� "� �3!���� � /� ��� �� � �0 ����6����#� E

��% &����'� $����� ���� �� ( ��� � �)* ��=���� A = U r Σ r V T F� %G !��� � A !/ ����4�/ ��# � +���# R ( A ) = R ( U r ) � r +���# ( U r U T �/�� r ) b ∈ R ( A ) � ����/�/!� � �!+�������# �3�� ! Ax = U r U T r b. A��#!� ������/��# ��4����4 Σ r y = U T y = V T ��� r b, r x, + 1�&�!: x = V r y ∈ R ( A T ) , x ⊥ N ( A ) , "� x ������ �� ������ �������� � ����� � ��������� � �� ��� � H

� �� �� � �� ( ������ �������� � ����� �� ��� *��� +�� I

� ��� ,��"�� � �+ �� 2�!�&�# + ���� ! + �!� # () 1��#!� ���� :� + '�� ��# + ����4 �����4 ��%���#!� "�"# � ������/��# + ��"�� # �� �� � �4 %� ���� !��� � A � b U r U T ��%���#! b r b, g = Ax − b = U r U T r b − b = ( U r U T +���# r − I ) b. ������ ������ + 1�+ �4��#!�� :� ����� � + ��� �����3 b ����%4"� %3� 3 � !��� � A + ���:4"�!� =� + 1����4� �� ���� ��� � �������� ������� ����� � b � ��� � ���� � A ��

� �� - � ��.�� � �������"�� � ( ������� J���/!� !��� � E � ����� � g ���� :� � A + E ∼ A, b + g ∼ b, � [ b + g | A + E ] "� � �!+�������# �3�� !� ���3 ∃ x ∈ R m ��� �� � :� ( A + E ) x = b + g. � � ���� � x "� 1����# + '�� ��#%� �+ �� 2�!�&�#%� + ���� !4 Ax ≈ b �� �!3��4 ��� ! � 3+ �! B��%3 7()� �()� ,()� ),()9� � �=�/������ ��� %� � �!+�������#%� �3�� !4 � � + '�� ��#%� + ���� !4 !01#!� �� �!�4 + ��4��� � [ g | E ] =/���� �� � 3+4 B��%3 � ��

<�������� � 3+ 3 B��%5 � !� ��6�4"�!� ����� � b 7+ ����4 �����4� ����� � + �=� ���/�#� ��!01��/ ����� � ��=�4 �3�� !49� A ������%4"� %3� 3 → !" Ax = b + g, min g,x � g � , � !� ��6�4"�!� !��� � A 7!� ���9� b ������%4"� %3� 3 → #!" ( A + E ) x = b, min E,x � E � F , � !� ��6�4"�!� !��� � A � ����� � b → $!" ( A + E ) x = b + g, g,E,x � [ g | E ] � F . min ��

� ��% �+��� ����� ( ������ ���� � � � K���� � / ;� �!4�� � 7) ���� ,()9 + ���� !4 "� "$!" ( A + E ) x = b + g, g,E,x � [ gγ | E ] � F , min ��� ����� ��/�� &#��� γ ∈ (0 , ∞ ) "� �� ����� � %� ������ � <��/� �����������# ;� �!4�� � ),() + ���� !4 "� ( A + ˆ g | ˆ E ) xγ = bγ + ˆ min � [ˆ E ] � F , g, g, ˆ ˆ E,x ��� ˆ � ˆ � , ��� ;� �!4�� � "� + �� �/� ��%� ��0"�#� E ≡ E g ≡ gγ �?

��=� "���������!� B��%�!� +���# �/����4"# # �=��%35 γ = 1 � ),() + ���� ! ,() + ���� !� = γ → 0 � ),() + ���� ! () + ���� !� → �0(� ������ � ������ � � �0(� → x → x (� , (� γ γ → ∞ � ),() + ���� ! �() + ���� !� → ������ � � �0(� → x ������ � → x �(� , �0(� �(� A����# ),() + ���� !4 x = x ( γ ) "� ;4�� # +� ��!���4 γ � + �� γ → 0 , 1 , ∞ "� 1����#! � �+ ��#��"# #%� ()� ,()� �() + ���� !4� �@