Normal Equation 的直覺解釋

Normal Equation: 當矩陣 A 的寬度小於它的高度時, A x = b 的解可用: 滿足 A' (A x - b) = 0 的 x 來近似

A x 的幾何意義: 當 x 自由變動, A x 產生 A 的 column space

A x = b 想要有解, b 必須落在 A x 的 column space 當中

b 若不落在 A x 的 column space 當中, 只好退而求其次: 至少 b 的投影 projection 必然落在此空間當中 (by definition)

找 x 使得 A x - b 的長度 (也就是誤差值) 最小。

最小值發生在誤差向量與 A 的 column space 垂直時, 也就是說, 希望誤差向量落在 A 的 null space

本頁最新版網址: http://people.ofset.org/~ckhung///b/la/normaleqn.php; 您所看到的版本: September 17 2004 12:27:15.
作者: 朝陽科技大學資訊管理系洪朝貴
寶貝你我的地球, 請減少列印, 多用背面, 丟棄時做垃圾分類。
本文件以 Creative Commons Attribution-ShareAlike License 或以 Free Document License 方式公開授權大眾自由複製/修改/散佈。