Transformation Matrix: Eigenvalues & Eigenvectors "คุณสมบัติ"

ขอกำหนดข้อตกลงบางอย่างก่อนนะ ไม่อยากจะเขียนอะไรยั้วเยี้ย ...

• A เป็นเมตริกซ์จัตุรัสที่มีมิติเท่ากับ n × n และมี eigenvector
• A_i คือเวกเตอร์ของ แถว ที่ i ของ A (สังเกตว่า แถว เรียงอยู่ในแนวนอน แต่ถือว่า A_i เป็นเมตริกซ์แนวตั้ง) ดังนั้น A = ( A₁ : A₂ : A₃ : ... : A_n )

เผื่อลืม: ถ้าไม่รู้ว่าสัญลักษณ์ ( A₁ : A₂ : A₃ : ... : A_n ) คืออะไร ไปดูที่ Transformation Matrix: พื้นฐาน นะ

คุณสมบัติพื้นฐาน ที่สำคัญ ๆ ของ eigenvalue และ eigenvector ก็คือ

λ เป็น Eigenvalue ของ A ก็ต่อเมื่อ det(A - λI) = 0

สมมติว่า u เป็น eigenvector ของ A และมี eigenvalue เป็น λ จากนิยาม เราจะรู้ว่า

Au = λu
Au - λu = 0

จาก Iu = u

Au - λIu = 0

จากคุณสมบัติการกระจายของเมตริกซ์

(A - λI)u = 0

ได้ระบบสมการเชิงเส้น n ตัวแปร ที่พจน์ของค่าคงที่ทางขวาเป็น 0 หมด

เนื่องจากเราสนใจเฉพาะกรณี u ≠ 0 แสดงว่า สามารถเลือก u ที่ทำให้ (A - λI)u = 0 ได้ มันก็แปลว่า

เซตของเวกเตอร์ n เส้น จากแต่ละแถวของ A - λI มีคุณสมบัติ linear dependency

ซึ่งประโยคนี้ เทียบเท่ากับ

det(A - λI) = 0

เผื่อลืม: เรื่องของ det กับคุณสมบัติ linear dependency มีอยู่ใน 3 เรื่องนี้นะ

1. ตามหาความหมายของ Determinant: Linear Combination
2. Discrete: Linear Dependency
3. Continuous: Linear Dependency

ตอนนี้เราพิสูจน์ "ถ้า ... แล้ว" ได้เรียบร้อยละ การจะพิสูจน์ย้อนกลับก็ง่าย ๆ นะ ทำจากล่างขึ้นบนก็ได้เลย เพราะมันเป็น "ก็ต่อเมื่อ" ทุกขั้น ไม่เขียนให้ดูละกัน

จริง ๆ แล้ว จำนวน Eigenvector เป็นอนันต์

เหมือนกับโกหกกันไปแล้วทีนึงนะ ว่าปกติ จะมี eigenvector อยู่ (ไม่เกิน) n เส้น ... :P

จริง ๆ มันก็ไม่ใช่โกหกอะนะ เพราะมีคำว่า "ปกติ" อยู่ :D ... จริง ๆ มันขึ้นกับนิยามมากกว่าแหละ ลองดูนี่สิ

Au = λu

ถ้าเราเอาจำนวนจริง c ≠ 0 คูณเข้าไปทั้งสองข้าง

cAu = cλu

จากคุณสมบัติพื้นฐานของเมตริกซ์และเวกเตอร์ ...

A(cu) = λ(cu)

เห็นมั้ยว่า ถ้า u เป็น eigenvector แล้ว cu ก็เป็น eigenvector แต่ว่าเวกเตอร์พวกนี้มันขนานกัน บางคนก็เลยไม่สนใจไง ถือว่ามันเป็นพวกเดียว ๆ กัน นับ 1 (หรือจะบอกว่า นับแต่ unit eigenvector ก็ได้)

แต่มันก็มีความไม่ปกติที่ไม่ได้มาจากนิยามด้วยนะ ลองดูกรณีที่ eigenvector สองตัวมี eigenvalue เท่ากันซักหน่อย ...

Au = λu
Av = λv
⇓
A(pu + qv) = λ(pu + qv)
ดังนั้น pu + qv ก็เป็น eigenvector

ผลรวมเชิงเส้นของ eigenvector พวกนี้ ก็เป็น eigenvector หมดเลย!!!

แนะแนวการมอง

สมมติว่า E เป็นเซตของ eigenvector ทั้งหมดของ A และเราต้องการเลือก eigenvector กลุ่มนึง (ให้เป็นเซต S) ซึ่งมีคุณสมบัติว่า span(E) = span(S) และจำนวนสมาชิกของ S น้อยที่สุด

คุณสมบัติที่สำคัญอย่างแรกของ E (และ S) ก็คือ ถ้า x ∈ span(E) แล้ว Ax ∈ span(E) ด้วย เพราะว่า

A(a₁e₁ + a₂e₂ + a₃e₃ + ... + a_me_m)
= a₁Ae₁ + a₂Ae₂ + a₃Ae₃ + ... + a_mAe_m
= λ₁a₁e₁ + λ₂a₂e₂ + λ₃a₃e₃ + ... + λ_ma_me_m ∈ span(E)
เมื่อ m = | E |

ถ้า A เป็นเมตริกซ์สมมาตรแล้ว x จะตั้งฉากกับ e ∈ E ก็ต่อเมื่อ Ax ตั้งฉากกับ e

ถ้า A เป็นเมตริกซ์สมมาตร เราจะรู้ว่า

A = A^T

สมมติว่า e เป็น eigenvector ที่มี eigenvalue เป็น λ เราจะรู้ว่า

Ae = λe

แล้วก็สมมติอีกว่า x เป็นเวกเตอร์ที่ตั้งฉากกับ e

x ⋅ e = 0

เพื่อให้เขียนง่ายขึ้น เราจะเขียนแทนผลคูณภายในด้วยการคูณเมตริกซ์ แบบนี้ ...

x^Te = 0

จากสมการแรก ถ้าเราเอา x^T คูณทางซ้าย จะได้เป็น

x^TAe = λx^Te
x^TAe = 0

ซึ่ง ถ้าใส่ transpose เข้าไป จะกลายเป็น

e^TA^Tx = 0

แต่เนื่องจาก A = A^T ดังนั้น

e^TAx = 0

แสดงว่า Ax ตั้งฉากกับ e ด้วย

ส่วนการพิสูจน์ย้อนกลับว่า "ถ้า Ax ตั้งฉากกับ e แล้ว x ตั้งฉากกับ e ด้วย" ก็ทำย้อนกลับได้ง่าย ๆ เหมือนกัน ... ไม่เขียนให้ดูแล้วนะ

การสร้าง Orthonormal Basis จาก Eigenvector

จริง ๆ เราสามารถหาเซต S ของ eigenvector ที่ตั้งฉากกันและเป็น basis ที่สมบูรณ์ (span(S) = span(E)) ได้จากแนวคิดที่แล้ว โดยคิดว่า ถ้าเราหา eigenvector ได้แล้วตัวนึง เราก็ตัดเวกเตอร์ทั้งหมดที่ไม่ตั้งฉากกับ eigenvector ตัวนั้นทิ้งจากการพิจารณาได้ ดังนั้น eigenvector ตัวต่อ ๆ ไปที่หาได้ มันจะตั้งฉากกับตัวก่อนหน้าทั้งหมด

ที่เอามาให้ดูต่อไปนี้ เป็นอีกวิธีนึงสำหรับพิสูจน์ การมีอยู่จริงของ orthonormal basis จาก eigenvector โดยใช้หลักการที่ว่า ถ้าเซต S ของ eigenvector ยังไม่เป็น basis ที่สมบูรณ์ (คือ span(S) ≠ span(E)) เราจะสามารถหา e ∈ E - S ที่ตั้งฉากกับสมาชิกทุกตัวใน S ได้

สมมติว่า u กับ v เป็น eigenvector สองตัวที่มี eigenvalue เป็น λ กับ μ ตามลำดับ

Au = λu
Av = μv

เติมผลคูณภายในเข้าไปแบบนี้

v^TAu = λv^Tu
u^TAv = μu^Tv

เอาอันล่างมา transpose จะได้

v^TA^Tu = μv^Tu

เนื่องจาก A = A^T ฝั่งซ้ายของสมการนี้ จะไปเท่ากับสมการข้างบน ดังนั้น

λv^Tu = μv^Tu

ซึ่งแปลว่า λ = μ หรือ v^Tu = 0

ถึงตรงนี้ บางคนอาจจะเห็นว่า มันคล้าย ๆ กับบทพิสูจน์เรื่องที่แล้วเลย ... ถูกแล้วหละ จริง ๆ มันคืออันเดียวกันเลย

ถ้า v^Tu = 0 มันก็แปลว่า u ตั้งฉากกับ v อยู่แล้ว ... ส่วนอีกกรณีนึง ...

ถ้า λ = μ

เราพิสูจน์ไปแล้วว่า

w = pu + qv จะเป็น eigenvector ด้วย

ซึ่งถ้า u กับ v ไม่ขนานกัน เราจะสามารถหา w ที่ตั้งฉากกับ u ได้แน่ ๆ