ADVANCED CONTROL

1. ADVANCED CONTROL Ali Karimpour Associate Professor Ferdowsi University of Mashhad Reference: Chi-Tsong Chen, “Linear System Theory and Design”, 1999.

2. Lecture 3 Basic Idea of Linear Algebra-Part II Topics to be covered include: • Functions of Square Matrix. • Lyapunov Equation. • Some Useful Formula. • Quadratic Form and Positive Definiteness. • Singular Value Decomposition. • Norm of Matrices

3. آنچه پس از مطالعه این مبحث می آموزید • محاسبه توابع ماتریسمربعی • Calculation of Function of Square Matrix • چند جمله ای مینیمال و معادله مشخصه • Minimal Polynomials and Characteristic Polynomials • قضیه کیلیهمیلتون • Cayley-Hamilton Theorem • چند جمله ای های معادل بر روی طیف ماتریسA • Equal Polynomials on the Spectrum of A • معادله لیاپانوف و حل آن • Lyapunov Equation and its Solution • ماتریس متقارن و فرم مربعی و ماتریسمتعامد • Symmetric Matrix and Quadratic Form and Orthogonal Matrix • ماتریس مثبت/منفی معین • Matrix and PD/ND Matrix • تجزیه مقادیر تکین • Singular Value Decomposition • محاسبه فضای رنج و پوچ از تجزیه مقادیر تکین • Null Space and Range Space From SVD • نرم ماتریسی • Norm of Matrices

4. Function of Square Matrix چند جمله ای از ماتریس های مربعی ماتریس های بلوکی فرم جردن و در حالت کلی

5. Function of Square Matrix مثال 3-1: ماتریسA و فرم قطری ماتریسA و تبدیل مربوطه داده شده است. مطلوبست: می دانیم:

6. Function of Square Matrix چند جمله ای مونیک: چند جمله ای که ضریب بزرگترین درجه آن برابر یک باشد چندجمله ای مونیک نامیده می شود. مثلا چند جمله ای مینیمال: چند جمله ای مونیک با کمترین درجه که ماتریسA آن را برابر ماتریس صفر کند چند جمله ای مینیمال ماتریس A نامیده می شود. چند جمله ای مشخصه: چند جمله ای مشخصه ماتریسA با ابعاد nn عبارتست از:

7. Function of Square Matrix چند جمله ای مشخصه ماتریسA با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: چند جمله ای مونیک با کمترین درجه که ماتریسA آن را برابر صفر کند چند جمله ای مینیمالماتریس A نامیده می شود.(با توجه به خاصیت نیل پوتنت) قضیه 3-1 (قضیه کیلیهمیلتون): ماتریسA در معادله مشخصه خود صادق است. اثبات:

8. Function of Square Matrix چند جمله ای مشخصه ماتریسA با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2: مطلوبستچند جمله ای مشخصه و چند جمله ای مینیمالماتریسهای زیر

9. Function of Square Matrix چند جمله ای مشخصه ماتریسA با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2(ادامه): مطلوبستچند جمله ای مشخصه و چند جمله ای مینیمالماتریسهای زیر

10. Function of Square Matrix چند جمله ای مشخصه ماتریسA با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2(ادامه): مطلوبستچند جمله ای مشخصه و چند جمله ای مینیمالماتریسهای زیر

11. Function of Square Matrix چند جمله ای دلخواه f(λ) و ماتریسA با ابعاد nn را در نظر بگیرید. می توانf(λ) را به صورت مقابل بیان نمود. حال برای محاسبه f(A) داریم: حال با توجه به قضیه کیلیهمیلتون: نکته: درجه h() ؟ نکته مهم: چند جمله ای h() معادل f(λ) بر روی طیف A نامیده میشود؟ نکته: محاسبه h() ؟

12. Function of Square Matrix محاسبه h() برای حالتی که ماتریسA دارای مقادیر ویژه غیر تکراری است. با قرار دادن مقادیر ویژه A در رابطه فوق داریم: پس از حل n معادله n مجهول داریم:

13. Function of Square Matrix محاسبه h() برای حالتی که ماتریسA دارای مقادیر ویژه تکراری است. قضیه 3-2: معادله f(λ) و ماتریسA با ابعاد nn با معادله مشخصه زیر را در نظر بگیرید. چند جمله ای h() از درجه n-1 و معادلf(λ) بر روی طیف Aبصورت زیر تعریف میشود. پس از حل n معادله n مجهول زیر ضرایب مجهول h() محاسبه می شود. که در این رابطه: و نهایتا:

14. Function of Square Matrix مثال 3-3: مطلوبست محاسبه .A100 فرض کنید .f(λ)=λ100 حال باید مقادیر ویژه A محاسبه شود. حال باید h() را بصورت زیر در نظر بگیریم: حال h() عبارتست از:

15. Function of Square Matrix مثال 3-4: مطلوبست محاسبه eAt فرض کنید .f(λ)=eλt حال باید مقادیر ویژه A محاسبه شود. حال باید h() را بصورت زیر در نظر بگیریم: حال f(A) عبارتست از:

16. Function of Square Matrix مثال 3-5: مطلوبست محاسبه eAt فرض کنید .f(λ)=eλt حال باید مقادیر ویژه A محاسبه شود. حال باید h() را بصورت زیر در نظر بگیریم: حال f(A) عبارتست از: مقایسه با مثال قبل!

17. Function of Square Matrix مثال 3-6: مطلوبست محاسبه فرض کنید .f(λ)=eλt مقادیر ویژه A عبارتست از: حال باید h() را بصورت زیر در نظر بگیریم:

18. Function of Square Matrix مثال 3-7: مطلوبست محاسبه حال با توجه به مثال قبل داریم:

19. Function of Square Matrix خواص مهم سری نمایی: با قرار دادن A در رابطه فوق داریم: تمرین 3-1: با کمک رابطه (I)مطلوبست اثبات چهار خاصیت فوق و خاصیت خیلی مهم: ولی در حالت خاص:........

20. Function of Square Matrix سری نمایی: با قرار دادن A در رابطه فوق داریم: می دانیم: پس: با قدری ساده سازی داریم:

21. Lyapunov Equation معادله مقابل را در نظر بگیرید. این معادله، معادلهلیاپانوف نام دارد و در واقع دارای nm معادله و nm مجهول (درایه های ماتریسM) می باشد. یادآوری: معادله لیاپانوف نیز بصورت زیر قابل نمایش است: حل معادله لیاپانوف:

22. Lyapunov Equation معادله خطی جبری: اسکالر مقدار ویژه A نام دارد اگر بردار غیر صفر v یافت شود که معادله لیاپانوف:

23. Some Useful Formula فرض کنید A و Bماتریسهایمربعی هستند در این صورت فرض کنید C و Dماتریسهایمربعی دلخواه غیر منفرد هستند فرض کنید A ، mnو Bماتریسnmاست در این صورت برای اثبات فرض کنید :

24. Quadratic Form and Orthogonal Matrix ماتریسهای متقارن و فرم مجذوری (مربعی) و ماتریسمتعامد (یکانی) تعریف 3-1: یک ماتریسمتقارن(symmetric) نامیده می شود اگر ترانهاده آن ماتریس با خودش برابر باشد. یعنی: تعریف 3-3: یک ماتریسمتعامد(orthogonal) نامیده می شود اگر تمام ستونهای آن متعامد یکه باشند. در این ماتریسها: تعریف 3-2: برای یک ماتریس متقارنM و هر بردار x عبارت xTMxفرم مجذوری (مربعی) نامیده می شود. 24

25. Quadratic Form and Positive Definiteness قضیه 3-3: برای هر ماتریس حقیقی متقارن M، یک ماتریسمتعامدQ وجود دارد بگونه ای که: ماتریسD، یک ماتریس قطری است که مقادیر ویژه M حقیقی بوده و بر روی قطر D قرار دارد و ستونهای Q هم بردارهای ویژه M می باشد. واضح است که ماتریسD، تبدیل همانندی ماتریسM است پس برای اثبات قضیه کافی است نشان دهیم که -مقادیر ویژه M حقیقی است -بردار ویژه توسعه یافته نداریم و -ماتریسQمتعامد است اثبات: فرض کنید  مقادیر ویژه M است پس حقیقی حقیقی است  تمرین 3-4: نشان دهید برای یک ماتریسمربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل به فرم قطری می تواند متعامد باشد. 25

26. Quadratic Form and Positive Definiteness تعریف 3-4: یک ماتریس متقارن مثبت معین (positive definite) نامیده می شود (M>0) اگر برای هر داشته باشیم تعریف 3-5: یک ماتریس متقارن منفی معین (negative definite) نامیده می شود (M<0) اگر برای هر داشته باشیم تعریف 3-6: یک ماتریس متقارن مثبت نیمه معین (positive semi definite) نامیده می شود (M≥0) اگر برای هر داشته باشیم تعریف 3-7: یک ماتریس متقارن منفی نیمه معین (negative semi definite) نامیده می شود (M0) اگر برای هر داشته باشیم ماتریسهای معین 26

27. Quadratic Form and Positive Definiteness قضیه 3-4: ماتریس حقیقی متقارن M، مثبت معین (مثبت نیمه معین) است اگر و فقط اگر هر کدام از شرایط زیر برقرار باشد. 1- تمام مقادیر ویژه ماتریسM، مثبت (مثبت یا صفر) باشد. 2- تمام کهادهای یا ماینورهای اصلی مقدم ماتریسM، مثبت (مثبت یا صفر) باشد. 3- ماتریس غیر منفردN با ابعاد nn وجود داشته باشد که M=NTN (ماتریس غیر منفردN با ابعاد nn و یا ماتریسN با ابعاد mn با m<n وجود داشته باشد که M=NTN) 27

28. Quadratic Form and Positive Definiteness قضیه 3-5: 1- ماتریسH، با ابعاد mn و فرض m ≥ n دارای رتبه nاست اگر و فقط اگر ماتریسHTH که بعد nn دارد دارای رتبه n بوده یا det(HTH)≠0 2- ماتریسH، با ابعاد mn و فرض m  n دارای رتبه mاست اگر و فقط اگر ماتریسHHT که بعد mm دارد دارای رتبه m بوده یا det(HHT)≠0 قسمت اول را اثبات می کنیم و قسمت دوم بصورت مشابه اثبات می شود. واضح است که باید در طرف قضیه اثبات شود یعنی نشان دهیم: اثبات: فرض کنیم رتبه H مساوی n نباشد پس بردار غیر صفر vوحود دارد به قسمی که: تناقض تناقض فرض کنیم رتبه HTH مساوی n نباشد پس بردار غیر صفر vوحود دارد به قسمی که: 28

29. Singular Value Decomposition (SVD) قضیه 3-6: فرض کنید که MClm در اینصورت ماتریسRlm و ماتریسهاییکانیکه YCll و که UCmm وجود دارد به قسمی که: که در رابطه فوق i ها عبارتست از....................... ستونهای ماتریسY عبارتست از....................... ستونهای ماتریسU عبارتست از.......................

30. Singular Value Decomposition (SVD) مثال 3-8: مطلوبست تجزیه مقادیر تکین ماتریس مقابل Has no affect on the output or فضای رنج ماتریسM عبارتست از....................... فضای پوچ ماتریسM عبارتست از.......................

31. p-norm is: For p=1 we have 1-norm or sum norm For p=2 we have 2-norm or euclidian norm For p=∞ we have ∞-norm or max norm Norm of vectors

32. Sum matrix norm (extension of 1-norm of vectors) is: Frobenius norm (extension of 2-norm of vectors) is: Max element norm (extension of max norm of vectors) is: Norm of matrices نرم برداری را می توان به ماتریسها هم گسترش داد.

33. Induced matrix norm یک نرم برای ماتریسها نرم ماتریسی نامیده می شود اگر دارای خاصیت زیر باشد: نرم القاییبصورت زیر تعریف می شود: هر نرم القایی نرم ماتریسی است.

34. Maximum column sum Maximum row sum Matrix norm for matrices با فرض p=1 در رابطه نرم القایی داریم: با فرض p= در رابطه نرم القایی داریم: با فرض p=2 در رابطه نرم القایی داریم:

35. Exercisesتمرینها تمرین 3-1: با کمک رابطه روابط زیر را اثبات کنید. تمرین 3-3: نشان دهید در یک ماتریسمربعی با مقادیر ویژه مجزا، بردارهای ویژه از هم مستقل هستند. (راهنمایی: اثبات با برهان خلف و تشکیل ) تمرین 3-4: نشان دهید برای یک ماتریسمربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل به فرم قطری می تواند متعامد باشد. (راهنمایی: اثبات با برهان خلف)

36. Exercisesتمرینها تمرین 3-5: نشان دهید اگر λ مقدار ویژه ماتریسA بوده و x بردار ویژهمتناظر آن باشد در اینصورت f(λ) مقدار ویژه ماتریسf(A) بوده و x بردار ویژه متناظر آن است. تمرین 3-6: نشان دهید توابع یک ماتریس خاصیت جابجایی دارد یعنی: f(A)g(A)=g(A)f(A) تمرین 3-7: فرض کنید مطلوبست تعیین Bبگونه ای که eB=C . نشان دهید که اگر λi=0 باشد آنگاه B وجود ندارد. حال فرض کنید مطلوبست تعیین Bبگونه ای که eB=C . آیا درست است که برای هر C غیر منفرد ماتریسB وجود دارد که eB=C تمرین 3-8: اگرماتریسA متقارن باشد رابطه بین مقادیر ویژه و مقادیر تکین چیست؟ (راهنمایی: در ماتریسهای متقارن داریم: A=A2)

37. Exercisesتمرینها تمرین 3-9: تمرین 3-10: تمرین 3-11: تکرار 3-9 برای ماتریسهای زیر

38. Exercisesتمرینها تمرین 3-12: تمرین 3-13: تمرین 3-14: تمرین 3-15: نشان دهید که:

39. Answers to selected problems پاسخ تمرین 3-7: پاسخ تمرین 3-11: پاسخ تمرین 3-14: