260 likes | 475 Views
Approximation Theory ( (תורת הקרוב. Hooke’s law: F(l)=k(l-E), where F(l) is the force required to stretch the spring l units, E is the length with no force applied, k is the spring constant. F l 0 5.3 7.0 9.4 6 12.3. Discrete Data Approximation. xi yi 1 1.3 2 3.5 3 4.2
E N D
Approximation Theory ((תורת הקרוב Hooke’s law: F(l)=k(l-E), where F(l) is the force required to stretch the spring l units, E is the length with no force applied, k is the spring constant. • F l • 0 5.3 • 7.0 • 9.4 • 6 12.3
Discrete Data Approximation xi yi 1 1.3 2 3.5 3 4.2 4 5.0 5 7.0 6 8.8 7 10.1 8 12.5 9 13.0 10 15.6
A minimax problem: find a and b to minimize • Find a and b to minimize the absolute deviation • Find a and b to minimize the least square error Discrete Data Approximation Discrete Least Square Approximation
קירוב ע"י ריבועים פחותים נתונים שמודדים בניסוי תמיד כוללים שגיאות מדידה ולכן אין סיבה שנקרב את הנתונים ע"י פולינום אינטרפולציה שיעבור דרך הנקודות במדויק. רצוי למצוא פולינום או פונקציה אחרת פשוטה שתעבור הכי קרוב לכל הנקודות. השיטה שמאפשרת קירוב כזה היא שיטת ריבועים פחותים (Least Square) וערכי פונקציה (xi)f נניח כי נתונים n נקודות ונניח שרוצים להעביר קו ישר כך שיהיה קרוב לכל הנקודות (קו מגמה ליניארית) Linear Regression נגדיר סכום השאריות בריבוע: נרצה שה- Sr יהיה מינימאלי; כלומר שהקו יהיה הכי קרוב לנקודות. נמצא את המקדמים a0 ,a1 שיתנו את הקירוב הטוב ביותר ע"י גזירת Sr
קו מגמה ליניארית מכאן נקבל מערכת של 2 משוואות ליניאריות ל a0 , a1(משוואות נורמאליות): נכפיל משוואה ראשונה ב והשנייה ב- n ונחסיר. האיבר עם 0aיצטמצם ונקבל 1a :
קו מגמה ליניארית (המשך) ונציב אותם לנוסחת a1 ונקבל: הביטויים ל a0 , a1 יהיו פשוטים יותר אם נסמן ממוצעים נשתמש בתוצאה הזאת יחד אם המשוואה ה"נורמאלית" הראשונה לחישוב a0 : דוגמה: דרוש לבנות קו המגמה לנתונים הבאים (שנמדדו בניסוי): ממוצע17.0724/7 20 4
Least Square Approximation xi yi 1 1.3 2 3.5 3 4.2 4 5.0 5 7.0 6 8.8 7 10.1 8 12.5 9 13.0 10 15.6
Least Square Approximation xi yi 1 1.3 2 3.5 3 4.2 4 5.0 5 7.0 6 8.8 7 10.1 8 12.5 9 13.0 10 15.6
Least Square Approximation xi yi 1 1.3 2 3.5 3 4.2 4 5.0 5 7.0 6 8.8 7 10.1 8 12.5 9 13.0 10 15.6 P(x)=1.538x-0.36
Least Square Approximation: P(x)=ax (Zero-Intercept) a) F(l) l 2 7.0 4 9.4 6 12.3 k=? • b) add • more data • F(l) l • 3 8.3 • 5 11.3 • 14.4 • 10 15.9 • k=?
דרך :i=1, 2, 3 Least Square Approximation: Example ?
איכות הקירוב האם הקירוב "טוב" או לא? א) ב) (ונזכור ש ) נגדיר ואז מקדם המתאם (הקורלציה) r נגדיר כ מקדם המתאם מכמת את החלק מפיזור הנתונים שניתן ליחס להתנהגות מסודרת לפי קו המגמה. שאר הפיזור נובע משגיאות אקראיות. מקדם המתאם הוא 0.93 במקרה א' ו- 0.18 במקרה ב'
ליניאריזאציה של משוואות הקירוב • נניח כי בניסוי נמדדוnערכי הפונקציה וידוע שהפונקציה מתנהגת כ- דרוש למצוא את המקדמים 0b1 ,bכך שהקירוב ע"י הפונקציה יהיה הכי קרוב לנקודות המדידה. ניקח ln משני האגפים של המשוואה: נסמן ונקבל משוואת קו המגמה המקדמים 0a1 ,aניתן למצוא לפי הנוסחאות של קו המגמה ואחר כך לחשב .
WHY? Least Square Approximation: Example
ליניאריזאציה של משוואות הקירוב (המשך) • נניח כי הפונקציה מתנהגת כ . גם במקרה הזה נשתמש בהתמרה לוגריתמית: כמו במקרה הקודם נסמן ושוב נקבל משוואת קו המגמה דוגמה: דרוש לקרב את הנתונים שבטבלה ע"י הפונקציה
ליניאריזאציה של משוואות הקירוב (המשך) • נניח כי הפונקציה מתנהגת כ . נבצע התמרה: ושוב נקבל את משוואת קו המגמה את המקדמים 0a1 ,aנמצא לפי הנוסחאות של קו המגמה ואחר כך נחשב
קירוב ע"י פולינום בשיטת ריבועים פחותים ורוצים להתאים עקומה שתעבור קרוב לנקודות. פרבולה! נניח כי נתונות הנקודות הבאות באופן כללי נניח כי רוצים להתאים את הפולינום מדרגת n לסדרת m הנקודות הנמדדות ((n<mכך שהקירוב יהיה הטוב ביותר. שוב מגדירים: וכדי שהפולינום יהיה הכי קרוב לנתונים דורשים:
או קירוב ע"י פולינום בשיטת ריבועים פחותים מקדמים של הפולינום הם פתרון של מערכת משוואות:
או בצורה של מטריצה: = קירוב ע"י פולינום בשיטת ריבועים פחותים ניתן לסדר את המשוואות:
קירוב ע"י פולינום בשיטת ריבועים פחותים: דוגמא
קירוב ע"י פולינום בשיטת ריבועים פחותים: דוגמא
Least Square Approximation: Exam-1 i 1 2 3 4 5 6 7 8 9 10 xi 4.0 4.2 4.5 4.7 5.1 5.5 5.9 6.3 6.8 7.1 yi 102.56 113.18 130.11 142.05 167.53 195.14 224.87 256.73 299.50 326.72 • a. Construct the LS polynomial of degree one and compute the error. • b. Construct the LS polynomial of degree two and compute the error. • c. Construct the LS polynomial of degree three and compute the error. • d. Construct the LS approximation of the form and compute the error. • e. Construct the LS approximation of the form and compute the error. • f. What form of the relationship is the best fit for the data?