Download
1 / 14
180 likes | 719 Views
המחלקה לניהול תעשייתי סמסטר א', תשע"ב. רגרסיה לינארית, ניתוח שונות ותכנון ניסויים סטטיסטיים הרצאה 7 טרנספורמציות. טרנספורמציות. מודלים של רגרסיה ליניארית נקראים מודלים נסיבתיים, הנותנים הסבר נסיבתי לגבי הקשר שבין משתנה אחד לשני. כזכור, ברגרסיה ליניארית המודל הינו:. ערך אמיתי. אומדן.
E N D
המחלקה לניהול תעשייתי סמסטר א', תשע"ב רגרסיה לינארית, ניתוח שונות ותכנון ניסויים סטטיסטייםהרצאה 7טרנספורמציות
טרנספורמציות מודלים של רגרסיה ליניארית נקראים מודלים נסיבתיים, הנותנים הסבר נסיבתי לגבי הקשר שבין משתנה אחד לשני. כזכור, ברגרסיה ליניארית המודל הינו: ערך אמיתי אומדן אך מה קורה כאשר הפונקציה שמבטאה את הקשר בין משתנים אינה ליניארית?
טרנספורמציות: דוגמה 1 לדוגמא: בעזרת טרנספורמציה פשוטה ניתן להפוך את המודל הנ"ל למודל ליניארי: נגדיר משתנה: המודל החדש שמתקבל לאחר טרנספורמציה זו הינו ליניארי: כעת ניתן להריץ מודל רגרסיה ליניארית, ובו קשר בין x1 ל- z הוא ליניארי.
טרנספורמציות: דוגמה 2 פונקציית ייצור מפורסמת קוב-דוגלאס: תפוקה (Y) כפונקציה של שתי תשומות, למשל שעות עבודה ידנית (x1) ושעות מכונה (x2): נבצע טרנספורמציה למודל ליניארי בעזרת הפעלת פונקציית ln על שני אגפים של משוואה (טרנספורמציית חזקה): נגדיר 4 משתנים הבאים: לאחר הטרנספורמציה מתקבל מודל ליניארי הבא:
טרנספורמציות: דוגמה 2 כעת נריץ רגרסיה ליניארית על מודל המתקבל לאחר הטרנספורמציה למשתנים החדשים. תמיד, לאחר מציאת הפתרון למקדמים שונים, נחזור לערכים המקוריים (טרנספורמציה הפוכה). כלומר, אחרי שנמצא אומדנים למקדמים נצטרך לבצע טרנספורמציה הפוכה על מנת למצוא ערכים מקוריים של מקדמים בדוגמה שלנו בעצם יש צורך לבצע טרנספורמציה הפוכה רק לשם מציאת :
טרנספורמציות: דוגמה 3 פונקציה מפורסמת בתחום מכירות – עקומת S: (מכירות (y) כפונקציה של אורך חיי המוצר (t)) נבצע טרנספורמציה למודל ליניארי בעזרת פונקציית ln (טרנספורמציה מעריכית): נגדיר 3 משתנים הבאים: לאחר הטרנספורמציה מתקבל מודל ליניארי הבא:
טרנספורמציות: דוגמה 4 פונקציה מפורסמת נוספת הינה גידול אקספוננציאלי באחוז קבוע (למשל, מכירות הגדלות בשנה ב -5%): (מכירות (y) כפונקציה של תקופה (t)) גם במקרה זה נבצע טרנספורמציה למודל ליניארי בעזרת פונקציית ln (טרנספורמציה מעריכית): נגדיר משתנה הבא: לאחר הטרנספורמציה מתקבל מודל ליניארי הבא:
טרנספורמציות: דוגמה 5 פונקציה מפורסמת נוספת – מודל המתאר ירידה לאורך זמן המתכנסת לגודל קבוע (למשל, ירידה קבועה במכירות באחוז קבוע הנעצרת בגודל קבוע a): (מכירות (y) כפונקציה של תקופה (t)) נבצע טרנספורמציה למודל ליניארי ע"י הגדרת משתנה חדש: טרנספורמציה מסוג זה נקראת טרנספורמציה הופכית לאחר הטרנספורמציה זו מתקבל מודל רגרסיה ליניארית פשוטה:
טרנספורמציות: דוגמה 6 לכל פולינום מכל סדר ניתן לבצע טרנספורמציה פולינומיאלית באופן הבא (נדגים בעזרת פולינום מסדר שלישי): נגדיר משתנים חדשים: לאחר הטרנספורמציה מתקבל מודל רגרסיה ליניארית מרובה:
טרנספורמציות: דוגמה 7 נציג קשרים אחרים האפשריים בין X ל- Y. למשל, נתונה פונקציה הבאה: נבצע טרנספורמציה הופכית ע"י הגדרת משתנה הבא: לאחר הטרנספורמציה מתקבל מודל רגרסיה ליניארית מרובה:
טרנספורמציות: דוגמה 8 נציג קשרים אחרים האפשריים בין X ל- Y. למשל, נתונה פונקציה הבאה: נבצע טרנספורמציה מעריכית בעזרת הפעלת ln: נגדיר משתנים חדשים הבאים: לאחר הטרנספורמציה מתקבל מודל רגרסיה ליניארית הבא: כדי שהנחות היסוד של המודל יהיו תקפות, מניחים ש: ועל כן
טרנספורמציות: דוגמה 9 נציג דומה לפונקציה שלא ניתן עבורה לבצע טרנספורמציה למודל ליניארי. למשל, נתונה פונקציה הבאה: המודל אינו ליניארי ולא ניתן לבצע טרנספורמציה שתביא למודל ליניארי, לכן לא ניתן לאמוד בשיטת רגרסיה ליניארית את הפרמטרים קיימות שיטות של אמידה והסקה סטטיסטית למודלים של רגרסיה לא ליניארית, אך לא נלמד אותם במסגרת קורס זה.
לסיכום • משפט טיילור: לכל פונקציה ניתן למצוא קירוב בעזרת פולינום. • ברגרסיה משתמשים בכמה שפחות חזקות על מנת לא לאבד דרגות חופש. מספר דרגות חופש הינו הפרש בין מספר התצפיות (גודל המדגם) לבין מספר המקדמים שאומדים. • שואפים שמספר התצפיות ביחס למספר המקדמים יהיה גדול ככל האפשר, ככל שמספר דרגות חופש יותר גדול, כך מודל הרגרסיה הינו יותר טוב. • האמינות של המודל גדולה יותר ככל שמספר דרגות חופש גדול יותר. • בעיה נוספת שעלולה להיווצר הינה שיתכן וקיימת תלות בין משתנים בלתי תלויים. • בכדי להתגבר על בעיה זו נשתמש בשיטת רגרסיה בשלבים stepwise.
הקשר בין דרגות החופש לאמינות המודל • ככל שנוסיף משתנים בלתי תלויים, נוכל להגדיל את 2R באופן מלאכותי: • על מנת להגדיל את 2R יש להגדיל את SSR. ככל שנוסיף יותר משתנים מסבירים ה-SSE יקטן (או לפחות לא יגדל) ועל כן SSR גדל. • אולם, 2R(בניגוד למבחן F למשל) אינו מתחשב במספר משתנים בלתי תלויים ודרגות חופש של SSE, SSR ו-SST. • לכן, מדד חלופי ל- 2Rשמתחשב במספר משתנים ב"ת ודרגות חופש הינו Adjusted2R:
