1 / 39

מודל הלמידה מדוגמאות Learning from Examples

מודל הלמידה מדוגמאות Learning from Examples. קלט : אוסף של דוגמאות. קונסיסטנטי עם פונקציה f ב- C. ז"א. קונסיסטנטי עם S. פלט :. מודל הלמידה מדוגמאות Learning from Examples. קלט : אוסף של דוגמאות. ז"א. קונסיסטנטי עם פונקציה f ב- C. ז"א. קונסיסטנטי עם S. פלט :. ז"א.

tangia
Download Presentation

מודל הלמידה מדוגמאות Learning from Examples

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S פלט: מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות ז"א קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S פלט: ז"א

  2. פולינומיאלי בכל הפרמטרים חוץ ממספר הדוגמאות m בדרך כללpoly(s,n) זמן ריצת תכנית הלימידה פולינומיאלי בכל הפרמטרים אם קיים פתרון כנ"ל נומר ש-Cניתנת ללמידה מדוגמאות

  3. דוגמא 1: טרם בוליאני Term משתנים Variables טרם בוליאני Term ליטרלים Literal AND דוגמא: בלימידת טרם מדוגמאות בגודל וניתן לחישוב בזמן זמן פולינומיאלי

  4. הטרם הגדול ביותר הקונסיסטנטי עם כל הדוגמאות החיוביות. טרם המטרה T יכול להיות: לכן טרם המטרה T מקיים. זה שקול ל- לכן אין צורך לבדוק את הנקודות השליליות

  5. אלגוריתם ל- Term Input S L:={x1,x1,x2,x2,…,xn,xn} For all (a,1) in S Remove xi from L if ai=0 Remove xi from L if ai=1 Output L זמן למידה מתאימה Proper

  6. דוגמא 2: קלוז בוליאני Clause דה-מורגן Augustus De Morgan 1806-1871

  7. דואליות תכונות משפט הדואליות 1 :אם ניתן ללמוד C מדוגמאות בזמן T אזי ניתן ללמוד CD מדוגמאות בזמן O(T) משפט הדואליות 2 :C ניתנת ללמידה מדוגמאות אם"ם CD ניתנת ללמידה מדומאות

  8. Disjunctive Normal form Conjunctive Normal form דוגמא 3: DNF ו- CNF DNFהוא OR של טרמים CNFהוא AND של קלוזים

  9. DNFניתנת ללמידה מדוגמאות אם ניתן ללמוד אותו בזמן ולחזיר פונקציה ב- P/poly בגודל

  10. משפט הדואליות 1 :אם ניתן ללמוד DNF מדוגמאות בזמן T אזי ניתן ללמוד CNF מדוגמאות בזמן O(T) משפט הדואליות 2 : DNF ניתנת ללמידה מדוגמאות אם"ם CNF ניתנת ללמידה מדוגמאות

  11. אלגוריתם למידה ל- DNF מדוגמאות מה הבעיה? בעיה פתוחה: למידת DNF מדוגמאות

  12. דוגמא 4: MDNF ו- MCNF MDNF הוא Monotone DNF הוא OR של טרמים מונוטונים – ללא שלילה MDNFD = ? משפט 1 :אם ניתן ללמוד MDNF מדוגמאות בזמן T אזי ניתן ללמוד DNF מדוגמאות בזמן O(T) משפט 2 : MDNF ניתנת ללמידה מדוגמאות אם"ם DNF ניתנת ללמידה מדוגמאות

  13. רעיון ההוכחה:

  14. הוכחה: יהי A אלגוריתם לימידה ל- MDNF נגדיר אלגוריתם B זמן צריר להוכיח טענה 1: אם קיים DNF קונסיסטנטי עם S אזי קיים MDNF קונסיסטנטי עם SNew טענה 2: אם h(x,y) קונסיסטנטי עם SNew אזי h(x,x) קונסיסטנטי עם S

  15. דוגמא 5: k-DNF ו- k-CNF k-DNFהואDNFעםטרמיםבגודל לכל היותרk Valiant 2-DNF 2-Term 2-MDNF 2-MTerm משפט 1 :אם ניתן ללמוד k-MDNF מדוגמאות בזמן T אזי ניתן ללמוד k-DNF מדוגמאות בזמן O(T) משפט 2 : k-MDNF ניתנת ללמידה מדוגמאות אם"ם k-DNF ניתנת ללמידה מדוגמאות

  16. אלגוריתם למידה ל-2-MDNFמדוגמאות אפשר להחליף כל טרם במשתנה יש לכל היותר טרמים

  17. זמן לימידת קלוז עםnמשתנים זמן לימידת 2-MDNF זמן לימידת קלוז עםn2משתנים מה גודל ההיפטזה?

  18. זמן לימידת קלוז עםnמשתנים זמן לימידת k-MDNF יש לכל היותר טרמים זמן לימידת קלוז עםnkמשתנים מה גודל ההיפטזה?

  19. משפט 1 : ניתן ללמוד k-DNF מדוגמאות בזמן O(m nk) עם הפטזה בגודל O(nk) משפט 2 : ל- k קונסטנטה k-DNF ניתנת ללמידה. האם אפשר להקטין את גודל ההפטזה?

  20. לבקר שוב למידת טרם

  21. Set Cover 1 2 4 קלט: 3 5 6 8 7 9 10 12 11 פלט: מספר מינימלי של קבוצות Siהמכסות את U ז"א, האחוד שלהם הוא U

  22. 1 2 4 קלט: 3 5 6 8 7 9 10 12 11

  23. משפט 1: בעית Set Cover היא NP-Complete משפט 2: קיים אלגוריתם שרץ בזמן פולינומיאלי ונותן כסוי בגודל (log |U|) k כאשר kהוא הפתרון האופטימלי.

  24. בעית Set Cover למצא מספר מינימלי של קבוצות שאחודם שווה ל- U בעית Set Coverהיא NP-Complete

  25. בעית Set Cover יש אלגוריתם קרוב שנותן פתרון

  26. משפט: ניתן ללמוד k-DNF מדוגמאות בזמן O(m nk) עם הפטזה בגודלO(sizeDNF( f ) n) במקום O(nk) הוכחה: גודל ההיפטזה לכל היותר ו- ולכן

  27. משפט: ניתן ללמוד k-DNF מדוגמאות בזמן O(m nk) עם הפטזה בגודלO(sizeDNF( f ) n) בעיה פתוחה : ללמוד k-DNF בזמן פולינומיאלי עבור k=ω(1) כלשהו

  28. דוגמא 6: k-term DNF ו- k-clause CNF k-term DNFהואDNFעםk טרמים 3-term DNF משפט : מתכונת הדיסטריבוטיביות distributive הוכחה :

  29. משפט 1 : ניתן ללמוד k-term-DNF מדוגמאות בזמן O(mnk) עם הפטזה בגודלO(nk) משפט 2 : ל- k קונסטנטה k-term-DNF ניתנת ללמידה. בעיה פתוחה : ללמוד k-term-DNF עם הפטזה קטנה או בזמן פולינומיאלי עבור k=ω(1) כלשהו

  30. קצת חזרה פתרון טריויאלי s מכיל גודל פונקצית המטרה, גודל x פתרון יעיל

  31. פולינומיאלי בכל הפרמטרים חוץ ממספר הדוגמאות m זמן ריצת תכנית הלימידה פולינומיאלי בכל הפרמטרים אם קיים פתרון כנ"ל נומר ש-Cניתנת ללמידה מדוגמאות

  32. = פתרון דוחס פתרון לא טריויאלי אם קיים פתרון לא טריויאלי נומר ש-C ניתנת ללמידה לא טרויאלית מדוגמאות

  33. דוגמא 7: מצולע קמור - Polygon k צלעות s הוא k פתרון יעיל מצולע עםpoly(k)צלעות פתרון לא טריויאלי מצולע עםצלעות

  34. זמן פולינומיאלי למשולש, מרובע, מחומש m נקודות זמן m2 קוים

  35. מספר צלעות k log |U| <k log m זמן פתרון לא טריויאלי

  36. משפט 1 : Polygon במרחב במימד 2 ניתנת ללמידה לא טרויאלית מדוגמאות משפט 2 : Polygon במרחב במימד קבוע ניתנת ללמידה לא טרויאלית מדוגמאות בעיה פתוחה : למידת Polygon במרחב במימד dבזמן פולינומיאלי poly(k,d) בעיה פתוחה : למידת חיתוך שני Halfspace במרחב במימד dבזמן פולינומיאלי poly(k,d)

  37. DNFניתנת ללמידה לא טרויאלית מדוגמאות אם ניתן ללמוד אותו בזמן ולחזיר פונקציה ב- P/poly בגודל

More Related