Dr. Boaz Lerner

1. 4th-Year Project Proposals2004 – 2005Machine Learning & Image Analysisמערכות לומדות וניתוח תמונה Dr. Boaz Lerner

2. Machine Learning Techniques Evolution Academy Industry ~ 1970 ~ 1980 ~ 1980 ~ 1990 ~ 1990 ~ 2000 ~ 2000 1936 1950 1965 1966 ~ 1970 mid 80’s 1988 1990’s 1992 • Linear discriminator • K-nearest-neighbours • Naive Bayesain classifier • Hidden Markov models • Rule-based, decision trees • Neural networks • Probabilistic graphical models • Bayesian learning & inference • Support vector machines

3. Machine Learning – Motivation • No need in a model • Utilizes the data to build the model • Utilizes the data to tune the model (learning) • Allows integration of acquired knowledge into a priori knowledge • Applicable also for on-line learning

4. Machine Learning –Why Learning? • Flexibility • Adaptivity • Combination of prior knowledge with data • Generalisation

5. Generalization (1) • Illustration - polynomial curve fitting M=1 M=3 M=10

6. Generalization (2) • polynomial curve fitting (2)

7. Image Analysis & Machine Learning System Pre- Processing Segmentation Feature Description Feature Selection signal (image) Post- Classification Classification Feature Extraction --- Machine Learning

8. Feature Description

9. Feature Selection (1) • using probability density functions (PDFs)

10. Feature Selection (2) • using scatter plots

11. Feature Selection (3)– the Result

12. Feature Extraction – 2D Example

13. Experimental Comparison of Feature Extractors projection maps

14. Statistical Classification • Aim: minimizing the probability of misclassification

15. Decision Boundaries (1)

16. Decision Boundaries (2)

17. Decision Boundaries (3)

18. An Example FISH Image

19. Image Analysis & Machine Learning Applied to Cytogenetics pre processing segmentation feature description feature selection 3D image reconstruction post classification classification feature extraction

20. Classification-Oriented Feature Selection בחירת מאפיינים מכוונת סווג • בחירת המאפיינים ה"טובים" ביותר לשם ייצוג עצמים מאפשרת סווג קומפקטי ומדויק. אולם, לא תמיד לסווג המבוסס על סט מאפיינים אופטימלי זה יש את שגיאת הסיווג המינימלית היות וקריטריוני המסווג שונים מאלה של השיטה לבחירת מאפיינים. בפרויקט נחקור את הקשר בין קריטריוני בחירת מאפיינים וקריטריוני סווג אופטימלי. נרצה גם לבנות מודל מסווג המנצל יתרונות כל משפחת קריטריונים כזו לשם השגת ביצועים אופטימליים. המודל ייבדק על דטה מבעיה אמיתית ויושווה למודלי סווג ובחירת מאפיינים מתקדמים. • מלות קוד: pattern recognition, feature selection, machine learning, classification

22. Support Vector Machine for Image Classification סווג תמונה בעזרת מסווג וקטורים תומכים • מסוג וקטורים תומכים הנו מערכת לומדת מתוחכמת ביותר עם יסודות תאורטיים מוצקים והצלחה רבה בהשוואה למערכות לומדות אחרות. אולם למסווג מיעוט שימושים עד היום. בפרט, המסווג לא נבחן עד היום בסווג תמונה. בפרויקט נממש את המסווג ונתאים אותו לסווג עצמים בתמונה. • מילות קוד: machine learning, image classification, support vector machine

23. Which is the Best Decision Boundary?

24. Projecting Non-Separable 1D Data onto a 2D Space

25. Accuracy Comparison

26. Probabilistic Classification by ARTMAP Neural Networkסיווג הסתברותי על ידי רשת ה – ARTMAP • רשת ה-ARTMAPהיא רשת נוירונלית מבוססת המוח האנושי שהיא בעלת יכולת למידה מהירה של דוגמאות "חדשות" ללא שיכחה של דוגמאות "ישנות". אולם, תוצאות סיווג עצמים ע"י הרשת לא ניתנות לפירוש הסתברותי באופן טבעי דבר המקשה על השוואת ביצועי הרשת לאלה של מערכות לומדות אחרות. מטרת הפרויקט הנה להרחיב את רשת ה-ARTMAPכך שתוכל להציג שייכות למחלקה בצורה הסתברותית. • מילות קוד: machine learning, neural networks, ARTMAP

27. On-Line Training using ARTMAP

28. Learning Bayesian Networksרשתות בייסיאניות לומדות • רשת בייסיאנית הנה מודל יעיל לייצוג פונקצית הסתברות משותפת של סט משתנים אקראיים. המודל מורכב משני מרכיבים עיקריים: מבנה הרשת וסט הסתברויות מותנות. מבנה הרשת מיוצג באמצעות גרף מכוון, כאשר קיום של קשר בין שני צמתים (משתנים) מייצג תלות של שני המשתנים בגרף. סט ההסתברויות המותנות מכמת את חוזק הקשרים. הפרויקט יעסוק לפיכך באלגוריתמים למציאת המבנה וסט ההסתברויות המתאימים ביותר לפתרון בעיה נתונה תוך שימוש בדוגמאות המייצגות בעיה זו. המודל ושיטות הלימוד ייושמו בסיווג עצמים בתמונה. • מילות קוד: Bayesian networks, classification, machine learning

29. BN Structure Learning

30. BN Parameter Learning

31. Automatic Dot Counting in FISH Image Analysisספירת כתמים אוטומטית במערכת ניתוח תמונה ציטוגנטית • כתמים בתמונה ציטוגנטית מייצגים כרומוזומים שאת מספרם באוכלוסית תאים נרצה לשערך לשם אבחון תסמונות הנובעות מעודף או חוסר בכרומוזום. בפרויקט תבנה מערכת בתוכנה לניתוח תמונות כאלה וספירה אוטומטית של הכתמים. המערכת תתבסס על חתכים דו-מימדיים של גרעיני תא תלת-מימדיים ושיטות לימוד מכונה מתקדמות לשם שערוך מדויק של מספר הכתמים במדגם. • מילות קוד: machine learning, neural networks, FISH

32. Another Example of FISH Image

33. FISH Image Signals Cell Nucleus Green-Real Unfocused Focused Red-Real Green-Artifact Red-Artifact

34. Machine Learning-based FISH Image Analysis for Disease Detectionגילוי מחלות בעזרת ניתוח תמונה ציטוגנטית מבוסס לימוד מכונה • בשנים האחרונות התפתחו במעבדה לניתוח תבניות ומכונות לומדות שיטות לזיהוי תסמונות גנטיות מתוך תמונות ציטוגנטיות. נרצה להרחיב שיטות אלה למחלות קשות יותר לאבחון אוטומטי כמו חסר מזערי בכרומוזום או סרטן. השיטות שתפותחנה תהיינה לפיכך מורכבות ומדויקות יותר מאלה שכבר פותחו והן יקיפו נושאים בהקטעת (segmentation) וסיווג (classification) תמונה. • מילות קוד: pattern recognition, neural networks, Bayesian networks, image classification cancer, machine learning

35. What About Cancer?

36. Further Reading http://www.ee.bgu.ac.il/~boaz http://www.ee.bgu.ac.il/~paml