למידה ממוכנת פגישה 8 דוגמא אמיתית

1. ‫לומדות‬ ‫מערכות‬
Igor Kleiner
Lecture 8/ Part 1
‫פרקטי‬ ‫פרויקט‬
Algae Blooms
2017

2. Algae Blooms
‫אצות‬ ‫פריחת‬

3. ‫בעיה‬ ‫הגדרת‬
•‫בעיה‬ ‫מהווה‬ ‫בנהרות‬ ‫מסוימות‬ ‫אצות‬ ‫של‬ ‫גבוה‬ ‫ריכוז‬
‫רצינית‬
•‫לחסוך‬ ‫יכולה‬ ‫אצות‬ ‫של‬ ‫עתידית‬ ‫פריחה‬ ‫לנבות‬ ‫יכולת‬
‫כסף‬

4. ‫בעיה‬ ‫הגדרת‬
•‫נתונים‬:‫ב‬ ‫שונים‬ ‫מנהרות‬ ‫מים‬ ‫של‬ ‫דגימות‬ ‫נאספו‬-
Europe‫שונים‬ ‫פרמטרים‬ ‫נמדדו‬ ‫ועבורן‬(‫בלתי‬ ‫משתנים‬
‫תלויים‬)‫זדוניות‬ ‫אצות‬ ‫של‬ ‫שונים‬ ‫סוגים‬ ‫של‬ ‫ריכוז‬ ‫וגם‬

5. ‫בעיה‬ ‫הגדרת‬
•‫מטרה‬:
•‫על‬ ‫אצות‬ ‫של‬ ‫שונים‬ ‫סוגים‬ ‫של‬ ‫ריכוז‬ ‫רמת‬ ‫ניבוי‬ ‫מודל‬ ‫לבנות‬
‫מים‬ ‫של‬ ‫כימים‬ ‫נתונים‬ ‫סמך‬
•‫לפריחת‬ ‫יותר‬ ‫הקריטיים‬ ‫הגורמים‬ ‫מהם‬ ‫טוב‬ ‫יותר‬ ‫להבין‬
‫אצות‬

6. DATA
• archive.ics.uci.edu/ml/datasets/Coil+1999+Competition+Data

8. Data Exploration

9. Data Exploration

10. Data Exploration

11. Data Exploration

12. Data Exploration

13. Data Exploration

14. Data Exploration

15. Data Exploration

16. Data Exploration

19. "‫נורמלית‬ ‫להתפלגות‬ ‫דומה‬"

27. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬

28. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬

29. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫שונות‬ ‫גישות‬:
•‫חסרים‬ ‫ערכים‬ ‫עם‬ ‫תצפיות‬ ‫כל‬ ‫למחוק‬
•‫חסרים‬ ‫ערכים‬ ‫השלמת‬

30. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫חסרים‬ ‫ערכים‬ ‫עם‬ ‫תצפיות‬ ‫מחיקת‬:
•‫למימוש‬ ‫קל‬
•‫מידע‬ ‫איבוד‬

31. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫חסרים‬ ‫ערכים‬ ‫עם‬ ‫תצפיות‬ ‫מחיקת‬:
•‫למימוש‬ ‫קל‬
•‫מידע‬ ‫איבוד‬
•‫קיימים‬ ‫חסרים‬ ‫ערכים‬ ‫עם‬ ‫תצפיות‬ ‫כמה‬?

38. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫ממוצע‬ ‫מדד‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:

39. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫ממוצע‬ ‫מדד‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:

40. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫לממוצע‬ ‫מדד‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬‫חציון‬:
•‫יתרון‬:‫מהירה‬ ‫שיטה‬
•‫חסרון‬:‫טובה‬ ‫מאוד‬ ‫לא‬ ‫שיטה‬

41. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫בקורלציות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:

42. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫בקורלציות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:

43. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫בקורלציות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:

44. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫בקורלציות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:
•‫ערך‬ ‫נשלים‬PO4‫בעזרת‬OPO4‫ביניהם‬ ‫ויש‬ ‫היות‬
‫גבוהה‬ ‫קורלציה‬
•‫לינארית‬ ‫ברגרסיה‬ ‫נעזר‬

45. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫בקורלציות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:
•‫ערך‬ ‫נשלים‬PO4‫בעזרת‬OPO4‫ביניהם‬ ‫ויש‬ ‫היות‬
‫גבוהה‬ ‫קורלציה‬
•‫לינארית‬ ‫ברגרסיה‬ ‫נעזר‬

46. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫דומות‬ ‫בתצפיות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:
•‫רעיון‬:‫בדרך‬ ‫משתנה‬ ‫אותו‬ ‫של‬ ‫ערכים‬ ‫דומות‬ ‫לתצפיות‬
‫דומים‬ ‫גם‬ ‫כלל‬

47. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫דומות‬ ‫בתצפיות‬ ‫שימוש‬ ‫ידי‬ ‫על‬ ‫חוסר‬ ‫ערך‬ ‫השלמת‬:
•‫רעיון‬:‫בדרך‬ ‫משתנה‬ ‫אותו‬ ‫של‬ ‫ערכים‬ ‫דומות‬ ‫לתצפיות‬
‫דומים‬ ‫גם‬ ‫כלל‬

48. N/A
‫חסרים‬ ‫בערכים‬ ‫טיפול‬
•‫נתונים‬ ‫השלמת‬ ‫לבצע‬ ‫נוספות‬ ‫אפשרויות‬ ‫מספר‬ ‫קיים‬
•‫נבחר‬ ‫מה‬?
•‫פותרים‬ ‫שאנו‬ ‫בשאלה‬ ‫תלוי‬,‫בנתונים‬,‫בתחום‬,
‫לנו‬ ‫שיש‬ ‫ומשאבים‬ ‫בסיבוכיות‬
•‫תמיד‬ ‫מנצחת‬ ‫אופציה‬ ‫אין‬

49. ‫חיזוי‬ ‫מודל‬ ‫בניית‬
•‫המטרה‬:‫אצות‬ ‫של‬ ‫ריכוז‬ ‫לחזות‬
•‫בבעיית‬ ‫מדובר‬ ‫כלומר‬........

50. ‫חיזוי‬ ‫מודל‬ ‫בניית‬
•‫המטרה‬:‫אצות‬ ‫של‬ ‫ריכוז‬ ‫לחזות‬
•‫בבעיית‬ ‫מדובר‬ ‫כלומר‬‫רגרסיה‬

51. ‫חיזוי‬ ‫מודל‬ ‫בניית‬
•‫המטרה‬:‫אצות‬ ‫של‬ ‫ריכוז‬ ‫לחזות‬
•‫רגרסיה‬ ‫בבעיית‬ ‫מדובר‬ ‫כלומר‬
•‫ב‬ ‫להשתמש‬ ‫אפשר‬:

52. ‫חיזוי‬ ‫מודל‬ ‫בניית‬
•‫המטרה‬:‫אצות‬ ‫של‬ ‫ריכוז‬ ‫לחזות‬
•‫רגרסיה‬ ‫בבעיית‬ ‫מדובר‬ ‫כלומר‬
•‫ב‬ ‫להשתמש‬ ‫אפשר‬:
•‫ר‬‫ליניארית‬ ‫גרסיה‬
•‫עצים‬,‫וכו‬'
•‫למדנו‬ ‫שלא‬ ‫אחרים‬ ‫מודלים‬

53. ‫ליניארית‬ ‫רגרסיה‬
•‫מודל‬ ‫לבנות‬ ‫כדי‬ ‫בכולם‬ ‫נשתמש‬ ‫נתונים‬ ‫הרבה‬ ‫אין‬
‫מסוג‬ ‫לאצות‬ ‫חיזוי‬1A

54. ‫ליניארית‬ ‫רגרסיה‬
•‫מודל‬ ‫לבנות‬ ‫כדי‬ ‫בכולם‬ ‫נשתמש‬ ‫נתונים‬ ‫הרבה‬ ‫אין‬
‫לאצות‬ ‫חיזוי‬A1

56. ‫ליניארית‬ ‫רגרסיה‬

57. ‫ליניארית‬ ‫רגרסיה‬

58. Backward Elimination

59. ‫החלטה‬ ‫עץ‬

60. ‫החלטה‬ ‫עץ‬

61. ‫החלטה‬ ‫עץ‬

62. ‫החלטה‬ ‫עץ‬
‫אופטימלי‬ ‫יותר‬ ‫עץ‬ ‫בחירת‬

63. ‫החלטה‬ ‫עץ‬
‫אופטימלי‬ ‫יותר‬ ‫עץ‬ ‫בחירת‬

64. ‫החלטה‬ ‫עץ‬
‫אופטימלי‬ ‫יותר‬ ‫עץ‬ ‫בחירת‬

65. ‫החלטה‬ ‫עץ‬
‫אופטימלי‬ ‫יותר‬ ‫עץ‬ ‫בחירת‬

66. ‫החלטה‬ ‫עץ‬
‫אופטימלי‬ ‫יותר‬ ‫עץ‬ ‫בחירת‬

67. Model Evaluation and Selection
•‫לחיזוי‬ ‫מודלים‬ ‫שתי‬ ‫בנינו‬
•‫להשתמש‬ ‫מודל‬ ‫איזה‬ ‫נדע‬ ‫איך‬?

68. Model Evaluation and Selection
•‫לחיזוי‬ ‫מודלים‬ ‫שתי‬ ‫בנינו‬
•‫להשתמש‬ ‫מודל‬ ‫איזה‬ ‫נדע‬ ‫איך‬?
•‫טיב‬ ‫מדדי‬ ‫להגדיר‬ ‫צריך‬:

69. Model Evaluation and Selection
•‫לחיזוי‬ ‫מודלים‬ ‫שתי‬ ‫בנינו‬
•‫להשתמש‬ ‫מודל‬ ‫איזה‬ ‫נדע‬ ‫איך‬?
•‫טיב‬ ‫מדדי‬ ‫להגדיר‬ ‫צריך‬:
•‫חיזוי‬ ‫לטעות‬ ‫מדד‬:MSE,RMSE,MAE,...
•‫מודל‬ ‫של‬ ‫לפשטות‬ ‫מדד‬
•‫מודל‬ ‫של‬ ‫לסיבוכיות‬ ‫מדד‬

70. MAE – mean absolute error

71. MSE

72. ‫מדי‬ ‫אופטימיים‬ ‫אמדים‬
•‫על‬ ‫טעות‬ ‫חישוב‬ ‫בעזרת‬ ‫אמדים‬ ‫מצאנו‬TRAIN
‫דטה‬
•‫מדי‬ ‫אופטימיים‬ ‫להיות‬ ‫יכולים‬ ‫האלו‬ ‫האמדים‬

73. ‫מדי‬ ‫אופטימיים‬ ‫אמדים‬
•‫על‬ ‫טעות‬ ‫חישוב‬ ‫בעזרת‬ ‫אמדים‬ ‫מצאנו‬TRAIN
‫דטה‬
•‫מדי‬ ‫אופטימיים‬ ‫להיות‬ ‫יכולים‬ ‫האלו‬ ‫האמדים‬
•‫ב‬ ‫נעזר‬crossvalidation-

74. http://www.dcc.fc.up.pt/~ltorgo/DataMiningWithR/code2.html

75. http://www.dcc.fc.up.pt/~ltorgo/DataMiningWithR/code2.html

78. ‫אצות‬ ‫של‬ ‫סוגים‬ ‫לכם‬ ‫חזאי‬ ‫בניית‬

79. ‫אצות‬ ‫של‬ ‫סוגים‬ ‫לכם‬ ‫חזאי‬ ‫בניית‬

80. ‫אצות‬ ‫של‬ ‫סוגים‬ ‫לכם‬ ‫חזאי‬ ‫בניית‬

81. ‫אצות‬ ‫של‬ ‫סוגים‬ ‫לכם‬ ‫חזאי‬ ‫בניית‬
V

82. ‫אקראי‬ ‫יער‬

83. ‫אקראי‬ ‫יער‬

84. ‫אקראי‬ ‫יער‬

86. Links
• Course videos: https://goo.gl/osnGa7
• Course slides:
https://www.slideshare.net/igorkleiner5
• Course Facebook group: https://goo.gl/7WzpTU
• email: igkleiner@gmail.com