"ככל שהלמידה הממוחשבת נעשית בכל מקום והיא משמשת ליישומים עם תוצאות חמורות יותר, יש צורך שאנשים יבין איך זה עושה תחזיות, כך שהם יבטחו בו כאשר הוא עושה יותר מאשר משרת פרסומת", אומר ג'ונתן סו, חבר של הצוות הטכני במעבדה MIT לינקולן של אינפורמטיקה וקבוצת תמיכה החלטה.
נכון לעכשיו, החוקרים משתמשים בטכניקות פוסט-הוק או במודל הניתן לפרש, כגון עץ החלטה, המסביר כיצד מודל של קופסה שחורה מגיע למסקנתו. בעזרת טכניקות פוסט-הוק, החוקרים מתבוננים בתשומות ואלגוריות של אלגוריתם ולאחר מכן מנסים לבנות הסבר משוער למה שקרה בתוך הקופסה השחורה. הבעיה עם שיטה זו היא כי החוקרים יכולים רק לנחש את פעולתו הפנימית, ואת ההסברים יכול לעתים קרובות לא בסדר. עצי הכרעה, אשר מפתחים את האפשרויות ואת ההשלכות הפוטנציאליות שלהם על מבנה דמוי עץ, עובדים יפה על נתונים קטגוריסטיים, אשר תכונותיהם משמעותיות, אך עצים אלה אינם ניתנים לפרשנות בתחומים חשובים, כגון ראיית מחשב ושאר בעיות נתונים מורכבות.
רשת עצבית היא מערכת מיחשוב המורכבת מרכיבים רבים הקשורים לעיבוד. רשתות אלה משמשות בדרך כלל לניתוח תמונות וזיהוי אובייקטים. למשל, ניתן ללמד אלגוריתם לזהות אם צילום כולל כלב על ידי הצגת תמונות ראשונות של כלבים. החוקרים אומרים שהבעיה ברשתות עצביות אלה היא שהתפקודים שלהם הם לא ליניאריים ורקורסיביים, כמו גם מסובכים ומבלבלים לבני אדם, והתוצאה הסופית היא שקשה לאתר מה בדיוק הרשת הגדירה כ"כלב "בתוך התמונות ומה הביא אותה למסקנה זו.
כדי להתמודד עם בעיה זו, הצוות מפתחת את מה שהיא מכנה "אב טיפוס אב טיפוס רשתות". אלה שונים מהרשתות העצביות המסורתיות בכך שהם מקודדים באופן טבעי הסברים לכל אחד מהתחזיות שלהם על ידי יצירת אב טיפוס, שהם חלקים מייצגים במיוחד של תמונת קלט. רשתות אלה הופכות את התחזיות שלהן על סמך הדמיון של חלקים מתמונת הקלט לכל אב טיפוס.
השטח השני של צוות המחקר הוא BRLs, שהם פחות מורכבים, חד צדדי החלטות עצים המתאימים נתונים טבלאי ולעתים קרובות מדויק כמו מודלים אחרים. BRLs עשויים מרצף של הצהרות מותנות, אשר באופן טבעי מהווים מודל בר-פרשנות. לדוגמה, אם לחץ דם גבוה, אז הסיכון למחלות לב הוא גבוה. Su ועמיתים משתמשים במאפיינים של BRL כדי לאפשר למשתמשים לציין אילו תכונות חשובות לחיזוי. הם גם מפתחים אינטראקטיבי BRLs, אשר ניתן להתאים באופן מיידי כאשר נתונים חדשים מגיעים ולא recalibrated מאפס על הנתונים ההולכת וגדלה.
סו מסביר: "אנחנו מקווים לבנות יכולת אסטרטגית חדשה לאלגוריתמי הלמידה של מכונת המעבדה שאנשים בוטחים בהם משום שהם מבינים אותם".
