מגזין הטכניון | סתיו 2021

21 חשבונכם אם יש פקק בכבישים בסביבה או ללמוד על מהירות הנסיעה בכבישים צדדיים. תחושה כזאת מעידה על תפיסת חמימות נמוכה של המערכת, כלומר איננו בטוחים שהיא פועלת לטובתנו. החוקרות מצאו שהחמימות שאנו מייחסים למערכת היא שיקול חשוב בעיני משתמשים פוטנציאליים, והשפעתה עליהם גדולה מהשפעת יכולותיה הביצועיות של המערכת כפי שהן נתפסות בעיניהם. מרבית האנשים העדיפו מערכת חמימה על פני מערכת בעלת יכולות טכנולוגיות גבוהות. העדפה זו נמשכה אפילו כאשר המערכת החמימה הייתה בעלת נחיתות טכנולוגית מוצהרת. לדוגמה, כאשר המשתמשים התבקשו לבחור בין שתי מערכות שממליצות על ביטוח רכב, מרביתם העדיפו מערכת עם יכולת נמוכה וחמימות גבוהה (פותחה עבור אנשים כמוהם) על פני מערכת עם יכולת גבוהה (המבוססת על אלגוריתם חדשני שאומן על מיליון החלטות קודמות) וחמימות נמוכה (פותחה עבור סוכני ביטוח). באופן דומה, מרבית האנשים העדיפו מערכת המלצת סרטים בעלת אלגוריתם נחות שמתבססת רק על מידע שמגיע מהם על פני מערכת בעלת אלגוריתם מתקדם שמתבססת על מידע המגיע מהם אך גם מנסה לקדם סרטים מסוימים. כלומר, צרכנים מוכנים לוותר במידה מסוימת על יכולות של המערכת אם הם מאמינים שהיא ידידותית ופועלת לטובתם. ממצאים אלה דומים לממצאים המתקבלים במחקר על אינטראקציות בין בני אדם, שכן גם בשיפוט של בני אדם אחרים תפיסת החמימות (הכוונה) מקבלת עדיפות על פני תפיסת היכולת. מהמחקר הנוכחי אפשר ללמוד כי אנשים משתמשים באותם חוקים חברתיים כדי לשפוט בני אדם ומערכות מבוססות בינה מלאכותית. החוקרות מסבירות כי באופן טבעי, מפתחי מערכות בינה מלאכותית מתמקדים ביכולת הטכנולוגית של המערכת ושל האלגוריתמים שלה, והן ממליצות להקדיש תשומת לב גם לחמימות של המערכת ולאופן שבו הם מציגים אותה לצרכנים פוטנציאליים. המחקר מומן חלקית על ידי הקרן הלאומית למדע CHI Conference on Human ) והוצג בכנס ISF ( .Factors in Computing - המרכז ללמידה MLIS המחקר התקיים במסגרת חישובית ולמערכות נבונות, המרכז את כלל פעילות הבינה המלאכותית בטכניון. יתנו ל”כוונות המערכת” AI רוב המשתמשים במערכות משקל רב יותר מאשר ליעילותה הפונקציונלית