הטיעון הנפוץ ביותר נגד שימוש לא מבוקר ביישומי בינה מלאכותית, הוא הנטייה לאפלייה. כן, מלאכותית או לא, מסתבר ש-AI סובלת מהבעיה הכה אנושית הזו. הסיבה נעוצה כמובן בכך שהדאטה שעליו מתבססת הבינה המלאכותית מכיל הטיות אנושיות. לדוגמה: אם נעצב מערכת בינה מלאכותית שמסננת קורות חיים בחברת הייטק, רוב הסיכויים שהמערכת תעדיף גברים מתל אביב על נשים מנצרת, פשוט בגלל שהדאטה עליו המערכת מבוססת מכיל יותר גברים מתל אביב ופחות נשים מנצרת.

מה שמעורר את השאלה: האם אנחנו מעדיפים החלטות מפלות? וחשוב מכך – האם אנחנו נוטים לאמץ אותן? מחקר חדש יחסית, מ-2021, סבור שכן. אנחנו עדיין לא מסוגלים להתגבר על אפליות מובנות ומעדיפים מערכות בינה מלאכותית שמנציחות אפליה בין גברים ונשים. נפרק ונסביר:

המחקר עסק במערכת בינה מלאכותית שממליצה לסטודנטים על בחירת מקצוע (Career Recommendation System). במחקר הוצגו שתי מערכות, אחת מנטרלת את פרמטר המגדר, השנייה לא. אחד ההבדלים הבולטים בין שתי המערכות היה ההמלצה על תחום מדעי המחשב.

במערכת מבוססת מגדר – אחוז הנשים שקיבלו המלצה על מדעי המחשב היה אפסי, בעוד שבמערכת שניטרלה מגדר – אחוז הנשים שקיבלו המלצה על מדעי המחשב היה גבוה מזה של הגברים:

כדי לבחון את אפקטיביות ההמלצות, עורכי המחקר ביקשו מ-202 סטודנטים וסטודנטיות שהשתמשו במערכת, להשיב על שאלות בנוגע לשביעות הרצון שלהם מההמלצות שקיבלו. הם נשאלו גם על התפיסות הכלליות שלהם ביחס לקשר בין מגדר ומקצוע. לדוגמה, הסטודנטים והסטודנטיות נשאלו האם סטריאוטיפ מגדרי ביחס למקצועות צריך להוות פרמטר בבחירת מקצוע, או לחילופין האם אישה תסכים לעבוד במקצוע שנשלט על-ידי גברים, ולהיפך.

החוקרים גילו שלא.נשים קשה להתגבר על ההטיות הטבועות בהם - והעדיפו המלצות על מקצועות שמזוהים עם המגדר שלהם. נמצאה קורלציה חיובית בין מי שהעידו שישקלו להשתמש במערכת המלצות לבחירת קריירה, לבין מי שקיבלו המלצות על מקצועות שתאמו את המגדר שלהם.

המחקר הראה שאנשים העדיפו את המערכת שמתבססת על מגדר, ככל הנראה בגלל הטיות לא מודעות כמו נורמות חברתיות ביחס למקצועות מסוימים. מעניין לראות שהמסקנות הללו לא שונות מהותית ממסקנות של מחקר חברתי ישן יותר, מ-1994, שבדק תפיסה מגדרית של מקצועות אצל ילדים וילדות בגילאי גן. המחקר מצא כי בנות העדיפו מקצועות "נשיים" כמו מורה או אחות, ונמנעו מלבחור מקצועות "גבריים".

המסקנה המתבקשת מקריאת המחקר (מומלצת בחום!) היא שאנחנו צריכים קודם כל לטפל בעצמנו, לפני שאנחנו באים בטענות לטכנולוגיה. וליתר דיוק: לפני שאנחנו דורשים אלגוריתמים שאינם מפלים – עלינו לדרוש טכנולוגיה שממגרת אפליה.

מתוך הניוזלטר "האתיקיסטית" של נעמה מטרסו, מבית "שקוף - העין השביעית". להרשמה