מיקרוסופט שואפת לשקר ל-AI שלהם כדי להפחית הטיה סקסיסטית
3 דקות לקרוא
פורסם ב
שתף את המאמר הזה
שפר את המדריך הזה
קרא את דף הגילויים שלנו כדי לגלות כיצד תוכל לעזור ל-MSPoweruser לקיים את צוות העריכה קראו עוד
אחת החוזקות הגדולות ביותר במדעי הרוח היא היכולת לנווט בעולם תוך שימוש בנתונים מוגבלים בלבד, תוך הסתמכות במידה רבה על הניסיון שלנו שנבנה לאורך שנים של חשיפה אישית, חינוך ומדיה.
זה, למשל, אומר שאנו נוסעים לאט יותר ברחבי בתי הספר כי אנו חושדים שייתכן שיש ילדים בסביבה, או מציעים מושב לקשישים כי אנו חושדים באופן סביר שהם יהיו חלשים יותר מהאדם הממוצע.
הצד האפל של הנחות אלו הן כמובן הטיות גזעניות וסקסיסטיות, שבהן האמונות שלנו מבוססות בצורה גרועה, מומחשות בצורה לא הוגנת ממספר בודד לאוכלוסייה שלמה, או שאינן מאפשרות חריגים לכלל.
בשיחה עם Wired, חוקרי מיקרוסופט חשפו ש-AI רגישים אפילו יותר לפיתוח הטיה מסוג זה.
חוקרים מאוניברסיטת בוסטון וממיקרוסופט הראו שתוכנה שאומנה על טקסט שנאסף מ-Google News תיצור קשרים כגון "האדם הוא למתכנת מחשבים כמו שאישה היא לעקר בית".
מחקר אחר מצא כאשר AI אומנה על שני סטים גדולים של תמונות, המורכבות מיותר מ-100,000 תמונות של סצנות מורכבות שצוירו מהרשת, שסומנו על ידי בני אדם עם תיאורים, הבינה המלאכותית פיתחה קשרים חזקים בין נשים ופריטים ביתיים לבין גברים וטכנולוגיה וחיצוניות. פעילויות.
במערך הנתונים של COCO, חפצי מטבח כמו כפיות ומזלגות היו קשורים מאוד לנשים, בעוד שציוד ספורט חוץ כמו סנובורד ומחבטי טניס, ופריטים טכנולוגיים כמו מקלדות ועכברי מחשב היו קשורים מאוד לגברים.
למעשה, ההטיות של ה-AI היו אפילו חזקות יותר ממערך הנתונים עצמו, מה שהוביל לסבירות גבוהה הרבה יותר לזהות אדם במטבח כאישה גם אם זה היה גבר.
הטיות כאלה, אם יתגלו, ניתנות לתיקון בעזרת הכשרה נוספת, אך ישנם סיכונים משמעותיים שמודל AI עלול להחליק לייצור מבלי שכל הבעיות הללו ייפתרו.
אריק הורביץ, מנהל מחקר מיקרוסופט, אמר כי "אני ומיקרוסופט בכללותה חוגגים מאמצים לזהות ולטפל בהטיות ובפערים במערכים ובמערכות שנוצרו מתוכם. חוקרים ומהנדסים העובדים עם COCO ומערכי נתונים אחרים צריכים לחפש סימנים של הטיה בעבודה שלהם ובאחרים."
הורביץ שוקלת פתרון מעניין כדי לקבל את הבינה המלאכותית כבר מההתחלה, ומציעה במקום תמונות שנלקחו מהמציאות, ניתן לאמן בינה מלאכותית על תמונות אידיאליות המציגות כבר פריטים בעלי איזון מגדרי שווה, בדומה לחומר חינוך לילדים שישקף את המציאות כמו אנחנו רוצים שזה יהיה ולא מה שהוא.
"זו שאלה חשובה באמת - מתי עלינו לשנות את המציאות כדי לגרום למערכות שלנו לפעול בצורה שאפתנית?" הוא אומר.
חוקרים אחרים לא כל כך בטוחים.
אם באמת יש יותר פועלי בניין גברים, יש לאפשר לתוכניות לזיהוי תמונות לראות זאת, אומרת איילין קליסקאן, חוקרת בפרינסטון. ניתן לנקוט בצעדים לאחר מכן כדי למדוד ולהתאים כל הטיה במידת הצורך. "אנחנו מסתכנים באיבוד מידע חיוני", היא אומרת. "מערכי הנתונים צריכים לשקף את הסטטיסטיקה האמיתית בעולם."
