מיקרוסופט מגבילה את הגישה לחלק משירותי הבינה המלאכותית שלה

בינה מלאכותית טומנת בחובה את עתיד הטכנולוגיה, אך בידיים הלא נכונות היא עלולה לגרום לצרות לרבים. זו הסיבה שמיקרוסופט הכריזה על כמה שינויים בתקן Responsible AI שלה, שם הציגה מדיניות גישה מוגבלת חדשה. בפוסטים מסוימים ב-21 ביוני, החברה אומרת כי כעת היא תסיר ותגביל את הגישה לחלק מהשירותים שלה באמצעות AI. בפרט, שינויי מדיניות אלו ישפיעו על שירות זיהוי הפנים Azure Face ו-Custom Neural Voice של Microsoft.

אחת התכונות שיושפעו מאוד מהשינוי הזה היא טכנולוגיית ניתוח הפנים השנויה במחלוקת שנועדה להסיק את מצבו הרגשי של אדם ולזהות תכונות אנושיות שונות, כמו מין, גיל, חיוך, שיער פנים, שיער ואיפור. מיקרוסופט אומרת כי המהלך הגיע לאחר כמה חששות לגבי פרטיות והיעדר הסכמה מדעית לגבי הגדרת המושג "רגש". 

"שיתפנו פעולה עם חוקרים פנימיים וחיצוניים כדי להבין את המגבלות והיתרונות הפוטנציאליים של הטכנולוגיה הזו ולנווט את הפערים", אמרה שרה בירד, מנהלת המוצר הראשית של קבוצת Azure AI. "במקרה של סיווג רגשות באופן ספציפי, מאמצים אלה העלו שאלות חשובות לגבי פרטיות, חוסר הסכמה על הגדרה של "רגשות", וחוסר היכולת להכליל את הקשר בין הבעת פנים למצב רגשי על פני מקרי שימוש, אזורים ודמוגרפיה . גישת API ליכולות המנבאות תכונות רגישות פותחת גם מגוון רחב של דרכים שניתן לעשות בהן שימוש לרעה - כולל הכפפת אנשים לסטריאוטיפים, אפליה או מניעת שירותים לא הוגנת".

ככזה, החברה הודיע שהיא כבר הפכה את יכולת זיהוי התכונות ללא זמינה ב-21 ביוני עבור לקוחות חדשים, בעוד שהיא תופסק עבור לקוחות קיימים ב-30 לאותו חודש. אף על פי כן, מיקרוסופט אומרת שהיא "מכירה שהיכולות הללו יכולות להיות בעלות ערך כשהן משמשות לסדרה של תרחישי נגישות מבוקרים". עם זה, היא עושה חריג להציע ברציפות את היכולות הללו אפליקציות המיועדות לאנשים עם מוגבלויות, כמו לראות בינה מלאכותית.

מצד שני, מיקרוסופט תגביל את הגישה לשירותי זיהוי הפנים שלה ב-Azure Face API, Computer Vision ו-Video Indexer למי שיבקש מהם. על פי מדיניות הגישה המוגבלת שהציגה מיקרוסופט, לקוחות יצטרכו לעבור את מקרה השימוש ודרישות הזכאות ללקוח כדי לקבל גישה לפעולות. ללקוחות נוכחיים תהיה שנה (עד 30 ביוני 2023) להגיש בקשה ולקבל אישור להמשך שירותי זיהוי פנים. בינתיים, יכולות זיהוי פנים אחרות המשמשות לזיהוי טשטוש, חשיפה, משקפיים, תנוחת ראש, ציוני דרך, רעש, חסימה ותיבה תוחמת פנים יישארו זמינות ללא יישום. לדברי בירד, תהליך חדש זה יעזור למיקרוסופט "להוסיף שכבה נוספת של בדיקה לשימוש ולפריסה של זיהוי פנים כדי להבטיח שהשימוש בשירותים אלו מתיישב עם תקן הבינה המלאכותית האחראית של מיקרוסופט ותורם לתועלת בעלת ערך גבוה למשתמש הקצה ולחברה. ”

לבסוף, תכונת הקול העצבי המותאם של מיקרוסופט תעמוד גם בפני כמה הגבלות כדי להגן עליה מפני שימוש לרעה אפשרי. "בהתבסס על מה שלמדנו מקול עצבי מותאם אישית, ניישם בקרות דומות על שירותי זיהוי הפנים שלנו", כותבת אחראית ראשית בינה מלאכותית נטשה קרמפטון בהודעה נפרדת בלוג. "לאחר תקופת מעבר עבור לקוחות קיימים, אנו מגבילים את הגישה לשירותים אלו ללקוחות מנוהלים ולשותפים, מצמצמים את מקרי השימוש למקובלים מוגדרים מראש וממנפים בקרות טכניות שהונדסו בשירותים."