הסר את Copilot Designer מהאינטרנט: מהנדס מיקרוסופט לאחר שחשף את זה יכול לייצר תוכן מאוד לא הולם

מהנדס של מיקרוסופט העלה דאגות לגבי מחולל התמונות בינה מלאכותית של החברה, Copilot Designer. הוא טוען שזה יכול לייצר תוכן מזיק ולא הולם.

שיין ג'ונס, שהוא מנהל הנדסת תוכנה ראשי במיקרוסופט, אמר שהוא גילה שהכלי יכול ליצור תמונות אלימות, מיניות והטיות. זה מזכיר לי את ה סאגת טיילור סוויפט, שנאמר כי נעשה על ידי מוצר של מיקרוסופט.

הוא דיווח על ממצאיו באופן פנימי אך לא היה מרוצה מהתגובה, מה שגרם לו לפרסם בפומבי עם בעיותיו.

ג'ונס, שזיהה נקודות תורפה באמצעות "צוות אדום" (בדיקת חולשות), דיווח שנתקל בתמונות מטרידות, כולל:

• תמונות המתארות שדים ומפלצות לצד מונחים הקשורים לזכויות הפלות.
• תמונות של נשים בתרחישים מיניים בתוך תאונות דרכים.
• תמונות המתארות בני נוער במסיבות עם סמים ונשק.
• תמונות המציגות דמויות של דיסני במצבים שעלולים להיות מוגנים בזכויות יוצרים ופוגעניות, כולל סצינות המתארות אלימות במזרח התיכון ודמויות הקשורות לדימויים צבאיים.

ג'ונס קורא למיקרוסופט לנקוט פעולה מיידית, הכוללת צעד גדול של הסרת Copilot Designer מהשוק עד ליישום אמצעי ההגנה. הוא הוסיף גילויים לגבי מגבלות הכלי ושינה את דירוג האפליקציה כדי לשקף שהיא לא מתאימה לכל הגילאים. או כל אחד. 

מיקרוסופט עדיין לא הגיבה לכל הטענות הספציפיות של ג'ונס. עם זאת, דובר אמר כי החברה מחויבת לטפל בכל דאגה שיש לעובדים ומעריכה את מאמציהם בבדיקת הטכנולוגיה שלה.

כשמדובר בעקיפי בטיחות או חששות שעלולים להשפיע על השירותים שלנו או על השותפים שלנו, הקמנו ערוצי דיווח פנימיים חזקים כדי לחקור ולתקן כל בעיה כראוי, שאנו מעודדים את העובדים להשתמש בהם כדי שנוכל לאמת ולבדוק את דאגות.

החששות לגבי AI גנרטיבי והפוטנציאל לשימוש לרעה גוברות, אפילו יוצר התמונה של ג'מיני עשה לאחרונה תמונות ערות, מה שגרם לגוגל לכבות את הפקת תמונות אנושיות לזמן מה.

זהו סיפור מתפתח, ואנו נמשיך לספק עדכונים ככל שהם יהיו זמינים.

עוד כאן.