הבינה המלאכותית Gemini של גוגל נתקלת ביצירת תמונות, נדרת שיפור

Google הודה חסרונות בכלי ליצירת תמונות Gemini AI לאחר שהתכונה יצרה תמונות לא מדויקות ועלולות להזיק של אנשים. החברה השעתה זמנית את התכונה תוך כדי עבודה על תיקון. המחלוקת נבעה מהנטייה של תאומים ליצור תמונות מגוונות, גם כאשר משתמשים ביקשו דמויות היסטוריות או תרחישים ספציפיים. למרות שנועד להיות כוללני, זה הוביל לתוצאות היסטוריות לא מדויקות ולפעמים פוגעניות.

בפוסט בבלוג, סגן הנשיא הבכיר פרבהאקאר רג'וואן הסביר את הטעויות ונשבע לשפר את הטכנולוגיה. "לא רצינו שתאומים יסרב ליצור תמונות של קבוצה מסוימת... [אבל] היא תעשה טעויות", כתב.

הנה מה השתבש עם Google Gemini:

• הכוונון של גוגל כדי להבטיח ש-Gemini הראה מגוון של אנשים לא לקח בחשבון מקרים שאמורים להיות ברורים לֹא להראות טווח.
• עם הזמן, המודל הפך לזהיר הרבה יותר ממה שהתכוונו וסירב לענות להנחיות מסוימות לחלוטין - תוך פירוש שגוי של כמה הנחיות מאוד אנודיות כרגישות.
• שני הדברים האלה הובילו את המודל לפצות יתר על המידה במקרים מסוימים, ולהיות שמרנית מדי במקרים אחרים, מה שהוביל לתמונות מביכות ושגויות.

אתגרים של יצירת תמונות בינה מלאכותית:

אירוע זה מדגיש את האתגר המתמשך של איזון דיוק וייצוג במודלים של יצירת תמונות בינה מלאכותית. המאבקים של גוגל משקפים מחלוקות דומות עם מחוללי תמונות פופולריים אחרים.