מהו "מפרט הדגם" של OpenAI? סם אלטמן אומר שזה חיוני לאופן שבו החברה מתקדמת עם AI
אנחנו מתקדמים מהר מדי עם AI
2 דקות לקרוא
פורסם ב
שתף את המאמר הזה
שפר את המדריך הזה
קרא את דף הגילויים שלנו כדי לגלות כיצד תוכל לעזור ל-MSPoweruser לקיים את צוות העריכה קראו עוד
הערות עיקריות
- OpenAI משיקה את מפרט הדגם, המנחה את התנהגות הבינה המלאכותית במצבים שונים.
- מפרט המודל מקדם שקיפות ומזמין דיון ציבורי לשיפורים.
- הוא מתאר עקרונות הכוללים יעדים, כללים וברירות מחדל, במטרה לאזן את התנהגות הבינה המלאכותית.
אנחנו מתקדמים מהר מדי עם AI עד שאלטמן שווה מאובן על ידי זה. אפילו סרטוני בינה מלאכותית מהיום (תודה ל Sora של OpenAI דגם) לעומת לפני שנה או שנתיים נראות שונה מאוד). ועכשיו, החברה הנתמכת על ידי מיקרוסופט השיקה את מפרט דגם, המדריך האחד שלו על איך דגמי OAI צריכים להתנהג.
זהו מסמך שמתאר כיצד מודלים של AI צריכים להתנהג במצבים מסוימים, כגון בקשות לתוכן NSFW, פרטיות של אנשים, או אפילו פעילויות לא חוקיות. הוכרז ביום רביעי, Model Spec יכול לעזור להבדיל כאשר משהו הוא באג או החלטה מודעת מעשה ידי אדם בדגמים אלה.
"אנחנו מפרסמים את מפרט המודל כדי לספק יותר שקיפות בגישה שלנו לעיצוב התנהגות מודל, וכדי להתחיל שיחה ציבורית על איך אפשר לשנות ולשפר אותו", נכתב במסמך, האומר כי המפרט עומד אז לשיחה פומבית .
מסמך זה מתאר שלושה סוגים של עקרונות: יעדים, כללים וברירות מחדל. יעדים מספקים כיוון רחב אך עלולות להתנגש בתרחישים מורכבים. כללים מבטיחים בטיחות וחוקיות, בעוד שברירות מחדל מספקות התנהגויות יציבות שניתן לעקוף אותן לפי הצורך.
זה אמנם מסמך ארוך, אבל יש כמה דברים מעניינים. הם מציעים שמודלים של AI לא צריכים למלא בקשות NSFW, אלא בהקשרים מדעיים או יצירתיים. לדוגמה, המסמך מזכיר בקשה חריגה למילות ראפ על חתולים עם שפה מפורשת, שלטענתם צריכה להיות מותרת במקרים מסוימים.
החברה הנתמכת על ידי מיקרוסופט מציינת שהם לא השתמשו במלואם ב-Model Spec כפי שהוא עכשיו, אבל הם שאלו מתיעוד ששימש בפרויקט קודם ב-OpenAI. הם גם מוצאים דרכים למודלים שלהם ללמוד ישירות ממפרט הדגם.
