ב־30 שניות
- ב-29 באוקטובר פרסמה OpenAI גרסה מעודכנת של Model Spec, המסמך הציבורי שמתאר איך היא רוצה שמודלי ה-GPT יתנהגו. המסמך מאורגן עכשיו סביב חמישה ערכים: נאמנות לכוונת האדם, צמצום נזק, כנות ושקיפות, סיוע לאוטונומיה של האדם ואכפתיות.
- העדכון מוסיף הנחיות על הקשר, על נורמות חברתיות ועל תופעות לוואי, מצמצם את הנחיות הסגנון המפורטות, ומתחיל לכנות את המודל GPT ולא העוזר.
- כל מה שידוע על העדכון מגיע מ-OpenAI ומדיווח של Reuters שמסתמך על ההודעה שלה. OpenAI עצמה כותבת שהמודלים שלה עדיין לא משקפים את המסמך במלואו, ולא מצאנו בדיקה חיצונית שפורסמה של ההתנהגות בפועל.
מה OpenAI עדכנה
ב-29 באוקטובר עדכנה OpenAI את Model Spec, המסמך הציבורי שבו היא מתארת איך היא רוצה שהמודלים שלה יתנהגו. לפי ההודעה שלה, העדכון מארגן מחדש את ההנחיות סביב חמישה ערכים: נאמנות לכוונת האדם, צמצום נזק, כנות ושקיפות, סיוע לאוטונומיה של האדם ואכפתיות. הגרסה החדשה מופיעה באתר המפרט תחת התאריך 2026/10/29.
Reuters, שדיווחה על העדכון באותו יום, מתארת אותו כמסגרת שמבקשת מהמודל להבין מה המשתמשים, המפתחים ו-OpenAI מתכוונים ולא לציית להוראות באופן מילולי בלבד. זה גם הניסוח שמופיע בהודעה של OpenAI.
חמשת הערכים לפי המסמך
המפרט עצמו מסביר כל ערך במשפט. נאמנות לכוונת האדם פירושה שהמודל מנסה להבין מה משתמשים ומפתחים רוצים להשיג ועוזר להם לממש את זה, גם כשהמטרות אינן ברורות. צמצום נזק פירושו כיבוד גבולות בטיחות נוקשים והתחשבות בתוצאות הצפויות של פעולות המודל. כנות ושקיפות פירושן לייצג עובדות, ראיות, אי ודאות, יכולות ופעולות באופן אמין.
הערך הרביעי הוא סיוע לאוטונומיה: לעזור לאנשים לגבש דעה משלהם, לקבל החלטות מושכלות ולפעול למען מטרות שבחרו, בלי להחליף אותן במטרות אחרות ובלי הכוונה נסתרת או מניפולציה. החמישי, אכפתיות, מתמצה במסמך בהתחשבות באנשים שהעבודה של המודל משפיעה עליהם. OpenAI כותבת שהערכים אינם מגדירים את כל טווח הערכים האנושיים שהמודל אמור לכבד.
מה נוסף ומה נגרע
לפי OpenAI, הסעיף החדש על נאמנות לכוונת האדם כולל שרשרת פיקוד מעודכנת, שמסבירה אילו הוראות חלות ואיך מכריעים בין הוראות מתנגשות. תת-סעיף חדש, שנקרא להתחשב בהקשר בקפידה, קובע איך שיחות, זיכרונות וראיות נוספות צריכים להשפיע על ההבנה של כוונות והעדפות. כדוגמה היא מביאה השוואה בין הצעות עבודה, שבה המודל יכול להסתמך על עדיפויות שהמשתמש שיתף קודם, כמו שעות צפויות, ולהציג את ההנחות האלה כך שיהיה קל לתקן אותן.
נוספו גם ברירות מחדל לתמיכה באוטונומיה של האדם ולהתאמה לנורמות חברתיות רלוונטיות, והורחבו ההנחיות על שליטה בתופעות לוואי ועל דיווח עליהן. מנגד, OpenAI מצמצמת את רוב הנחיות הסגנון המפורטות, בנימוק שהסגנון צריך להתאים להעדפות של אנשים. נשארו ברירות מחדל חזקות יותר, כמו גישה אובייקטיבית לשאלות. בנוסף, המסמך מכנה עכשיו את המודל GPT ולא העוזר. לפי OpenAI, המפרט כולל גבולות נוקשים היכן שצריך להגן על אנשים ועל החברה, ובשאר המקרים הוא ברובו ברירות מחדל שמשתמשים ומפתחים יכולים לשנות.
מתחים וקווים אדומים
המפרט כותב שהערכים מנחים שני מתחים מרכזיים: אינטרסים של הפרט מול אינטרסים קולקטיביים, והוראות מיידיות מול מטרות ארוכות טווח. כדוגמה הוא מציין שמשתמש עשוי להצטער על שליחת מייל כועס, וקובע שתפקיד המודל לתמוך בשיקול מחודש, ולא להתייחס לניחוש שלו מה המשתמש יחליט בסופו של דבר כהחלטה שכבר התקבלה.
הגרסה החדשה כוללת גם סעיף עקרונות קו אדום. לפי הנוסח, מודלי OpenAI לא ישמשו להקלה על פגיעות חמורות, כמו מעשי אלימות קיצוניים, פיתוח נשק סייבר, ביולוגי או גרעיני, טרור והתעללות בילדים. האנושות צריכה להישאר בשליטה על השימוש ב-AI ועל עיצוב ההתנהגות שלו, ו-OpenAI מתחייבת להגן על פרטיות. במוצרים הישירים לצרכן, כולל ChatGPT, היא מתחייבת גם לשקיפות לגבי הכללים והנימוקים המרכזיים שמאחורי התנהגות המודל.
מה OpenAI אומרת שלא מתקיים עדיין
בהודעה ובמפרט כתוב שמודלי הייצור של החברה עדיין אינם משקפים את המסמך באופן מלא. OpenAI מוסיפה שהיא בוחנת שיטות אימון חדשות שיעזרו למודלים להבין למה העקרונות חשובים ואיך ליישם אותם במצבים חדשים, ושתשתף תוצאות בעדכונים עתידיים. המפרט כותב גם שהגרסה הציבורית אולי אינה כוללת כל פרט, אבל היא עקבית לחלוטין עם ההתנהגות המיועדת. זו טענה של OpenAI, ולא מצאנו דרך לאמת אותה מבחוץ.
המשמעות היא שהמסמך מתאר יעד. הוא אינו תוצאה של מדידה, ולא מצאנו פרסום של בדיקה שמראה עד כמה התגובות בפועל תואמות אותו.
ההקשר לפי Reuters
Reuters כותבת שהצעד מזכיר את הגישה של Anthropic, שמשתמשת ב"חוקה" כתובה של עקרונות כדי להנחות את התנהגות המודלים. היא גם כותבת שהעדכון מגיע אחרי תשומת לב גוברת ליישור מודלים, לאחר ש-OpenAI חשפה שסוכן AI אוטונומי פרץ ל-Hugging Face במהלך בדיקות. אלה הקשרים של Reuters. הפוסט של OpenAI עצמו אינו מזכיר את המקרה, ואין בידינו עדות לכך שהעדכון נכתב בתגובה אליו.
מקורות ומה לא ידוע
הפוסט של OpenAI והמפרט באתר model‑spec.openai.com הם שני מסמכים של אותו גוף, ולכן אינם מקורות עצמאיים זה מזה. הדיווח של Reuters, כפי שפורסם ב-Investing.com ובאתר ETCIO, מסכם את ההודעה של OpenAI, ולכן גם הוא אינו הערכה עצמאית של המסמך. לא מצאנו ניתוח חיצוני שבודק את השינויים או את ההתנהגות של המודלים.
לא השווינו שורה אחר שורה בין הגרסה החדשה לקודמת. אנחנו מסתמכים על התיאור של OpenAI למה שנוסף ונגרע. לא ידוע איך ישתנו תגובות של ChatGPT או של ה-API בפועל, ולא ברור איזה חלק מהנחיות הסגנון שנגרעו השפיע על התנהגות קיימת.
המשמעות שמעבר לכותרת
ה-Model Spec הוא המקום שבו OpenAI מצהירה על ההתנהגות שהיא שואפת אליה. שינוי בארגון ובברירות המחדל שלו מראה איך החברה מתארת את היחס בין הוראה מילולית לכוונה, אבל הוא מתאר כוונה ולא התנהגות שנמדדה.
צעד יישומי אחד
מי שבונה על GPT יכול לקרוא את הסעיפים על שרשרת הפיקוד ועל הקשר, ולבדוק במבחנים משלו אם התגובות של המודל תואמות את מה שהמסמך מתאר, כי OpenAI עצמה כותבת שהן עדיין לא תואמות במלואן.
מקורות ובדיקת עובדות
ד״ר יניב שנהב
יועץ ארגוני בכיר ומנחה, העוסק במנהיגות, שינוי התנהגותי והטמעת בינה מלאכותית בארגונים. מביא למערכת מבט ניהולי ויישומי על חדשות הטכנולוגיה.
לפרופיל של ד״ר יניב שנהב
