מיקרוסופט חתמה על הסכמי הערכת AI עם מכוני בטיחות בארה"ב ובבריטניה

מה הוכרז

כשחברה כמו מיקרוסופט מסכימה שממשלה תבדוק את המודלים שלה לפני השחרור, היא מודה שבדיקה עצמית לא מספיקה בסיכוני ביטחון לאומי. זה מה שהוכרז ב-5 במאי 2026.

מיקרוסופט הודיעה על הסכמים חדשים עם CAISI, המרכז לתקני בינה מלאכותית וחדשנות בארצות הברית, ועם AISI, מכון הביטחון של ה-AI בבריטניה. לפי הפוסט של נטשה קרמפטון, ראש תחום ה-AI האחראי במיקרוסופט, ההסכמים מקדמים את מדע בדיקות ההערכה, כולל בדיקות משותפות של מודלי החזית של החברה, הערכת אמצעי הגנה והפחתת סיכונים לביטחון לאומי ולבטיחות הציבור.

קרמפטון כתבה שבדיקות כאלה חייבות להיות מאמץ משותף עם ממשלות, כי הידע הטכני והביטחוני נמצא אצל מוסדות כמו CAISI ו-AISI.

מה ציין ה-BBC

לפי ה-BBC, גם Google ו-xAI הסכימו להגיש מודלים לבדיקה מרצון דרך CAISI במשרד המסחר האמריקאי, לפני שחרורם לציבור. ההסכמים מרחיבים הסכמים קודמים עם OpenAI ו-Anthropic, שנחתמו בתקופת ממשל ביידן. מנהל CAISI, כריס פול (Chris Fall), אמר שהשיתופים מאפשרים להרחיב את העבודה לטובת הציבור. המרכז מסר שביצע 40 הערכות קודמות, כולל של מודלים מתקדמים שלא שוחררו, בלי לפרט איזה מודל נעצר.

מה ההסכם לא אומר

שני המקורות מתארים שיתוף פעולה והסכמה מרצון. אף אחד מהם אינו מפרט את כל הבדיקות, ואינו מתחייב לפרסום תוצאות מלאות. ה-BBC מציין שהמרכז לא פירט איזה מודלים נעצרו, כך שאי אפשר להסיק על ההשפעה בפועל.

זווית ישראלית

בישראל אין גוף זהה ל-CAISI או ל-AISI, ולכן המודל עשוי לעניין משרדי ממשלה ומכוני מחקר שמעוניינים בדרך מסודרת להעריך מערכות לפני פריסה. זו הערכה שלנו. לא מצאנו הודעה ישראלית רשמית על הסכם דומה.

ארגון ישראלי שרוצה לאמץ מודל של אחת החברות האלה יכול לשאול אם המודל עבר הערכה חיצונית, ומה היקפה.

מה בדיוק ייבדק

הפוסט של מיקרוסופט מפרט שני מסלולים. בארצות הברית, יחד עם NIST, תעבוד מיקרוסופט עם CAISI על שיטות להערכות עוינות: בדיקות שבוחנות התנהגויות בלתי צפויות, נתיבי שימוש לרעה ומצבי כשל, בדומה לבדיקת כריות אוויר, חגורות ובלמים ברכב. העבודה כוללת מסגרות, מערכי נתונים ותהליכי עבודה משותפים להערכת סיכוני בטיחות, אבטחה ועמידות.

בבריטניה, יחד עם AISI, יתמקד המחקר בבטיחות ואבטחה של מודלי חזית, כולל שיטות להערכת יכולות בסיכון גבוה ויעילות אמצעי ההגנה, ובמחקר על חוסן חברתי: איך מערכות שיחה מתנהלות מול משתמשים בהקשרים רגישים.

למה זה משנה את הדיון על בטיחות

עד כה בדיקות בטיחות של מודלי חזית היו בעיקר פנימיות או אקדמיות. הסכמים עם גופים ממשלתיים מעבירים חלק מהבדיקה לגורם חיצוני עם גישה לידע ביטחוני, אך הם נשארים התנדבותיים. לפי ה-BBC, ההסכמים החדשים מרחיבים הסדרים שכבר היו עם OpenAI ו-Anthropic.

השאלה הפתוחה היא מה קורה כשהבדיקה מוצאת בעיה. CAISI אמר שהיו מודלים מתקדמים שלא שוחררו, אבל לא פירט למה, כך שלציבור אין כיום דרך לדעת כמה בדיקות הובילו לשינוי בפועל.

השאלות שכדאי לשאול ספק

ארגון שמתכנן להטמיע מודל של אחת החברות האלה יכול לשאול שלוש שאלות פשוטות: האם המודל נבדק לפני השחרור על ידי גוף חיצוני, מה היקף הבדיקה, והאם התוצאות או סיכומן זמינים ללקוחות. התשובות לא יבטיחו בטיחות, אבל יראו אם הספק מוכן לשקיפות. בפוסט של מיקרוסופט יש גם התחייבות להמשיך לעבוד עם מכוני AI נוספים בעולם, כך שהרשימה עשויה להתרחב.

שימו לב שהמונח בדיקה כאן מתייחס בעיקר לסיכונים ברמת ביטחון לאומי, כמו התקפות סייבר ושימוש פלילי, ולא לאיכות של תשובות יומיומיות.

כמה נשאר לא ידוע

אין כאן פרטים על מה נבדק בכל מודל, מי ראה את התוצאות, או אם הבדיקה יכולה לעצור שחרור. המקור היחיד לכמות הוא CAISI, שמסר על 40 הערכות קודמות, כולל מודלים מתקדמים שלא שוחררו. לכן אי אפשר לדעת אם הסכם כזה משנה החלטות או מתעד אותן בלבד.

שאלות ותשובות

האם המודלים נבדקים בכל שחרור? ה-BBC מתאר הגשה מרצון לפני שחרור, אבל לא חובה. אין התחייבות שמודל לא ישוחרר אם נמצאו ממצאים.

מה ההבדל בין CAISI ל-AISI? הראשון פועל במסגרת משרד המסחר האמריקאי והשני הוא מכון ממשלתי בבריטניה. שניהם מוזכרים בפוסט של מיקרוסופט כשותפים.

מה עדיין צריך לבדוק

הסכם שיתוף פעולה אינו מפרט את כל הבדיקות או מתחייב לפרסום תוצאות מלאות.