ב־30 שניות
- הערכת AI אמינה דורשת עצמאות, אך חשיפה מוקדמת של מבחנים מאפשרת התאמת מודל לבנצ'מרק. מחשוב חסוי יכול לאפשר הפעלה משותפת שבה אף צד אינו מקבל גישה מלאה לנכס הסודי של האחר.
- מנגנון כזה עשוי להתאים לבדיקת מודלים בתחומי בריאות, ממשל וביטחון בישראל, שבהם גם נתוני הבדיקה וגם פרטי המערכת רגישים. הוא יכול לאפשר ביקורת חיצונית בלי להעביר מאגר שלם.
- הפרידו בין בעל המודל, בעל נתוני הבדיקה והגוף שמאשר את המתודולוגיה, ותעדו מי יכול לראות כל תוצר.
מה חשוב להבין
המאמר מבוסס על מקורות ראשוניים ומפריד בין עובדות שפרסמו הגופים לבין ניתוח המערכת. המלצות מקצועיות דורשות התאמה להקשר ולרמת הסיכון.
הטענה המרכזית
הערכת AI אמינה דורשת עצמאות, אך חשיפה מוקדמת של מבחנים מאפשרת התאמת מודל לבנצ'מרק. מחשוב חסוי יכול לאפשר הפעלה משותפת שבה אף צד אינו מקבל גישה מלאה לנכס הסודי של האחר.
הפיילוט של DeepMind עם מכון הבטיחות הסינגפורי, OpenMined ו-MLCommons נועד לבחון בדיוק את המבנה הזה. ההסכמים של Microsoft עם מכוני הבטיחות בארה"ב ובבריטניה מראים שגם מסגרת מוסדית נעשית חלק מההערכה.
המשמעות לישראל
מנגנון כזה עשוי להתאים לבדיקת מודלים בתחומי בריאות, ממשל וביטחון בישראל, שבהם גם נתוני הבדיקה וגם פרטי המערכת רגישים. הוא יכול לאפשר ביקורת חיצונית בלי להעביר מאגר שלם.
מחשוב חסוי מגן על סודיות בזמן הרצה אך אינו מבטיח שמבחן מייצג שימוש אמיתי או שהמדדים נכונים. ממשל, בחירת תרחישים ופרסום מגבלות נשארים הכרחיים.
צעדים ליישום
הפרידו בין בעל המודל, בעל נתוני הבדיקה והגוף שמאשר את המתודולוגיה, ותעדו מי יכול לראות כל תוצר.
פרסמו תיאור של אוכלוסיית המבחנים, שיעורי כשל ומגבלות בלי לחשוף פריטים שמאפשרים אימון מכוון לבחינה.
המשמעות שמעבר לכותרת
מנגנון כזה עשוי להתאים לבדיקת מודלים בתחומי בריאות, ממשל וביטחון בישראל, שבהם גם נתוני הבדיקה וגם פרטי המערכת רגישים. הוא יכול לאפשר ביקורת חיצונית בלי להעביר מאגר שלם.
צעד יישומי אחד
הפרידו בין בעל המודל, בעל נתוני הבדיקה והגוף שמאשר את המתודולוגיה, ותעדו מי יכול לראות כל תוצר. פרסמו תיאור של אוכלוסיית המבחנים, שיעורי כשל ומגבלות בלי לחשוף פריטים שמאפשרים אימון מכוון לבחינה.
מקורות ובדיקת עובדות
מיכל הדס
מרצה ויועצת להטמעת AI, המפתחת חוויות למידה מבוססות גיימיפיקציה ודיגיטל ומחברת בין כלים פרקטיים, אתיקה וניהול סיכונים.
לכל הכתבות של מיכל הדס
