ב־30 שניות
- ממשלת בריטניה הכריזה ב-12 באוקטובר על צעדים להגנת מערכות ציבוריות מפני סיכוני AI.
- לפי הממשלה, שני ניסויים קודמים סייעו לאתר ולתקן יותר מאלף חולשות אפשריות. זו טענת הממשלה, לא בדיקה שערכנו.
- הממשלה בוחנת הגנות ודרכים לזיהוי ולדיווח על אירועים וכמעט-אירועים, ומאשרת ש-AISI מעריך כעת מודלים מתקדמים. פרטי הצעדים עדיין אינם סופיים.
מה חשוב להבין
שלושת המקורות נקראו במלואם. ההודעה הממשלתית היא המקור הראשוני; מספר החולשות ותוכניות ההרחבה מיוחסים לממשלה. פרטי חקיקה ודיווח שעדיין נשקלים אינם מוצגים כחובה קיימת. המלצות הארגון הן של המערכת.
צעדים ממשלתיים, לא חוק חדש בתוקף
ממשלת בריטניה הכריזה ב-12 באוקטובר 2026 על חבילת צעדים לחיזוק הגנת הסייבר ולהכנה לסיכוני AI מתקדם. ההודעה הרשמית מתארת שימוש דחוף ביכולות AI מתקדמות להגנת מערכות ציבוריות, בחינת הגנות משפטיות נוספות ועבודה על תגובה לאירועים שבהם מעורבים סוכנים אוטונומיים. BBC ו-Tech.eu דיווחו באותו יום על ההכרזה ועל דברי שר ה-AI קנישקה נאראיאן.
לפי ההודעה, הממשלה תבחן חיזוק חלקים מהצעת חוק Cyber Security and Resilience Bill ומהמסגרת הרחבה יותר, לרבות סיכוני אובדן שליטה ב-AI. זהו תהליך של בחינה וגיבוש, לא הודעה שחוק AI חדש כבר נכנס לתוקף או שכל חברה חייבת מעכשיו לדווח על כל תקלה בסוכן. פרטי הצעדים אמורים להיבחן עם חברי פרלמנט, מומחים ומפעילים.
AI להגנה על שירותים ציבוריים
הממשלה אומרת שהרחבת הפעילות נשענת על שני ניסויים שכבר סייעו לאתר ולתקן יותר מאלף חולשות סייבר אפשריות במערכות ממשלתיות, וכן לזהות איומים אפשריים. המספר הוא נתון שמסרה הממשלה ומובא גם בדיווחי התקשורת; אין כאן ביקורת עצמאית שלנו על כל חולשה, על חומרתה או על איכות התיקון.
היעד המתואר הוא הגנה על שירותים שהציבור תלוי בהם, לצד אימוץ ארוך טווח של AI במגזר הציבורי. ההודעה אינה מפרטת מחיר, כלי אחיד או לוח זמנים לכל מערכת. היא גם אינה אומרת שהפעלת AI מבטלת צורך באימות תיקונים ובבדיקות אבטחה. הרחבת ניסוי למערכות נוספות עדיין דורשת הרשאות, פיקוח ותהליך ברור לטיפול בממצא.
תגובה לאירועי סוכנים ולכמעט-אירועים
העבודה החדשה כוללת שיתוף פעולה עם National Cyber Security Centre ועם AI Security Institute, כדי לברר כיצד להגיב לאירועים שבהם סוכני AI מבצעים משימות מורכבות עם מעט פיקוח אנושי. הממשלה מציינת שאירוע כזה יכול להתפתח מהר ולהתפשט רחב יותר מאירועים שעבורם נבנו מנגנוני התגובה הקיימים. זהו תיאור הסיכון בהודעה, לא תחזית שאירוע מסוים עומד להתרחש.
בנוסף תיבחן הדרך לזהות ולדווח על כמעט-אירועים, כדי ללמוד מכשלים לפני שנגרם נזק נוסף. אין במקורות שנקראו טופס דיווח חדש, מועד מחייב או רשימת סנקציות שכבר חלה על ארגון מסוים. לכן חשוב לשמור על ההבדל בין כיוון מדיניות לבין חובת ציות מעשית שניתן לבדוק בנוסח משפטי סופי.
AISI מעריך את הדור האחרון של המודלים
נאראיאן אישר שמדעני AISI עורכים כעת הערכות מחמירות של הדור האחרון של מודלי AI מתקדמים, בעקבות עבודה עם מפתחי המודלים ועם ממשלת ארצות הברית. BBC מביא את דבריו שלפיהם בריטניה פעלה בשבועות האחרונים לשמר גישה למודלים החזקים לפני שחרורם. האישור אינו תעודת בטיחות למודל מסוים או הבטחה שכל בדיקה הושלמה.
ברקע, נשיא מיקרוסופט בראד סמית׳ אמר ל-BBC ש-AISI סייע למצב את בריטניה כמדינה המתאימה להוביל רגולציה עולמית. אבל דבריו של מנהל חברה על מעמדה של מדינה אינם החלטת הממשלה ואינם חקיקה. האירוע החדשותי כאן הוא חבילת הצעדים והאישור על ההערכות הנוכחיות, כפי שפורסמו במקור הרשמי, ולא הטענה שכבר נוצרה מסגרת בינלאומית מחייבת לכל מעבדות ה-AI.
מה רלוונטי לארגונים בישראל
ארגון ישראלי שמפעיל סוכנים או מוכר שירותים בבריטניה יכול להיערך באמצעות תיעוד פעולות, גבולות הרשאה ודרך לעצור תהליך חריג. זו המלצת המערכת, ולא חובה ישראלית שנוצרה בעקבות ההכרזה. גם חברה ללא פעילות בריטית יכולה ללמוד מההבחנה בין בדיקת המודל לבין ניהול האירוע במערכת שבה הוא פועל.
לפני החלטת ציות כדאי לבדוק את נוסח החקיקה, תחולת המסגרת על השירות ואת פרטי הדיווח שיפורסמו. ההודעה מדברת על צעדים ראשונים ועל פרטים נוספים על תמיכה באימות AI בחודשים הקרובים. אין בסיס להציג את כל התוכנית כמנגנון שכבר פועל במלואו, או להסיק ממנה שסוכן מסוים בטוח לשימוש ללא בדיקות בארגון.
המשמעות שמעבר לכותרת
ההכרזה מחברת בין שימוש ב-AI להגנת מערכות לבין הכנה למקרים שבהם סוכנים חורגים משליטה. צריך להבדיל בין תוכנית ממשלתית, בדיקות טכניות וחובה חוקית שכבר חלה.
צעד יישומי אחד
תעדו פעולות סוכנים והרשאות, והגדירו דרך לעצור ולבדוק חריגה. ארגון עם פעילות בבריטניה צריך לבדוק תחולה ונוסח סופי לפני שהוא מניח שקיימת חובת דיווח חדשה.
שאלות נפוצות
האם בריטניה חוקקה חוק AI חדש?
ההודעה שנבדקה מתארת צעדים ובחינת הגנות במסגרת הצעת חוק. היא אינה מציגה חוק AI חדש שכבר נכנס לתוקף.
האם בדיקות AISI מוכיחות שהמודלים בטוחים?
הממשלה אישרה שהערכות מתבצעות כעת. זה אינו אישור בטיחות לכל מודל או שימוש.
מקורות ובדיקת עובדות
ד״ר יניב שנהב
יועץ ארגוני בכיר ומנחה, העוסק במנהיגות, שינוי התנהגותי והטמעת בינה מלאכותית בארגונים. מביא למערכת מבט ניהולי ויישומי על חדשות הטכנולוגיה.
לפרופיל של ד״ר יניב שנהב
