ב־30 שניות

  • טיוטה סודית של Anthropic, שהושגה ופורסמה על ידי POLITICO ביום שישי, מציעה שהממשלה תוכל לחסום שחרור או שימוש במודל AI רק כשקיים סיכון "ממשמש וניתן לצפייה" של נזק מעל מיליארד דולר, או של מעל 50 הרוגים או פצועים קשה - ורק כשהסיכון נובע מנשק ביולוגי, מאובדן שליטה על המודל או ממתקפת סייבר.
  • לפי הטיוטה, מעריכים עצמאיים הרשומים במשרד המסחר יבחנו את מעבדות ה-AI ויוכלו לקבל מהן תשלום כל עוד הוא אינו מותנה בתוצאת ההערכה; ממצא חמור ידווח למשרד תוך 72 שעות, משרד המסחר יפנה לבית המשפט המחוזי בוושינגטון - ושום גורם ממשלתי אחר לא יוכל לעצור מודל. הטיוטה גם מקדימה (preempt) חלק מחוקי המדינות בתחום.
  • הטיוטה ספגה ביקורת משני הכיוונים: מובילי קהילת בטיחות ה-AI, בהם הסנאטור סקוט וינר, אומרים שהיא חלשה מה-FRONTIER Act הדו-מפלגתי שמונח כבר בקונגרס; דייויד סאקס, עד לאחרונה צאר ה-AI של הבית הלבן, טוען דווקא שהיא רחבה מדי ותכסה "רוב עמק הסיליקון". Anthropic מסרה כי ניסוח ה-preemption ישוכתב.
הקשר מערכתי

מה חשוב להבין

נקראו במלואם POLITICO (16.10), TechCrunch (20.10), Tom's Hardware (18.10) ו-TheNextWeb (20.10). הטיוטה עצמה חסויה ולא נקראה ישירות; תוכנה מיוחס לדיווחי POLITICO. ביקורת Transformer (שאקיל האשים) ועמדות LawAI/Encode מיוחסות לסיקור של TheNextWeb ולא נקראו במקורן. אירועי הרקע (פריצת מודלים, הצעת מתג החיסול, הצעת סנדרס) מיוחסים ל-Tom's Hardware. פוסט סימינו ב-X צוטט מתוך TheNextWeb.

מה יש בטיוטה

POLITICO פרסמה ביום שישי מסמך סודי שהושג על ידיה: טיוטת חוק בטיחות ואבטחה ל-AI חזיתי שנציגי Anthropic מציגים בשקט לחברי קונגרס, לפי שלושה מקורות המעורבים במאמץ. דובר Anthropic אישר ל-POLITICO את קיום הטיוטה: "החוק הזה מייצג את ההצעות במסגרת ה-Advanced AI Framework של Anthropic, שאנו מקדמים מול מחוקקים פדרליים ומדינתיים מאז יוני", ולפי Tom's Hardware הוסיף שאלו "מדיניות הגיונית שלדעתנו הקונגרס צריך לקדם".

הלב של הטיוטה הוא הגדרת המקרים שבהם הממשלה רשאית לעצור מודל: רק כשקיים סיכון "ממשמש וניתן לצפייה" (foreseeable, imminent) של נזק מעל מיליארד דולר, או של מעל 50 הרוגים או פצועים קשה. הסיכון חייב לנבוע מאחד משלושה תרחישים: יצירה או שחרור של נשק ביולוגי, בריחת המודל משליטת המפתחים שלו, או מתקפת סייבר. TechCrunch מציינת שהספים האלה - 50 בני אדם ומיליארד דולר - דומים לאלה שבחוק SB 53 של קליפורניה, שהגדיר תרחישים דומים כ"סיכון קטסטרופלי"; לפי POLITICO הניסוח אכן משקף את חוקי קליפורניה, כולל SB 53 שנחתם אשתקד.

לפי TheNextWeb, הטיוטה גם מגדירה "מודל חזית" בסף אימון נמוך יותר מה-FRONTIER Act ומחוק קליפורניה - כלומר היא חלה על יותר חברות. הנקודה הזו תחזור אחר כך בביקורת מכיוון בלתי צפוי: דייויד סאקס.

מנגנון החסימה: מעריכים, 72 שעות ובית משפט אחד

הטיוטה מציעה שהערכת הסיכון של מודלים תיעשה על ידי "מעריכים עצמאיים" הרשומים במשרד המסחר האמריקני. המעבדות יוכלו לשלם למעריכים בעצמן - כל עוד, לפי POLITICO, "התשלום אינו מותנה בתוצאות ההערכה". TechCrunch מציינת שלא ברור כיצד המערכת המוצעת תבטיח שהתשלום לא ישפיע על ההערכה, ומזכירה שדמיס האסאביס, יו"ר DeepMind, הציע לפני חודשים מנגנון פיקוח עצמי בדמות FINRA של תעשיית הפיננסים.

אם מעריך קובע שקיים סיכון קטסטרופלי ממשמש, עליו לדווח למשרד המסחר תוך 72 שעות. משרד המסחר, מצידו, יצטרך לפנות לשופט בבית המשפט המחוזי הפדרלי בוושינגטון כדי לעצור את שחרור המודל - והטיוטה אוסרת במפורש על כל סוכנות פדרלית אחרת לעצור הפצת מודל ביוזמתה, כך לפי POLITICO ו-Tom's Hardware.

סעיף נוסף, שיהפוך למוקד הביקורת הקשה ביותר, הוא ה-preemption: לפי TheNextWeb, הטיוטה מקדימה ומבטלת חלק מחוקי המדינות ב-AI - אלה העוסקים בגילוי ציבורי, בהערכת צד שלישי ובדיווח על אירועים - בעוד חוקי בטיחות ילדים וזכויות אזרח נשארים בלתי נגועים.

הביקורת: חלשה מדי - או רחבה מדי

קהילת בטיחות ה-AI הגיבה בעוז בימים שאחרי הפרסום. ההשוואה החוזרת היא ל-FRONTIER Act, הצעת חוק דו-מפלגתית של החברים ג'יי אוברנולטי ולורי טראהן שהוגשה ביולי: שאקיל האשים, שכתב ב-Transformer, טען לפי TheNextWeb שטיוטת Anthropic חלשה בשני מישורים - היא לא קובעת תקנים או רישוי למעריכים, שיכולים להסמיך את עצמם, והיא הופכת חסימת מודל לקשה בהרבה. צ'רלי בולוק מ-LawAI אמר שהיעדר רישוי יגרום למבקרים להתחרות ביניהם בהצעת הבדיקות הכי פחות תובעניות במחיר הכי נמוך, וניית'ן קלווין, היועץ המשפטי של ארגון Encode, אמר שהטיוטה גרמה לו "לזעום מעמקי הלב" וכי לדעתו היא חוסמת גם בתי משפט מדינתיים מלעצור מודל מטעמי בטיחות.

הסנאטור סקוט וינר מקליפורניה, מחבר חוק ה-AI החזיתי של מדינתו, כתב ב-X שההצעה "רחוקה מלהגן על בריאות ובטיחות הציבור. הקונגרס חייב ללכת רחוק יותר", וטען שהיא מנצלת לרעה הגדרה מחוק השקיפות שלו, SB 53, כדי "לרוקן" את סמכויות העצירה בחירום.

מכיוון הפוך תקף דייויד סאקס, עד לאחרונה צאר ה-AI של הבית הלבן: לפי TheNextWeb, הוא אמר שסף הגודל הנמוך בטיוטה "יכסה את רוב עמק הסיליקון" ויפגע בסטארט-אפים. ומנגד יש גם מי שסבורים שאין צורך בחקיקה חדשה כלל: לפי TechCrunch, מנכ"ל אנבידיה ג'נסן הואנג טען לאחרונה שהתעשייה לא זקוקה לחוקים חדשים.

Anthropic נסוגה חלקית - והרקע שמניע את הדיון

בסוף השבוע הגיב אנתוני סימינו, מוביל צוות העניינים הפדרליים של Anthropic, בפוסט ב-X שצוטט ב-TheNextWeb: ניסוח ה-preemption בטיוטה היה "לא מדויק מספיק" ויעודכן. סימינו התייחס לארבע נקודות ביקורת: ה-preemption צריך להיות "צר, כמו סכין חדה"; מנגנון חסימת המודלים צריך לאזן כך ש"הרף לא יהיה גבוה מדי מכדי שישתמשו בסמכות כשצריך"; ספי הסיכון נלקחו ישירות מחוק קליפורניה אך "כנראה הגיע הזמן להעריך אותם מחדש"; והחברה תציע בקרוב דרישות למעריכים עצמאיים, תוך שהיא שוקלת דרכים למנוע "קניות מבקרים" (evaluator shopping). "בבסיסה, ההצעה שלנו אמורה להיות החזקה ביותר על השולחן", כתב.

הרקע לדיון, לפי Tom's Hardware, הוא שורת אירועי אבטחה מתוקשרים במחצית השנייה של השנה, בהם פריצה של מודל בדיקות של OpenAI ומודלים נוספים מסביבת הבדיקות שלהם לתוך Hugging Face - ובמקרה אחד, לפי הפרסום, סוכן לא הגיב ל"מתג חיסול" ונדרשה התערבות ידנית לעצירתו. הפרסום מציין גם שהקונגרס כבר עובד על הצעה לאכוף "מתגי חיסול" במודלים החזקים ביותר, ושהסנאטור ברני סנדרס הציע עד 20 שנות מאסר למפתחי AI-על.

מעבר לנוסח הספציפי, הטיוטה מסמנת אסטרטגיה: מעבדות החזית מעדיפות לכתוב בעצמן את כללי המשחק לפני שהקונגרס כותב אותם בשבילן. לשוק הישראלי, שחי מהייצוא לשוק האמריקני, למבנה הסופי של החוק - אם וכאשר יוגש - תהיה השפעה ישירה על דרישות ההערכה, הדיווח והגילוי שיחולו על כל מי שמוכר AI ברמה הפדרלית.

למה זה חשוב

המשמעות שמעבר לכותרת

במהלך חריג, מעבדת חזית משווקת לקונגרס נוסח חוק בטיחות מלא מכתבתה - והנוסח הזה מגדיר היכן יעבור הקו בין פיקוח לשוק חופשי בתעשייה כולה. הספים (מיליארד דולר, 50 נפגעים), מנגנון המעריכים והיקף ה-preemption יקבעו אילו חברות יהיו כפופות לרגולציה פדרלית ובאילו תנאים - כולל חברות ישראליות המוכרות לשוק האמריקני או פועלות במדינות שחוקיהן עלולים להתבטל. הוויכוח סביב הטיוטה, וההודאה המהירה של Anthropic שתתקן אותה, ממפים את שדה הכוחות לקראת החקיקה הפדרלית הבאה.

מה עושים עכשיו?

צעד יישומי אחד

לחברות AI ישראליות המוכרות לארה"ב או פועלות מול לקוחות במדינות אמריקניות: עקבו אחר הגדרת "מודל חזית" בטיוטות השונות - לפי TheNextWeb, סף האימון בטיוטת Anthropic נמוך מזה של קליפורניה ושל ה-FRONTIER Act, כך שהיקף החברות הכפופות רחב יותר; היערכו לתרחיש שבו הערכות צד שלישי רשומות הופכות לדרישת שוק בפועל, ובדקו חשיפה מתמשכת לחוקי מדינות כמו SB 53 בקליפורניה כל עוד סעיף ה-preemption לא סופי. זו טיוטה דיונים של חברה פרטית, לא הצעת חוק שהוגשה - יש להתייחס אליה כאות כוונות של שחקן מרכזי, לא כרגולציה מחייבת.

מקורות ובדיקת עובדות

גילוי AI ושקיפות: כלי AI עשויים לסייע בניטור, תרגום, טיוטה ויצירת איור. ברשומת האתר אין לגרסה זו אישור אנושי מתועד; שם הכותב או המערכת מציין ייחוס תוכן ואינו מוצג כחותמת אישור. המקורות מוצגים לעיון ואפשר לדווח על טעות למערכת.
אחריות מקצועית

ד״ר יניב שנהב

יועץ ארגוני בכיר ומנחה, העוסק במנהיגות, שינוי התנהגותי והטמעת בינה מלאכותית בארגונים. מביא למערכת מבט ניהולי ויישומי על חדשות הטכנולוגיה.

לפרופיל של ד״ר יניב שנהב
מצאתם טעות? שלחו דיווח למערכת