האפיפיור ליאו ה-14 בנאום על AI: "מכונות הן כלים, לא בני אדם", ועידוד צעדים לאיסור נשק אוטונומי קטלני

מה נאמר ובפני מי

לפי הודעה של לשכת העיתונות של הוותיקן מ-30 באוקטובר, האפיפיור ליאו ה-14 קיבל בקהל את משתתפי כנס שנקרא "עתיד ה-⁠⁦AI⁩: דיאלוג בין הוותיקן לעולם המדע על התפתחויות ויישומים של טכנולוגיות חכמות". הכנס אורגן על ידי האקדמיה האפיפיורית לחיים ו-⁠⁦Future of Life Institute⁩. הלשכה פרסמה את הנוסח המלא של הנאום באנגלית.

האפיפיור פתח באמירה שהמשתתפים חולקים "תחושת אי נוחות" מהתפתחות ה-⁠⁦AI⁩, ושלדבריו אין די פעולה כדי להתקדם. הוא הזכיר את דבריו של קודמו, האפיפיור פרנציסקוס, בפני מנהיגי ⁦G7⁩ ב-2024: שום מכונה לא צריכה לקבל החלטה לקחת חיי אדם. הוא הוסיף שהוא עסק בנושא בהרחבה באנציקליקה שלו ⁦Magnifica Humanitas⁩.

חמש ההתייחסויות

לפי הנוסח, הראשונה היא שעתיד ה-⁠⁦AI⁩ אינו קבוע מראש: הוא תלוי בבחירות של בני אדם, ולכן יש אחריות "להנחות, לשנות, וכשצריך גם לדחות" יישומים. השאלה, לדבריו, אינה מה ה-⁠⁦AI⁩ יכול לעשות אלא איזו מטרה הוא צריך לשרת. מערכת אמינה שמשרתת את האדם שווה יותר ממערכת חזקה במיוחד שאי אפשר לצפות או לשלוט בתוצאותיה.

השנייה: מכונות הן כלים, לא בני אדם. האפיפיור התנגד להצעות להעניק למערכות כאלה זכויות או אישיות משפטית, כי לדבריו זה עלול לטשטש את האחריות האנושית ולהשאיר את מי שנפגע מול ישות חסרת פנים. השלישית: יש החלטות שאסור למסור. הוא נתן כדוגמה אדם שנכנס לרשימת מטרות או למאגר של בקרת גבולות, שבו הוא עלול להפוך ל"נקודת נתונים" בלבד.

הרביעית: טכנולוגיות חכמות צריכות לשרת את הטוב הכללי ולא רק קבוצה מוגבלת, וההטבות מהן צריכות להתחלק בצורה הוגנת. החמישית, שהאפיפיור כינה אולי הדחופה ביותר: כבר ידועים עקרונות אתיים רבים, ומה שחסר הוא מוסדות בינלאומיים שיוכלו ליישם אותם, עם תקנים משותפים, פיקוח עצמאי ומנגנוני אחריות, כך שאפשר יהיה לבחון החלטות, לערער עליהן ולתת סעד על נזק.

בהתייחסות הראשונה אמר האפיפיור גם שמי שרואה בפיתוח ה-⁠⁦AI⁩ מירוץ שצריך לנצח בו מתמקד רק בקו הסיום ושוכח את מי שנשארו מאחור. בהתייחסות הרביעית הוא ציטט את האנציקליקה שלו: "צדק דורש גישה להטבות של חדשנות, כולל טיפול, ידע, כלים והזדמנויות". שני הדברים האלה מופיעים בנוסח הרשמי של הוותיקן ולא רק בסיכומי העיתונות, ולכן אפשר לייחס אותם ישירות לנאום.

הקריאה בנוגע לנשק

בהתייחסות השלישית אמר האפיפיור שהחלטות שמשפיעות על חיי אדם, על חירות ועל שימוש בכוח חייבות להישאר תחת פיקוח אנושי יעיל, מושכל ואחראי. משום כך, אמר, צריך "לפרק מנשק" את ה-⁠⁦AI⁩, והוא עודד את המדינות שיתכנסו בז'נבה בנובמבר לנקוט צעדים קונקרטיים לקראת איסור נשק אוטונומי קטלני.

⁦The Verge⁩ כותב שמדובר בחברות באו"ם. בנוסח של הוותיקן מופיעות רק "המדינות שיתכנסו בז'נבה", ולכן איננו מציינים באיזה פורום או הסכם מדובר. גם ⁦ANSA⁩ ו-⁠⁦NDTV⁩ מצטטים את הקריאה, ובלי פרטים נוספים על הפגישה.

מה הנאום לא אומר

בנוסח שפורסם האפיפיור אינו מציין חברות, מוצרים או חוקים מסוימים, ואינו מציע נוסח של איסור או אמנה. הקריאה בנוגע לנשק מופנית למדינות ומנוסחת כעידוד לצעדים קונקרטיים, בלי מועד או הליך. המונח "לפרק מנשק" את ה-⁠⁦AI⁩ מופיע בנאום בפסקה על החלטות בנוגע לכוח ולמעקב. בנוסח שקראנו אין אמירה שצריך להפסיק לפתח את הטכנולוגיה.

האפיפיור אף מדגיש שהשאלה היא איזו מטרה ה-⁠⁦AI⁩ משרת, ולא רק מה הוא יכול לעשות. לכן נכון לקרוא את הנאום כמסגרת ערכית. מי שמחפש בו הוראה מעשית לארגון או לחברה לא ימצא אותה, אלא עקרונות שאפשר ליישם בכל מדיניות פנימית.

מה מוסיפים הדיווחים

⁦Vatican News⁩, שפרסם סיכום של הנאום, מדגיש שהמטרה היא להשאיר את האדם במרכז ולמנוע הפיכה של אנשים לנתונים. ⁦The Verge⁩ מוסיף שהנאום משקף רעיונות מהמסמך הגדול הראשון של האפיפיור מחודש מאי, ושקודמו פרנציסקוס קרא ב-2024 לאסור נשק אוטונומי. אלה פרטי רקע שמגיעים מהכתב ולא מהנאום.

⁦NDTV⁩ מצטט פוסטים של האפיפיור בחשבון ⁦@Pontifex⁩ שחוזרים על משפטים מהנאום, בהם שעתיד ה-⁠⁦AI⁩ אינו קבוע מראש ושמכונות הן כלים. ⁦ANSA⁩ מדווח בקצרה על הקריאה לא למסור למכונה החלטות על נשק ועל גבולות.

מקורות ומה לא ידוע

לשכת העיתונות של הוותיקן ו-⁠⁦Vatican News⁩ הם גופים של אותו מוסד, ולכן אינם מקורות עצמאיים זה מזה. ⁦The Verge⁩, ⁦ANSA⁩ ו-⁠⁦NDTV⁩ מסתמכים על הנאום. הציטוטים כאן מתורגמים מהנוסח האנגלי של לשכת העיתונות, ולא מהקלטה. לא קראנו את ⁦Magnifica Humanitas⁩. מספרי הסעיפים שהנוסח הרשמי מפנה אליהם באנציקליקה לא נבדקו מול המסמך עצמו, והם אינם מופיעים כאן.

לא ידוע אילו מדינות יגיבו, איזה הליך בז'נבה האפיפיור מתכוון אליו, והאם הנאום ישפיע על משא ומתן. הנאום הוא עמדה מוסרית של ראש הכנסייה הקתולית, ולא מסמך משפטי או הוראה לחברות ⁦AI⁩.