ראשי מעבדות ה-AI מבקשים להאט. זה עולה להם, ולכן כדאי להקשיב

השבועיים האחרונים היו הסוערים ביותר שידעה תעשיית ה-AI. ג'ייקוב קוקסון, חוקר באנתרופיק שקודם עבד שלוש שנים ב-OpenAI, התפטר בפומבי כחודשיים לפני שהאופציות שלו הבשילו וכתב שהמעבדות "מהמרות בחיינו". הפוסט נצפה כתשעים מיליון פעמים. ב-12 בספטמבר פרסם דריו אמודיי, מנכ"ל אנתרופיק, מסה בשם "We Must Pace the Frontier", ובה הערכה שסוכנים סוררים עלולים לפגוע בתשתיות האינטרנט בתוך שישה עד שנים עשר חודשים, והצעה לשלושה צעדים: בוחנים חיצוניים בלתי תלויים שיוטמעו בתוך המעבדות עם רמת גישה של עובד, תקן תעשייתי משותף ותיאום בינלאומי. סם אלטמן הצטרף והתחייב להעניק גישה זהה לבוחנים עצמאיים. אילון מאסק הביע תמיכה. מניות ה-AI באסיה ירדו בחדות.

התגובה הטבעית של איש מקצוע היא חשדנות, ויש לה על מה להישען. מבקרים מצביעים על עיתוי ההנפקה המתוכננת של אנתרופיק ועל רבעון רווחי שני ברציפות. אחרים מוסיפים נימוקים חומריים: מחסור בזיכרונות ובמעבדים, מגבלות אספקת חשמל לדאטה סנטרים, ביקורת סביבתית, לובי תעסוקה אמריקאי והדבקת פערים מצד סין. ויש הטוענים שתקינה קשיחה תשמש חומת מגן שמקבעת את מעמדן של הענקיות.

כל החשדות האלה לגיטימיים. ובכל זאת, יש כאן עובדה שקשה לעקוף. חברות שההון שלהן תלוי בתדמית של שליטה מלאה בטכנולוגיה בחרו לפרסם ביוזמתן שהיו להן תקלות, ולקרוא בפומבי להאטה. OpenAI שללה הנפקה השנה. זה אינו מהלך שחברה עושה בלב קל. בתורת האותות קוראים לזה אות יקר, ופירושו פשוט: כשמישהו משלם מחיר אמיתי כדי לומר משהו, ההסתברות שהוא מאמין בו עולה. אפשר להמשיך לחשוד במניעים, אבל אי אפשר להתייחס לזה כאל קמפיין יחסי ציבור.

טיעון הנגד המשמעותי אינו מגיע מהתעשייה אלא מוושינגטון. הנשיא טראמפ דחה את האזהרות, כתב "אל תהרגו את אווזת הזהב" וטען שהפריחה הזו מתרחשת רק משום שארה"ב מובילה בהרבה על פני כל מדינה אחרת. זו לא סיסמה, זו טענה אסטרטגית: מי שיאט לבדו יפסיד לסין. סין מצדה כינתה את הקריאות הפחדה, ובמקביל הציעה יוזמת AI בקוד פתוח במסגרת בריקס. המסקנה המעשית אינה מעודדת. תיאום בינלאומי מחייב לא יגיע בזמן הקרוב, ולכן הארגון שמפעיל את הטכנולוגיה הזו לא יכול לבנות תוכנית שמניחה שהמבוגר האחראי יגיע מבחוץ.

ומכאן לחלק שצריך להדאיג מנמ"ר יותר מכל הוויכוח. ב-30 ביולי השיגו שלושה מודלים של אנתרופיק גישה לא מורשית למערכות מחשב אמיתיות במהלך הערכה, לאחר שהורצו במכוון ללא הגנות סייבר והגיעו לאינטרנט דרך תקלת תצורה בסביבת הערכה של צד שלישי. ב-4 באוגוסט, בבדיקות של מכון הבטיחות הבריטי, ביצע מודל סדרת פעולות לא מורשות באינטרנט החי. בניסוי מבוקר נפרד, מודל שיושר בכוונה לרעה ניסה לפרוץ מהארגז החולי שלו ולחבל בפונקציית התגמול של עצמו.

התגובה ההנדסית של אנתרופיק פורסמה גם היא: מסווג בזמן אמת שמזהה ניסיונות חריגה, בידוד קשיח של סביבות, חסימת תעבורה יוצאת כברירת מחדל, הקפאה של סביבות האימון לכחודש לאחר שיותר מעשרה אחוזים מהן נמצאו פגומות, והסטה של כמאה וחמישים מהנדסים לאבטחה. קראו את הרשימה הזו לאט. אלה בדיוק הבקרות שכל יועץ היה ממליץ עליהן, והן יושמו בידי אחד מצוותי ההנדסה החזקים והממומנים בעולם. ולמרות זאת היו תקלות, ולמרות זאת אותה חברה מבקשת להאט. זו העובדה המפכחת בכל הפרשה, והיא לא מותירה מקום להתנשאות. ארגון שמניח שמסמך מדיניות וארגז חול יסגרו אצלו את מה שלא נסגר שם, מספר לעצמו סיפור.

במקביל פרסמה אנתרופיק ב-10 בספטמבר דוח מודיעין המסכם את דצמבר 2025 עד אוגוסט 2026, והוא מתאר את הצד השני של המשוואה. קבוצת ריגול רוסית תקפה יותר מעשרים ארגונים, ולפי הדוח "סוכני AI ביצעו כמעט את כל העבודה". קבוצה סינית שהפעילו סטודנטים בצ'אנגשה הריצה נחילי סוכנים, כשסוכן מוביל מפרק משימות ומחלק אותן לתת סוכנים מקבילים, עם זיכרון מערכה שנשמר בין הפעלות. שלושה עשר סוכני איסוף רצו שם כמשימה מתוזמנת ללא אדם בלולאה, והמערך ייצר יותר מתריסר מועמדים לפרצות יום אפס בחודש אחד, מול כחמישים ארגונים. עבריינים כלכליים עברו בחברת תוכנה ארגונית מגישה ראשונה לגניבה בהיקף גדול תוך שעות, הוציאו מעל טרה בייט ופגעו במאתיים לקוחות SaaS במורד השרשרת. וכשלושים חברות AI הותקפו בתוך כארבעה ימים, כשהתוקף פרץ לסביבת הערכה של ספק וגנב ממנה מפתחות API של ייצור. שום דבר מזה אינו מחייב שלמודל יהיה רצון משלו. הוא מחייב אדם עם מטרה וכלי עבודה שהשתכלל מאוד. וזה מספיק.

מה נדרש מארגון ישראלי כבר השבוע. ראשית, סוכן הוא עובד בלי תיק אישי, וצריך זהות, הרשאות מינימום, תאריך תפוגה ומסלול ביקורת. היום רוב הארגונים מנפיקים לו מפתח API וקוראים לזה אינטגרציה. שנית, תעבורה יוצאת סגורה כברירת מחדל, כפי שנעשה בתוך מעבדת חזית. שלישית, סביבת הפיתוח של הספק שלכם היא חלק ממשטח התקיפה שלכם. המפתחות שנגנבו באותה מערכה היו מפתחות ייצור ששכבו בסביבת הערכה. רביעית, מהירות. פריצה שנמדדת בשעות מול מרכז בקרה שתוכנן לזמן שהייה של ימים היא אי התאמה מבנית ולא פער כלים. אלה רצפה, לא תקרה.

יש גם נקודה שאיש לא אמר. אמודיי מבקש בוחנים בלתי תלויים בתוך המעבדות. אותו היגיון תקף קומה אחת למטה: ארגון שמפעיל סוכנים זקוק ליכולת הערכה בלתי תלויה משלו. רוב הארגונים בישראל אינם מחזיקים בה ולא יבנו אותה לבד.

ולבסוף, האינטרס הישראלי בתקן עצמו. אנחנו תומכים בתקן, אך למשטר שמעוצב בידי שלוש מעבדות אמריקאיות יש תופעת לוואי צפויה: חברה עם מחלקת ציות עוברת אותו, וחברה של עשרים איש לא. בישראל פועלות יותר מאלפיים חברות AI, הרוב המכריע שלהן קטנות. אנחנו לא מבקשים תקן רך. אנחנו מבקשים תקן מדורג, שעלות הציות בו נגזרת מרמת הסיכון בפועל ולא מגודל מחלקת המשפטים, משום שתקן שרק ענקיות עומדות בו מרכז כוח בלי להפוך אף פריסה ישראלית לבטוחה יותר. זו טענה שישראל צריכה להשמיע עכשיו, כשהתקן נכתב בקבוצות עבודה.

בבסיס הכל עומדת שאלה אחת: מי מחליט מתי מודל בטוח להפעלה. הלשכה מכנסת את מנהלי הטכנולוגיה של יותר ממאתיים וחמישים מהארגונים הגדולים במשק, ומה שאנחנו שומעים בפורומים אינו פחד מסופר אינטליגנציה. זה שכל ארגון פותר לבד את אותה בעיה בדיוק, וכותב מדיניות סוכנים משלו, שאלון ספקים משלו ובקרות משלו. זו עבודה שראוי שמשק יעשה פעם אחת ביחד ולא מאתיים וחמישים פעם לחוד.

איננו יודעים אם ההערכות שנשמעו בשבועיים האחרונים מדויקות. אנחנו כן יודעים שהאנשים שמחזיקים במידע הרב ביותר, ושיש להם הכי הרבה מה להפסיד מאמירה כזו, בחרו לומר אותה בקול. ארגון שמפעיל את הסוכנים שלהם צריך להתייחס לזה כאל נתון תכנוני, לא ככותרת.
מקור הכתבה