חברת Anthropic שחררה אמש הודעה דרמטית ומפתיעה במיוחד, מעט לאחר השקת המודלים החדשים והמתקדמים שלה: Fable 5 ו- Mythos 5.
מה בדיוק קרה שם? הנה הפירוט שלב אחרי שלב:
🛑 צו חסימה מיידי ופתאומי
ממשלת ארה"ב הוציאה צו פיקוח על ייצוא מטעמי ביטחון לאומי. הצו מורה לחברה לחסום לחלוטין ובאופן מיידי את הגישה למודלים Fable 5 ו-Mythos 5 עבור כל הלקוחות בעולם, ואפילו עבור עובדי החברה שאינם אזרחי ארה"ב.
🔍 החשש: "Jailbreak" בתחום הסייבר
לפי מכתב הממשל, קיים חשש משיטה המאפשרת לעקוף את מנגנוני ההגנה של המודל ("פריצה").
נזכיר שמדובר במודלים עוצמתיים בתחום הסייבר והחברה הציבה הגנות מתקדמות למודל Fable 5 הפתוח לציבור הרחב כדי למנוע ניצול לרעה.
החברה בדקה את טענות הממשלה וגילתה כי מדובר ביכולת של המודל לזהות מספר פרצות אבטחה קטנות בקוד – יכולת שלדבריהם קיימת באופן נרחב ויומיומי גם במודלים מתחרים בשוק (כמו GPT-5.5 של OpenAI).
🛡️ העמדה של Anthropic
החברה משתפת פעולה עם הצו באופן משפטי אך מביעה אי-הסכמה חריפה. הם מדגישים כי השקיעו אלפי שעות בבדיקות הגנה, וכי אין כיום מודל בעולם שחסין לחלוטין מפריצות נקודתיות. החברה מזהירה שאם זה יהיה הסטנדרט לפסילת מודלים מסחריים, פיתוח הבינה המלאכותית בעולם כולו פשוט ייעצר.
💡 מה המשמעות עבורנו כבוני אפליקציות ואתרים?
- ניהול סיכוני תלות (Vendor Lock-in): האירוע הזה מוכיח באופן חד-משמעי כמה מסוכן להסתמך על מודל או ספק יחיד. פרויקט שלם או מערכת של לקוח יכולים לעצור ביום בהיר בגלל החלטה רגולטורית.
- מעבר לארכיטקטורה גמישה: חובה לבנות את המערכות שלנו עם קוד גמיש (באמצעות API אחיד או פונקציות Factory) המאפשר להחליף את מודל הבסיס (למשל מ-Anthropic ל-OpenAI או למודל קוד פתוח מקומי) בלחיצת כפתור אחת.
- החמרת הרגולציה והאבטחה: ככל שכלי ה-AI הופכים לחזקים יותר, הממשלות יתערבו יותר. מפתחים שידעו לאבטח את ה-Prompts שלהם ולמנוע מניפולציות של משתמשי קצה, יהיו בעלי יתרון מקצועי עצום בשוק.