פריצה מסקרנת ל-Anthropic: כיצד קבוצה קטנה הצליחה לחדור ל-Mythos ביום הראשון לשחרור
ביום ההכרזה על שחרורו המבוקר של מודל ה-AI המתקדם Claude Mythos של חברת Anthropic, הצליחה קבוצה קטנה של משתמשים לא מורשים להשיג גישה לתצוגה המקדימה שלו, כך מדווח בלומברג. האירוע מעלה שאלות לגבי היכולת של Anthropic לשלוט במודל המתקדם והמסוכן הזה, שהיה נתון למגבלות בטיחות חמורות.
כיצד קבוצה קטנה הצליחה לפרוץ למערכת כל כך מאובטחת? חברי ערוץ דיסקורד פרטי, שמוקדש לציד מודלים של בינה מלאכותית שלא שוחררו, הצליחו לנחש את כתובת ה-URL של נקודת הקצה של Mythos. ג'וש קייל, משתמש פופולרי ב-X, ציין כי "ארבעה בחורים רנדומליים בדיסקורד השיגו גישה ביום הראשון על ידי ניחוש ה-URL." הקבוצה הצליחה לבנות מחדש את שיטות השמות של Anthropic בעזרת נתונים שנחשפו בפריצת Mercor שלושה שבועות קודם לכן.
בנוסף, אחד מחברי הקבוצה החזיק באישורי הערכה לגיטימיים דרך עבודה בחוזה עבור ספק של Anthropic. אישורים אלו, בשילוב עם ה-URL שניחשו, אפשרו להם גישה מתמשכת למודל. עם זאת, הם נמנעו מטיפול בנושאים הקשורים לאבטחת סייבר ושמרו על שימוש במשימות פשוטות בלבד, כמו בניית אתרים.
למרות הדיווחים, חברת Anthropic אישרה שהיא חוקרת את הדיווח אך ציינה שלא מצאה ראיות לגישה מעבר לסביבת הספק. החברה הגבילה את הגישה ל-Mythos לכ-40 ארגונים מאושרים בלבד, כולל אפל, אמזון וסיסקו, לצורך בדיקות אבטחה הגנתיות בלבד במסגרת פרויקט Glasswing.
בעוד שהפריצה התרחשה, הבית הלבן שואף להרחיב את הגישה ל-Mythos לסוכנויות פדרליות אזרחיות. למרות איסור הפנטגון, מנכ"ל Anthropic, דריו אמודיי, נפגש עם בכירי הבית הלבן ב-17 באפריל, ושני הצדדים כינו את השיחות "מועילות". זהו שינוי מגמה מהשנה הקודמת, כאשר הפנטגון הגדיר את Anthropic כ"סיכון לשרשרת האספקה".
האירוע מדגיש את החשיבות של אבטחת מידע ומעלה את השאלה האם ניתן לסמוך על חברות כמו Anthropic לשחרר טכנולוגיה כה עוצמתית לציבור הרחב. האם לדעתכם יש להגביר את הפיקוח על שחרור מודלים מתקדמים של בינה מלאכותית? נשמח לשמוע את דעתכם.