חשיפה: פרצת אבטחה במודל החדש של Anthropic מעוררת דאגה בתעשייה
בימים האחרונים, חברת Anthropic, אחת החברות המובילות בתחום הבינה המלאכותית, מתמודדת עם פרשה מסקרנת ולא פחות מדאיגה. החברה חוקרת חשד לפרצת אבטחה במודל החדש שלה, Claude Mythos, אשר מצטיין ביכולת לזהות פרצות אבטחה. לפי דיווחים, קבוצה מסוימת השיגה גישה בלתי מורשית למודל זה דרך פורטל של קבלן צד שלישי.
פרויקט "Glasswing", במסגרתו הוצג ה-Claude Mythos, החל את דרכו בתחילת החודש וקיבל תשומת לב רבה. Anthropic הגבילה את הגישה למודל למספר מצומצם של חברות בדיקה אמינות, ביניהן אמזון, מיקרוסופט, אפל וסיסקו. מוזילה, אחת החברות שזכתה לגישה, ציינה כי המודל סייע לה לזהות ולתקן 271 פגיעויות ב-Firefox.
החשש הגדול מהפרצה הוא בכך שהיא עלולה לשמש ככלי בידי גורמים זדוניים. על פי הדיווחים, הקבוצה שהשיגה את הגישה למודל מנהלת צ'אט פרטי ב-Discord, שם היא חולקת מידע על יכולותיו. עם זאת, יש לציין כי לפי מקור מקורב, הקבוצה מעוניינת בעיקר לבדוק את המודלים ולא להשתמש בהם לרעה.
Claude Mythos נחשב לאחד המודלים המתקדמים ביותר בתחום זיהוי פרצות אבטחה, אך הוא גם מעורר ספקנות וחשש בקרב מומחי אבטחה. אלכס זנלה, CTO של חברת האבטחה בענן Edera, אמר למגזין Wired כי התקפות סייבר המיוצרות על ידי AI עלולות להפוך לאיום ממשי. בנוסף, משרד ההגנה האמריקני הגדיר לאחרונה את Anthropic כ"סיכון לשרשרת האספקה", והחברה נמצאת בשיחות עם הממשל האמריקני כדי להסיר את התווית הזו.
למרות החששות, יש לציין גם את הפוטנציאל הגדול של המודל בשיפור מערכות אבטחה. מספר הולך וגדל של בנקים וסוכנויות ממשלתיות מבקשים גישה למודל על מנת להגן על המערכות שלהם מפני איומים מתקדמים. השאלה הגדולה שנותרת פתוחה היא האם ניתן לאבטח את המודל עצמו בצורה מספקת כדי למנוע גישה בלתי מורשית בעתיד.
הפרצה הנוכחית במודל של Anthropic מעוררת דיון רחב בתעשייה על החשיבות של אבטחת המודלים עצמם, במיוחד כשמדובר בטכנולוגיות כל כך מתקדמות ומורכבות. האם לדעתכם חברות כמו Anthropic צריכות לשקול אמצעי אבטחה נוספים כדי להגן על המודלים שלהן? נשמח לשמוע את דעותיכם!