מודל הבינה המלאכותית Mythos של Anthropic מאיים לשנות את פני האבטחה הממשלתית
מודל הבינה המלאכותית "Mythos" של חברת Anthropic הדהים לאחרונה את העולם כשזיהה חולשות אבטחה במערכות ממשלתיות רגישות בתוך שעות ספורות בלבד, כך מסר פקיד אמריקאי לסוכנות הידיעות AP. המודל, שנבחן במסגרת פרויקט "Glasswing", נחשף כפורץ דרך בתחום האבטחה, אך במקביל, גם מעורר חששות כבדים.
הפקיד, שביקש להישאר בעילום שם בשל רגישות הנושא, הדגיש כי היכולת של Mythos לאתר חולשות במהירות אינה אומרת שהמודל גם יכול לנצל אותן באותו פרק זמן. עם זאת, עצם היכולת לאתר חולשות כה במהירות מדגישה את הפוטנציאל והסיכונים שבטכנולוגיה זו.
Anthropic בחרה שלא לשחרר את Mythos לציבור הרחב ובמקום זאת העניקה גישה מוקדמת למודל ליותר מ-50 חברות טכנולוגיה, במטרה לאפשר להן לזהות ולתקן פגיעויות תוכנה קריטיות. הסנאטור מארק וורנר מווירג'יניה התייחס לבדיקות שנערכו וציין בפני ועדת הסנאט כי "הכלי הזה פרץ כמעט לכל המערכות המסווגות שלנו, לא בשבועות אלא בשעות."
היסטוריית ההצלחות של Mythos אינה מסתיימת כאן. מכון ביטחון הבינה המלאכותית של בריטניה בדק את המודל באתגרים מורכבים מסוג "תפוס את הדגל", והוא הצליח ב-73% מהם, הישג שלא נראה כמותו עד אז. בנוסף, חברת מוזילה זקפה לזכות Mythos את חשיפת 271 פגיעויות בדפדפן פיירפוקס, מה שהוביל לתיקונים בגרסה האחרונה של הדפדפן.
כדי להרחיב את השימוש במודל, Anthropic השיקה את הגרסה הכללית "Claude Fable 5", אך ממשלת ארה"ב הוציאה הוראת פיקוח על יצוא בשל שיקולי ביטחון לאומי. הוראה זו מגבילה את הגישה ל-Fable 5 ול-Mythos 5 לאזרחים זרים, מה שמעיד על החששות הביטחוניים שהמודל מעורר.
ההשלכות של פיתוחים אלו הן רבות ומשמעותיות. מצד אחד, יש כאן פוטנציאל לשיפור האבטחה והגנה על מערכות קריטיות, אך מצד שני, עולה החשש מפני ניצול לרעה של הטכנולוגיה על ידי גורמים עוינים. השאלה הגדולה היא כיצד ממשלות וחברות יוכלו לאזן בין הפוטנציאל לפגיעה הביטחונית.
האם לדעתכם יש לאפשר שימוש נרחב יותר בטכנולוגיות אלו, או שמא יש להמשיך ולהגביל את השימוש בהן בשל הסיכונים האפשריים? נשמח לשמוע את דעתכם בנושא ולהמשיך את הדיון.