גוגל במאבק מול האקרים: לכידת ניצול יום אפס בעזרת בינה מלאכותית
פסקה 1: לאחרונה, קבוצת המודיעין של גוגל חשפה את המקרה הראשון בעולם של האקרים פליליים שניצלו יום אפס באמצעות טכנולוגיות בינה מלאכותית. המהלך של גוגל ניטרל מתקפה המונית שתוכננה לפני שיצאה לפועל, והצליח למנוע נזק פוטנציאלי גדול. הדו"ח שפרסמה גוגל מדגיש כיצד תוקפים משלבים כעת מודלים של שפה גדולה בכל שלב של חדירה למערכות.
פסקה 2: ניצול יום האפס המדובר נעשה באמצעות קוד זדוני שנכתב בשפת התכנות Python. הקוד הצליח לעקוף את האימות הדו-שלבי (2FA) של כלי ניהול מערכת בקוד פתוח. עם זאת, גוגל לא חשפה את שם הספק שנפגע מהמתקפה. המקרה מצביע על כך שמודל שפה גדול היה המחבר של הקוד, כאשר הוא הכיל הערות דמויות מדריך וניקוד CVSS מומצא.
פסקה 3: האנליסט הראשי של GTIG, ג'ון הולקוויסט, התריע כי אנו עלולים להיתקל בחדירות דקות יותר בעזרת AI, שלא יזוהו בנקל. הוא הדגיש כי כל דור חדש של מודלים יקטין את הצורך בכלים שפותחו על ידי מומחים, אך הסכנה כבר קיימת. "המירוץ כבר התחיל," הוא ציין, והדגיש את הצורך במודעות וביכולות מתקדמות לזיהוי האיומים החדשים.
פסקה 4: הדו"ח של גוגל ציין גם תוכנות זדוניות הקשורות לרוסיה, כמו PROMPTFLUX ו-PROMPTSPY, שמתקשרות עם מודל הג'מיני בזמן אמת כדי לתכנן את הפעולות הבאות שלהן. בנוסף, מבצעי מדינה סיניים וצפון קוריאניים מאמנים מודלים פרטיים על מאגר נתונים הכולל 85,000 פגיעויות.
פסקה 5: בתגובה לאיומים אלו, גוגל השיקה את "Big Sleep", סוכן AI שתפקידו לצוד ניצולי יום אפס לפני שהתוקפים ימצאו אותם. יחד עם המערכת CodeMender, שפועלת לתיקון אוטומטי של פגיעויות. כבר עכשיו, Big Sleep הצליח לסגור פגם שתוכנן על ידי האקרים לנצל.
פסקה 6: בעידן בו התקפות מתבצעות בעזרת AI, תחום הקריפטו נמצא בסיכון מתמשך. מחקר של Binance הראה שסוכני AI מנצלים חוזים חכמים באופן יעיל פי שניים מזיהוי האיומים. בורסות רבות מתכוננות עם מגיני AI מתקדמים, אך הרף ממשיך לעלות.
פסקה 7: אם כן, השאלה היא, האם אנחנו מוכנים להתמודד עם עולם שבו ההתקפות נעשות מתוחכמות יותר בזכות הבינה המלאכותית? האם יש לנו את המשאבים והיכולות להגיב בזמן לאיומים אלו? דיון זה אינו רק על העתיד של אבטחת מערכות, אלא גם על האתיקה והאחריות שלנו בעולם טכנולוגי מתפתח זה.