קריאה לפעולה: Anthropic מתמודדת עם התקפות זיקוק בבינה מלאכותית
החברה המובילה בתחום הבינה המלאכותית, Anthropic, מצאה את עצמה בלב סערה בעקבות טענות להפרות בתחום התקפות זיקוק, כאשר שלוש חברות סיניות – DeepSeek, Moonshot ו-MiniMax – הואשמו כי ניצלו את הצ'אטבוט שלה, Claude, לפיתוח מודלים מתקדמים משלהן. המונח "זיקוק" מתייחס לשימוש של מודלים פחות מתקדמים בתגובות של מודלים חזקים יותר על מנת להשתפר בעצמם. בעוד שמדובר בטכניקה שאינה מזיקה במקורה, היא עלולה לשמש גם בדרכים מזיקות.
על פי טענות Anthropic, החברות הללו ניהלו קמפיינים בקנה מידה תעשייתי, תוך שימוש בכ-24,000 חשבונות מזויפים וביצוע יותר מ-16 מיליון אינטראקציות עם Claude. זהו נתון מדהים שמצביע על השפעה רחבת היקף ועל האופן שבו ניתן לעקוף אמצעי הגנה קיימים. Anthropic הצליחה לקשור את הפעילות לחברות הספציפיות באמצעות כתובות IP, מטא-דאטה ומדדי תשתית, יחד עם שיתוף פעולה עם אחרים בתעשייה שזיהו התנהגות דומה.
אין זה הפעם הראשונה שתעשיית הבינה המלאכותית מתמודדת עם תופעות מסוג זה. בשנה שעברה, OpenAI, יצרנית ChatGPT, העלתה טענות דומות והגבילה חשבונות חשודים בניסיון לשמור על שלמות המודלים שלה. פעולות אלו מדגישות את הצורך הדחוף בפיתוח מנגנוני הגנה חזקים יותר שיעמדו בפני איומים מסוג זה.
בד בבד עם ההתמודדות עם התקפות הזיקוק, Anthropic נאלצת להתמודד גם עם תביעה מצד מוציאים לאור של מוזיקה, שטוענים כי החברה השתמשה בעותקים לא חוקיים של שירים לאימון Claude. האשמות אלו מציבות את Anthropic במצב מורכב, כשהיא נדרשת להגן על שמה ועל המוניטין שלה בתעשייה.
האם לדעתכם יש צורך ברגולציה מחמירה יותר בתחום הבינה המלאכותית כדי למנוע מקרים דומים בעתיד? או שאולי מדובר בבעיה אינהרנטית בטכנולוגיה שדורשת פתרונות טכנולוגיים מתקדמים יותר? דעתכם חשובה לנו!