OpenAI ומחלקת ההגנה האמריקנית חותמות על הסכם לפריסת מודלים ברשת המסווגת
בצעד משמעותי לעולם הבינה המלאכותית והביטחון הלאומי, OpenAI הגיעה להסכם עם מחלקת ההגנה של ארצות הברית לפריסת המודלים שלה ברשת המסווגת של הסוכנות. במהלך זה, OpenAI מתחייבת לשמירה על עקרונות הבטיחות שלה, הכוללים איסור על מעקב המוני ואחריות אנושית על השימוש בכוח, כולל מערכות נשק אוטונומיות.
סם אלטמן, מנכ"ל OpenAI, חשף את ההסכם ברשת החברתית X. הוא הדגיש כי החברה כללה את עקרונות הבטיחות האלה בהסכם עם מחלקת המלחמה, שהיא השם המועדף על ידי הממשלה למחלקת ההגנה, וסוכנות זו הסכימה לכבד אותם. מהלך זה מגיע זמן קצר לאחר שנשיא ארצות הברית, דונלד טראמפ, הורה לכל הסוכנויות הממשלתיות להפסיק להשתמש בשירותים של Anthropic.
ההסכם המדובר מעורר תמיהה רבה, בעיקר לאור העובדה ששר ההגנה האמריקני, פיט הגסט, איים בעבר לסמן את Anthropic כ"סיכון בשרשרת האספקה" אם לא תסיר את המגבלות על הבינה המלאכותית שלה. מגבלות אלה כוללות איסור על מעקב המוני ונשק אוטונומי מלא. לא ברור מה גרם לממשלה לשתף פעולה עם OpenAI, אם גם למודלים שלה יש את אותן מגבלות.
ג'רמי לוין, פקיד בכיר במשרד לסיוע חוץ, עניינים הומניטריים וחופש דת, ציין כי DoW מתייחסת לסמכויות חוקיות קיימות וכוללת מנגנוני בטיחות מוסכמים בחוזים שלה. לטענתו, גם OpenAI וגם xAI הסכימו לתנאים האלה, בעוד ש-Anthropic דחתה את ההצעה.
Anthropic, חברה שהחלה לעבוד עם ממשלת ארה"ב ב-2024, הביעה התנגדות מוחלטת לדרישות מחלקת המלחמה. בהצהרה שפורסמה שעות ספורות לפני ההודעה של OpenAI, החברה ציינה ששום איום או עונש מצד DoW לא ישנה את עמדתה ביחס למעקב המוני ונשק אוטונומי מלא.
OpenAI הודיעה כי תבנה אמצעי הגנה טכניים כדי להבטיח שהמודלים יתנהגו בהתאם לציפיות. החברה שולחת מהנדסים לעבוד עם מחלקת המלחמה כדי להבטיח את בטיחות המודלים שלה, ואלה יפרסו רק על רשתות ענן. יש לציין כי OpenAI עדיין לא נמצאת בענן של אמזון, בו הממשלה משתמשת, אך ייתכן שהמצב ישתנה בקרוב לאור שיתוף הפעולה החדש.
המהלך הזה עשוי לסמן שינוי משמעותי בתחום הבינה המלאכותית והביטחון הלאומי, אך עדיין נותרות שאלות רבות פתוחות לגבי ההשלכות האתיות והביטחוניות של פריסת טכנולוגיות כאלה. האם לדעתכם שיתוף הפעולה הזה יתרום לביטחון הלאומי או שמא יש בו סיכונים בלתי מבוקרים?