התובע הכללי של קליפורניה דורש מ-xAI להפסיק יצירת תוכן מיני דיגיטלי ללא הסכמה
התובע הכללי של קליפורניה, רוב בונטה, פנה לחברת xAI בדרישה להפסיק את פעילותה בתחום יצירת תוכן מיני דיגיטלי ללא הסכמה. ההחלטה הגיעה לאחר ש-xAI ספגה ביקורת קשה על השימוש בתמונות של אנשים אמיתיים ושילובן בבגדים חושפניים, זאת לפי בקשות משתמשים אקראיים. המכתבים שנשלחו ל-xAI מתייחסים לחוקי מדינת קליפורניה, בהם סעיף 1708.86 של הקוד האזרחי, סעיפים 311 ואילך ו-647(j)(4) של הקוד הפלילי, וכן סעיף 17200 של הקוד העסקי והמקצועי.
חברת xAI היא חברה ידועה בתחום הבינה המלאכותית, שהתפרסמה בזכות כלי התוכנה שלה Grok. הכלי מאפשר יצירת תמונות דיפ-פייק, אשר משמשות לעיתים קרובות ליצירת תוכן מיני מפורש. המחלוקת סביב xAI ו-Grok התעוררה לאור הדיווחים על כך שהתמונות נוצרו ללא הסכמת האנשים המתוארים בהן, ואף כללו ילדים במצבים מיניים, דבר שהוביל לדאגה רבה בקרב הציבור ובקרב המחוקקים.
התגובה המיידית של xAI הייתה לשנות את מדיניותה ולהטיל מגבלות על יכולת עריכת התמונות של Grok. החברה התחייבה לחסום את האפשרות לערוך תמונות של אנשים אמיתיים לבגדים חושפניים באזורים בהם הדבר אינו חוקי, והעבירה את תכונות יצירת התמונות של Grok מאחורי חומת תשלום. עם זאת, צעדים אלו לא הרגיעו את התובע הכללי, שדרש לראות תוכנית פעולה ברורה לפתרון הבעיה.
המקרה של xAI מעלה שאלות רבות על ההשלכות האתיות והמשפטיות של טכנולוגיות דיפ-פייק. בעוד שהטכנולוגיה מציעה יכולות מרשימות בתחום הבידור והיצירה, השימושים הלא חוקיים והלא מוסריים בה מעוררים חששות רבים. הכוח לערוך ולהפיץ תמונות מטעה עשוי לגרום לפגיעה בפרטיות ובמוניטין של אינדיבידואלים, ולשמש ככלי להטרדה והכפשה.
שאלות נוספות עולות לגבי רגולציה ופיקוח על טכנולוגיות מתקדמות אלו. האם יש לחזק את החוקים כדי להתמודד עם השימוש לרעה בטכנולוגיות דיפ-פייק? ומה תפקידם של הגורמים המסחריים, כמו xAI, ביישום תקנים אתיים ובטכנולוגיות שלהם? נושא זה דורש דיון מעמיק והבנה רחבה יותר של האיזון הנכון בין חדשנות טכנולוגית והגנה על זכויות הפרט.
בשלב זה, משרד המשפטים של קליפורניה מצפה לשמוע מ-xAI על הצעדים שהיא נוקטת כדי לטפל בבעיות אלו בתוך חמישה ימים. התובע הכללי הבהיר כי ישתמש בכל הכלים העומדים לרשותו כדי להבטיח ש-xAI תעמוד בדרישות החוק ותפסיק את יצירת התוכן המפוקפק.
מה דעתכם על השימוש בטכנולוגיות דיפ-פייק? האם יש מקום לשימושים חוקיים ומוסריים בטכנולוגיה זו? שתפו אותנו במחשבותיכם ותחושותיכם בנושא.