אפליקציות הפשטה: בין טכנולוגיה מתקדמת לאתגרים אתיים
בתחילת השנה הנוכחית, נחשפה תופעה מדאיגה: אפל וגוגל מציעות בחנויות האפליקציות שלהן תוכנות "הפשטה", שאמורות להיות אסורות לפי מדיניותן. כמעט שלושה חודשים לאחר מכן, אפליקציות אלו לא רק שעדיין זמינות, אלא גם מקודמות באופן פעיל, כך לפי דוח חדש של פרויקט השקיפות הטכנולוגית (TTP). רבות מהאפליקציות הללו מסומנות כמתאימות לכולם, כולל ילדים.
בעוד שהחיפושים אחר מונחים כמו "nudify" ו-"undress" מאפשרים גישה לאפליקציות המסוגלות להפוך אנשים לתמונות עירום, הדוח טוען שהפלטפורמות משחקות תפקיד מרכזי בהפצת כלים מבוססי AI שמסוגלים ליצור תמונות מיניות של אנשים אמיתיים. חנויות האפליקציות אף כוללות מודעות המקשרות לאפליקציות אלו בתוצאות החיפוש.
הקבוצה זיהתה 18 אפליקציות הפשטה בחנות האפליקציות של אפל ו-20 ב-Google Play. חלק מהאפליקציות שווקו עם תמונות מיניות, בעוד אחרות לא הוצגו כך אך עדיין אפשרו יצירת דיפ-פייק. לפי הדוח, האפליקציות הללו יצרו יחד הכנסות של כ-122 מיליון דולר והורדו 483 מיליון פעמים.
קייטי פול, מנהלת TTP, הביעה דאגה: "זה לא רק שהחברות לא מצליחות לבחון את האפליקציות הללו בצורה ראויה, אלא הן ממשיכות לאשר ולהרוויח מהן," אמרה לבלומברג. "הן למעשה מכוונות משתמשים ישירות לאפליקציות הללו."
בעוד שאפל וגוגל מחזיקות במדיניות האוסרת על תוכן מיני או פורנוגרפי, נראה שהן מתקשות לאכוף אותה. אפל הודיעה כי הסירה 15 אפליקציות שזוהו על ידי הקבוצה, בעוד גוגל ציינה שהיא השעתה מספר אפליקציות. אחת האפליקציות המדוברות, Video Face Swap AI: DeepFace, מפרסמת את עצמה בכך שהיא מאפשרת להחליף פנים של אנשים אמיתיים על גופם של אחרים, כולל תמונות עירום.
התפשטות אפליקציות הפשטה ודיפ-פייק מעוררת תגובות חקיקתיות ברחבי העולם. נציגת הילדים של בריטניה קראה לאסור על אפליקציות דיפ-פייק המייצרות תמונות מיניות של ילדים. באותו הזמן, ארצות הברית ומדינות נוספות הציעו חוקים המגבילים אפליקציות מסוג זה, והתובע הכללי של קליפורניה אף שלח צו הפסקת פעילות לאפליקציות מפורשות בתחום.
האם לדעתכם יש להציב מגבלות נוספות על אפליקציות אלו, או שמא יש לאפשר את התפתחות הטכנולוגיה תוך הסתמכות על שיקול דעת אישי? מה דעתכם לגבי האיזון בין חופש טכנולוגי לבין שמירה על אתיקה וביטחון אישי?