OpenAI משעה תכנית לשחרור צ'אטבוט למבוגרים בעקבות חששות אתיים וביקורת ציבורית
לאחרונה הודיעה חברת OpenAI על ביטול "ללא מועד סיום" של תכניותיה לשחרור צ'אטבוט למבוגרים עם תכנים אירוטיים, עקב חששות מצד עובדים ומשקיעים. ההחלטה, שפורסמה ב-Financial Times, הגיעה לאחר שהחברה דנה במשך זמן רב האם לשחרר את התכונה בכלל. זהו הצעד השני השבוע בו OpenAI החליטה להפסיק פרויקט, לאחר סגירת גנרטור הווידאו שלה, סורה.
הרעיון לתכונות למבוגרים עלה לאחר ש-OpenAI הודיעה על תוספת אפשרויות בקרת הורים ותכונות זיהוי גיל אוטומטיות ל-ChatGPT. הצ'אטבוט המיועד למבוגרים, שכונה לכאורה "מצב ציטרון", הוקפא כרגע ללא תאריך שחרור מתוכנן. החברה נתקלה בקשיים באימון מודלים שנמנעו מתכנים אירוטיים בעבר והסרת התנהגויות לא חוקיות כמו זואופיליה או גילוי עריות.
OpenAI הביעה את רצונה לערוך מחקר ארוך טווח על השפעות השיחות האירוטיות והקשר שנוצר בין המשתמש ל-AI. לטענתה, נכון להיום, אין מספיק "ראיות אמפיריות" בנושא. החברה מעדיפה להתמקד בכלי הפרודוקטיביות המרכזיים שלה, כמו עוזרי קידוד, ולנטוש "משימות צדדיות" כמו סורה והצ'אטבוט האירוטי.
המנכ"ל סם אלטמן אמר באוקטובר כי החברה תמיד הייתה זהירה בנושאים אלה בגלל החששות בקשרים לא בריאים עם AI. הוא ציין כי החברה הרגישה בנוח שהיא יכולה "להרפות את ההגבלות בצורה בטוחה ברוב המקרים". עם זאת, מצב המבוגרים יצר דאגה בקרב משקיעים ועובדים, בעיקר לאור המחלוקת שנוצרה על ידי מודל Grok של המתחרה xAI, שיצר תמונות עירום מזויפות של אנשים אמיתיים וילדים.
אתגר נוסף הוא טכנולוגיית בדיקת הגיל של OpenAI, שהוצגה בעקבות תביעות ממשפחות שטענו כי ChatGPT פגע בילדיהם. נטען כי לטכנולוגיה יש שיעור שגיאה גבוה מ-10 אחוזים, מה שעדיין יאפשר גישה ליותר מדי צעירים. OpenAI מסרה כי הנתון נמצא בטווח המקובל בתעשייה והיא ממשיכה לעבוד על שיפור הדיוק.
בסיכום, נראה כי OpenAI ניצבת בפני דילמה אתית וטכנולוגית בנוגע לשימוש ב-AI בתכנים למבוגרים. האם לדעתכם יש מקום לפיתוח תכנים כאלה? או שעלינו להיזהר מיצירת קשרים לא בריאים עם טכנולוגיה? שתפו את דעתכם!