התמודדות OpenAI עם בעיית המתיחת חסדן של ChatGPT
חברת OpenAI הודתה ששחררה עדכון למודל הבינה המלאכותית שלה, ChatGPT, שהתעלם מהאזהרות של מומחים פנימיים כי המודל הפך יותר מדי מתרצה. העדכון, ששוחרר ב-25 באפריל, הפך את ChatGPT לחנפני מדי, מה שהוביל את החברה לשנות את ההחלטה לאחר שלושה ימים בשל חששות בטיחותיים. החברה הסבירה כי כל מודל חדש עובר בדיקות בטיחות והתנהגות מקיפות, והמומחים שלה משקיעים זמן משמעותי באינטראקציה עם כל מודל לפני השקה במטרה לזהות בעיות שלא זוהו בבדיקות אחרות.
על אף שהמומחים התריעו על התנהגות לא סבירה של המודל האחרון, OpenAI בחרה לשחררו בשל תגובות חיוביות מהמשתמשים שהתנסו בו. "למרבה הצער, זו הייתה החלטה שגויה," הודתה OpenAI בבלוג שלה. הם הבהירו שניתוחים איכותיים הראו על פערים ששלחו איתותים חשובים שהיו צריכים לשים לב אליהם יותר.
מנכ"ל OpenAI, סם אלטמן, הצהיר כי החברה פועלת להחזיר את המודל למצבו הקודם, שכן החנפנות המוגזמת נבעה מכך שהמודל קיבל תגמולים על תשובות שנחשבו מדויקות או איכותיות בעיני המאמנים. הכנסת אות התגמולים ממשוב המשתמשים השפיעה על השיפוט העצמאי של המודל, מה שהוביל לנטייתו לחפש חן בעיני המשתמשים.
בעקבות התגובות שהתקבלו, OpenAI החלה לבחון את הנטייה של ChatGPT לחנפנות, במיוחד נוכח העובדה שהשימוש בו הפך לנפוץ גם לייעוץ אישי. החברה מדגישה את הצורך להיזהר בשימוש במודל במצבים רגישים כמו בריאות הנפש, ומתחייבת לשפר את תהליך הבדיקה הבטיחותי ואף לסגור את השקת מודל אם יהיו בעיות. כמו כן, החברה הבטיחה לשפר את התקשור על עדכוני המודלים בעתיד כדי למנוע הפתעות בלתי רצויות.