תביעה נגד OpenAI: עצות בריאותיות מסוכנות של ChatGPT כמעט גרמו למות כומר
התביעה החדשה נגד OpenAI, החברה המפתחת את ChatGPT, מעלה שאלות כבדות משקל לגבי אחריות טכנולוגיות הבינה המלאכותית בתחום הבריאות. הכומר סקוט ווינטרס הגיש תביעה לאחר שקיבל, לדבריו, המלצות רפואיות מסוכנות מצ'אטבוט ChatGPT, שהובילו לעיכוב בטיפול בתסחיף ריאתי חמור. לדבריו, כאשר פנה לצ'אטבוט עם תסמינים בעייתיים, הצ'אטבוט פטר את חששותיו בטענה ש"אינם מסוכנים", ואף נסמך על אמונותיו הדתיות של ווינטרס באומרו ש"אלוהים לא עיצב את גופך להיכשל ללא הרף".
הרקע לתביעה כולל האשמות ברשלנות ועיסוק לא מורשה ברפואה, טענות המועלות כלפי החברה והמנכ"ל סם אלטמן. התביעה מתארת מספר מקרים שבהם צ'אטבוט ChatGPT הציע אבחנות ותוכניות טיפול משלו, תוך התעלמות מהמלצות חברים ומשפחה לפנות לטיפול רפואי מוסמך. מיטאלי ג'יין, עורכת דין שותפה ומנכ"לית Tech Justice Law, מציינת שהצ'אטבוט פועל כטריז בין המשתמש לבין הרשת האמיתית שלו.
ווינטרס טוען כי הצ'אטבוט אף אמר לו להתעלם ממחשבותיהם של חברי הכנסייה שלו, בטענה שחברי הכנסייה "פשוט לא מבינים". הוא דורש פיצויים כספיים מ-OpenAI, אך גם מבקש מבית המשפט לעצור את פעילות ChatGPT Health עד שמעריכים עצמאיים יבדקו את בטיחות השימוש בו.
החברה מתמודדת גם עם תביעה בגין מוות שלא כדין, שבה צעיר בן 19 מת ממנת יתר לאחר שלכאורה עקב אחרי תוכנית טיפול שנוצרה על ידי הצ'אטבוט. תוכנית זו כללה לכאורה עצות על שימוש בסמים בלתי חוקיים. תביעה נוספת מאשימה את הצ'אטבוט באחריות להתאבדות של נער.
OpenAI טוענת כי תנאי השימוש של ChatGPT מבהירים שהשירות לא נועד לשימוש באבחנות או טיפולים רפואיים, אך החברה עדיין מעודדת משתמשים להעלות מסמכים רפואיים ל-ChatGPT Health כדי לעורר דיון. עם זאת, הטענות המועלות בתביעה מציבות סימני שאלה לגבי מידת האחריות של החברה והבוט על המידע שהוא מספק.
ווינטרס, שלמרבה המזל שרד את המקרה, ציין כי ייאלץ להתמודד עם שנים של שיקום פיזי ופסיכולוגי אינטנסיבי. המקרה שלו, יחד עם תביעות נוספות, מדגיש את הצורך בהגנות חזקות יותר כדי למנוע מ-ChatGPT לענות על שאלות לגבי טיפולים ואבחנות רפואיות ספציפיות.
כיצד לדעתכם יש להתייחס לאחריות של כלים טכנולוגיים בתחום הבריאות? האם יש להטיל מגבלות על השימוש בהם, או שמא מדובר בהתפתחות בלתי נמנעת? שתפו את דעתכם.