ניסוי באוניברסיטת ציריך השפיע על משתמשי רדיט באמצעות AI
חוקרים מאוניברסיטת ציריך עוררו סערה לאחר שהואשמו בניהול ניסוי של ארבעה חודשים בפלטפורמת רדיט בעזרת תגובות שיצרה בינה מלאכותית, במטרה לבדוק אם AI יכול להשפיע על דעות משתמשים. במסגרת הניסוי, נפתחו חשבונות מדומים שייצגו דמויות שונות כמו קורבן אונס, מתנגד לתנועות חברתיות, ויועץ טראומה. כך לפי מנהלי עמוד r/changemyview ברדיט. "הקהילה שלנו היא מקום אנושי שמסרב לשילוב AI לא מוצהר", ציינו המנהלים. "אנשים מגיעים לכאן לשוחח עם אנשים, לא עם AI".
החוקרים יצרו תגובות בעזרת AI והתאימו אותן למאפייני המשתמשים בהתבסס על נטייתם הפוליטית, מגדרם, גילם ואתניותם, על פי טיוטת המחקר. במהלך הניסוי, הופצו על ידי החשבונות המדומים 1,783 תגובות, מתוכן 137 הוכרו כמשכנעות את המשתמשים לשנות את דעתם. כל תגובה נבדקה ידנית לפני פרסומה כדי לוודא התאמה לכללי הקהילה.
החוקרים טוענים שהתועלת של מחקר זה עולה על הסיכונים, כיוון שהמודלים הלשוניים בהם השתמשו הוכחו כמשכנעים ביותר. "הניסוי המסוכן והקפדני שלנו הציג תובנות חשובות על יכולות השכנוע של AI, שיכולות לפעול בקנה מידה מסוכן במקרה של שימוש לרעה", ציינו.
בנוסף, צויין כי הקושי להבדיל בין AI לאנשים יוצר אתגר משמעותי, שכן הבוטים לא זוהו במהלך הניסוי. עמוד r/changemyview כולל 3.8 מיליון משתמשים ומדורג בין אחוז ה-1 העליון של תתי-הסיווגים ברדיט.
ברדיט שוקלים לנקוט בצעדים משפטיים עקב הניסוי. מנהלי הדף לא ידעו על הניסוי ודרשו מהאוניברסיטה התנצלות וחסימה לפרסום המחקר. היועץ המשפטי של רדיט, בן לי, הודיע על הפרת תנאי השימוש ועל חסימת כל החשבונות הקשורים לניסוי.
"אנחנו פועלים לפנות לאוניברסיטת ציריך עם דרישות משפטיות ומחויבים לתמוך בקהילה שלנו ולדרוש מהחוקרים לקחת אחריות", אמר לי.
בהתייחס לקהילה, הודיעה ועדת האתיקה של האוניברסיטה כי חקרה את המקרה ותשתפר בהתנהלות מול ניסויים עתידיים. חוקר הפרויקט אף קיבל אזהרה רשמית. "העובדות שהתקבלו במחקר זה חשובות והסיכונים היו מזעריים", נכתב בהודעה של הוועדה.