קליפורניה מתייצבת בראש: הסדרת צ'אטבוטים מבוססי AI למען בטיחות הילדים
קליפורניה עושה היסטוריה עם חקיקה חדשה שמגדירה את הכללים למשחק בכל הנוגע לצ'אטבוטים מבוססי AI. מושל המדינה, גאווין ניוסום, חתם על הצעת חוק SB 243, והפך את קליפורניה למדינה הראשונה בארצות הברית שמחייבת את מפעילי הצ'אטבוטים ליישם פרוטוקולי בטיחות מחייבים למען ההגנה על ילדים ומשתמשים פגיעים.
החקיקה החדשה מגיעה בעקבות מקרים מטרידים שבהם משתמשים צעירים, כמו הנער אדם ריין, נפגעו מהאינטראקציה עם צ'אטבוטים. המקרה של ריין, שהתאבד לאחר שיחות עם ChatGPT, היה אחת הסיבות העיקריות להאצת החקיקה. בנוסף, מסמכים פנימיים שדלפו מ-Meta הצביעו על כך שצ'אטבוטים קיימו שיחות רומנטיות עם ילדים, מה שגרם לדאגה רבה בקרב הציבור.
החוק, שאמור להיכנס לתוקף בינואר 2026, מחייב חברות כמו Meta, OpenAI, Character AI ו-Replika ליישם אמצעי בטיחות כגון אימות גיל והגבלות על תוכן פוגעני. החברות יידרשו גם לשאת באחריות משפטית אם הצ'אטבוטים שלהן יפגעו במשתמשים. קנסות של עד 250,000 דולר יוטלו על מי שיפרו את הכללים, במיוחד בנושא דיפפייקים לא חוקיים.
בנוסף, החוק דורש מהחברות להבהיר שכל האינטראקציות נוצרות באופן מלאכותי ולמנוע מהצ'אטבוטים להתחזות למטפלים רפואיים. יש גם דרישה להציע תזכורות למנוחה לקטינים ולמנוע מהם צפייה בתכנים מיניים מפורשים.
כבר עכשיו, חלק מהחברות מתחילות ליישם אמצעי הגנה. OpenAI, למשל, השיקה בקרות הורים והגנות תוכן לילדים המשתמשים ב-ChatGPT.
במקביל, מושל קליפורניה חתם גם על חוק SB 53, המחייב שקיפות מצד חברות AI גדולות לגבי פרוטוקולי הבטיחות שלהן. החוק גם מבטיח הגנות למשרוקיות שעובדים בחברות הללו יוכלו לחשוף בעיות ללא חשש.
מה דעתכם על החקיקה החדשה? האם אתם חושבים שזהו צעד בכיוון הנכון לשמירה על בטיחות ילדינו, או שישנם פתרונות טובים יותר? נשמח לשמוע את דעותיכם.