דו"ח על בינה מלאכותית: כשקידמה טכנולוגית מתנגשת עם מציאות מדומה
בעידן שבו הבינה המלאכותית (AI) הופכת לחלק בלתי נפרד מחיינו, דו"ח שפורסם לאחרונה על ידי חברת הייעוץ והחשבונאות KPMG עורר סערה. הדו"ח, שכותרתו "Total Experience: Redefining Excellence in the Age of Agentic AI", נועד להציג את יתרונות הבינה המלאכותית בשיפור השירות ללקוחות. אולם, התברר כי הוא מלא בהזיות של AI, דבר שהעלה שאלות רבות על אמינותם של פרסומים טכנולוגיים בעולם העסקי.
הדו"ח שבחן את השפעות הבינה המלאכותית על השירות ללקוחות כלל דוגמאות לא מדויקות ואף לא קיימות. החברה GPTZero, המפתחת כלי לזיהוי תוכן AI, חשפה אי-דיוקים רבים בדו"ח. מתוך 45 ציטוטים שהופיעו בו, רק חמישה היו מדויקים, בעוד 28 ציטוטים היו שגויים ו-12 נוספים היו מעורפלים מדי. מצב זה מכונה על ידי GPTZero כ"ציטוט אווירה" — יצירת הפניות מזויפות שמטעות את הקוראים.
ההשלכות של פרסום כזה הן משמעותיות. דו"חות של חברות כמו KPMG משמשים לעיתים קרובות כמקורות במאמרים מחקריים ונחשבים לאמינים. מנכ"ל GPTZero, אדוארד טיאן, הזהיר כי פרסומים עם שגיאות עשויים "לזהם את מקור המידע", דבר שעלול להוביל להזיות AI משניות ולפגיעה באמינות המידע הכללי בשוק.
דוגמאות נוספות מהדו"ח כוללות את הטענה השגויה כי חברת אמירייטס השיקה צ'אטבוט בשם שרה שיכול לשנות טיסות לנוסעים. בפועל, "שרה" היא עוזרת ניידת, אך ללא יכולות AI לשינוי הזמנות. טענה נוספת שנמצאה שגויה היא כי בנק UBS השוויצרי שילב AI בתחומי הייעוץ והניהול שלו, מה שהבנק הכחיש בתוקף.
בעקבות הביקורת החריפה, KPMG הודיעה כי היא מתייחסת ברצינות לדיוק וליושרה של התוכן שפרסמה. החברה פתחה בבדיקה של הנסיבות שהובילו לפרסום הדו"ח ומשכה אותו מהפצה. המקרה הזה מדגיש את הצורך בבדיקת עובדות קפדנית ובקרה על תוכן, במיוחד כאשר מדובר בטכנולוגיות חדשות כמו בינה מלאכותית.
מה דעתכם על המקרה הזה? האם לדעתכם חברות טכנולוגיה צריכות להחמיר בבדיקת התוכן שהן מפרסמות, במיוחד כשמדובר בבינה מלאכותית? שתפו את מחשבותיכם והצטרפו לדיון.