מטא מציגה: כלי מבוסס בינה מלאכותית לזיהוי תמונות וסרטונים
בעידן בו טכנולוגיות הבינה המלאכותית הולכות ומתקדמות, חברת מטא מציגה כלי חדשני לזיהוי תמונות וסרטונים שנוצרו באמצעות המודלים החדשים שלה. הכלי, המבוסס על אינטרנט, מאפשר לזהות סימני מים בלתי נראים שנוספו לתכנים על ידי המודלים החדשים, ובכך מאפשר להבין האם התמונה או הסרטון נוצרו בעזרת Meta AI. מערכת סימון זו, הנקראת Content Seal, נחשבת לפריצת דרך בתחום, שכן היא נשארת פעילה גם כאשר התמונה נחתכת, נדחסת או משנה את גודלה.
מטא הציגה לראשונה את הגישה החדשה של סימני המים שלה, Content Seal, בגרסה הכלולה ב-Muse Image. מדובר בגישה קניינית, אם כי בעבר שחררה החברה גרסאות קוד פתוח של הטכנולוגיה. בשונה מהגרסאות הקודמות, שבהן סימני המים היו גלויים לעין, כעת הם בלתי נראים ומאפשרים זיהוי פנימי בלבד. יכולות הזיהוי של Meta AI מוגבלות כיום לתמונות שנוצרו או נערכו עם Muse Image, אך החברה מתכננת להרחיב את השימוש בטכנולוגיה גם לסרטונים.
בבדיקות שערכה החברה, הכלי מבוסס האינטרנט הצליח לזהות את סימני המים בתמונות שנוצרו או נערכו באופן מלא על ידי הבינה המלאכותית של Meta AI, כולל צילומי מסך של התמונות. עם זאת, חשוב לציין כי התכונה החדשה לא משולבת עדיין באפליקציות Meta AI, מה שמגביל את יכולות הזיהוי שלה בשלב זה. העוזר מבוסס האפליקציה של מטא אינו מצויד בכלים הנדרשים לזיהוי תמונות שנוצרו באמצעות בינה מלאכותית, מה שמצביע על הצורך בפיתוח נוסף.
למרות ההתקדמות הרבה, מטא עומדת בפני ביקורת על הדרך בה היא מסמנת ומזהה תוכן שנוצר על ידי בינה מלאכותית. מועצת הפיקוח של החברה הביעה דאגה מהעדר עקביות ביישום סימני מים דיגיטליים על תכנים שנוצרו עם הכלים של מטא. תכונת Content Seal עדיין מתמודדת עם מגבלות נוספות, ואינה תואמת את השיטות המקובלות בשוק כמו SynthID או C2PA Content Credentials.
התכונה החדשה מציגה אתגרים נוספים; למשל, הכלי האינטרנטי לא הצליח לזהות תמונות שנוצרו עם גרסאות מוקדמות יותר של מודלים של Meta AI. כמו כן, קיימות מגבלות קצב, כאשר משתמשים מקבלים התראה על הגעה למגבלת זיהוי יומית לאחר העלאת מספר דוגמאות.
הכלי החדש של מטא מציע פתרון מעניין לזיהוי תוכן שנוצר באמצעות בינה מלאכותית, אך נדרש פיתוח נוסף על מנת לשפר את היכולות ולפתור את המגבלות הקיימות. כעת, משקיף השוק על המשך ההתפתחויות בתחום זה, בתקווה לראות כיצד מטא תתמודד עם האתגרים והביקורות העומדים בפניה.