ביום שלישי הודיעה Meta על תוכניתה להתחיל לתייג תמונות שנוצרו בינה מלאכותית מחברות אחרות כמו OpenAI וגוגל. המהלך נועד להגביר את השקיפות בפלטפורמות כגון Facebook, Instagram ו-Threads, על ידי יידוע המשתמשים שהתוכן שהם צופים הוא מדיה דיגיטלית מסונתזת ולא תמונה או וידאו אותנטיים.
הפתרון של Meta הוא חלק ממאמץ רחב יותר של תעשיית הטכנולוגיה לקבוע סטנדרטים לתיוג תוכן שנוצר באמצעות מודלים של בינה מלאכותית המסוגלים ליצור אודיו, תמונות וסרטונים מזויפים אך מציאותיים בהתבסס על הנחיות כתובות.
נשיא העניינים העולמיים של Meta, ניק קלג, פרסם את ההכרזה בפוסט בבלוג באתר של Meta. "נמשיך לעקוב אחר גישה זו במהלך השנה הבאה, כאשר מספר בחירות חשובות יתקיימו ברחבי העולם", כתב קלג. "במהלך הזמן הזה, אנו מקווים ללמוד הרבה יותר על האופן שבו אנשים יוצרים ומשתפים תוכן עם בינה מלאכותית, איזו שקיפות אנשים מעריכים יותר, וכיצד הטכנולוגיות הללו מתפתחות".
Clegg ציין כי יוזמת תיוג התוכן שנוצרה בינה מלאכותית של Meta תרחיב את הפרקטיקה הקיימת של תיוג תוכן שנוצר עם כלי בינה מלאכותית משלה כך שתכלול תמונות שנוצרו באמצעות שירותי חברות אחרות.
"אנחנו בונים כלים מובילים בתעשייה שיכולים לזהות סמנים בלתי נראים בקנה מידה - במיוחד המידע 'נוצר בינה מלאכותית' בתקנים טכניים C2PA ו-IPTC - כדי שנוכל לתייג תמונות מגוגל, OpenAI, Microsoft, Adobe, Midjourney ו-Shutterstock כשהם מיישמים את התוכניות שלהם להוסיף מטא נתונים לתמונות שנוצרו על ידי הכלים שלהם."
Meta אומרת שטכנולוגיית תיוג התוכן שנוצרה על ידי AI תתבסס על סימני מים ומטא נתונים בלתי נראים המוטבעים בקבצים. Meta מוסיפה סימן מים קטן "Imagined with AI" לתמונות שנוצרו עם מחולל תמונות ה-AI הציבורי שלה.
בפוסט, קלג הביע אמון ביכולתן של חברות לתייג באופן מהימן תמונות שנוצרו בינה מלאכותית, אם כי הוא ציין שכלים לתיוג תוכן אודיו ווידאו עדיין בפיתוח. בינתיים, Meta תדרוש מהמשתמשים לתייג תכני אודיו ווידאו שהשתנו, עם קנסות לא מוגדרים על אי ביצוע זאת.
"אנו נדרוש מאנשים להשתמש בכלי הגילוי והתיוג הזה כאשר הם מפרסמים תוכן אורגני עם וידאו פוטו-ריאליסטי או סאונד ריאליסטי שנוצר או שונה באופן דיגיטלי, ואנחנו עשויים להטיל עונשים אם הם לא יעשו זאת", כתב.
עם זאת, Clegg ציין כי אין כיום דרך יעילה לתייג טקסט שנוצר בינה מלאכותית, דבר המצביע על כך שמאוחר מדי ליישם אמצעים כאלה עבור תוכן כתוב. זה עולה בקנה אחד עם הדיווחים שלנו שגלאי הטקסט של AI לא פועלים.
ההכרזה הגיעה יום לאחר שדירקטוריון הפיקוח העצמאי של Meta מתח ביקורת על מדיניות החברה לגבי סרטונים שהשתנו בצורה מטעה כצר מדי והמליץ לסמן תוכן כזה במקום להסירו. קליג הסכים עם הביקורת, והודה שמדיניות Meta הקיימת אינה מספקת לניהול הנפח ההולך וגדל של תוכן סינתטי והיברידית באינטרנט. הוא רואה ביוזמת התיוג החדשה צעד לקראת יישום המלצות כלב השמירה ודרבן מומנטום כלל תעשייתי לצעדים דומים.
Meta מאשרת שהיא לא תוכל לזהות תוכן שנוצר בינה מלאכותית שנוצרה ללא סימני מים או מטא נתונים, כגון תמונות שנוצרו עם כמה כלי סינתזת תמונות AI בקוד פתוח. Meta חוקרת טכנולוגיית סימון מים של תמונה בשם Stable Signature, שהיא מקווה שניתן יהיה לבנות אותה במחוללי תמונות בקוד פתוח. אבל כל עוד פיקסלים הם פיקסלים, ניתן ליצור אותם בדרכים שאינן נשלטות על ידי תעשיית הטכנולוגיה, וזה נותר אתגר עבור זיהוי תוכן AI ככל שכלי AI בקוד פתוח הופכים מתוחכמים ומציאותיים יותר.
קרא גם: