מספר חברות כולל Microsoft і Facebook, ואפילו חוקרים מאוניברסיטת דרום קליפורניה, מפתחים טכנולוגיות כדי להילחם בזיופים עמוקים ולמנוע את הפצתם על ידי מדיה צהובה ומידע מוטעה בכלל. עם זאת, קבוצת מדענים עדיין הצליחה לרמות אותם.
צוות של מדעני מחשבים מאוניברסיטת קליפורניה, סן דייגו הזהיר כי עדיין ניתן לרמות מערכות קיימות לזיהוי זיוף עמוק על ידי הכנסת נתוני קלט הנקראים "דוגמאות מתחרות" לכל פריים וידאו. המדענים הציגו את ממצאיהם בכנס WACV 2021 לראייה ממוחשבת, שהתקיים באינטרנט בחודש שעבר.
דוגמאות מתחרות הן תשומות שהשתנו מעט שגורמות למערכות בינה מלאכותית, כמו מודלים של למידת מכונה, לעשות טעויות. בנוסף, הצוות הראה שהמתקפה עדיין עובדת לאחר דחיסת הסרטון. בסרטון למעלה, המדענים מראים ש-XceptionNet, גלאי זיוף עמוק, מתייג את הסרטון המתחרה שלהם כ"אמיתי".
רוב הגלאים הללו פועלים על ידי מעקב אחר פרצופים בסרטון ושליחת נתוני הפנים החתוכים לרשת עצבית לצורך ניתוח. הרשת העצבית תנתח את הנתונים האלה ותמצא אלמנטים שבדרך כלל משוכפלים בצורה גרועה בזיופים עמוקים, כגון הבהוב.
על ידי הוספת דוגמאות מתחרות, החוקרים מצאו שהם יכולים לרמות את גלאי הזיוף העמוק האלה ולהאמין שהסרטונים אמיתיים.
הם מציינים בעיתון כי "כדי להשתמש בגלאי הזיוף העמוק הללו בפועל, חשוב להעריך אותם מול יריב אדפטיבי שמודע להגנה זו ומנסה לשבור אותה בכוונה. אנו מראים שניתן לעקוף בקלות שיטות מודרניות לזיהוי זיוף עמוק אם התוקף מודע באופן מלא או אפילו חלקי לגלאי".
כפי שהראו מדענים אלה, ייתכן שטכנולוגיות האוטומציה המפותחות כדי להילחם בדיסאינפורמציה עדיין לא עומדות במשימה.
קרא גם: