איך מתמודדים עם טכנולוגיות המאפשרות לעשות מניפולציות על סרטוני וידיאו, כך שיציגו אנשים אמיתיים עושים ואומרים דברים שכלל לא קרו? קמפיין רשת יוצא דופן העלה על סדר היום התקשורתי והפוליטי בישראל סוגייה שמסעירה בשנתיים האחרונות מומחי טכנולוגיה, משפט ותקשורת ברחבי העולם. הקמפיין הציג פוליטיקאים מוכרים הקוראים לייצר שותפות פוליטית עם נציגי החברה הערבית בכנסת, אלא שהנאומים לא היו אמיתיים. הם הושתלו בסרטונים באמצעות טכנולוגיית דיפ-פייק (Deepfake).
אנשי "האם ראית את האופק לאחרונה?", בהובלת שיר נוסצקי ורגב קונטס, הציגו נאומי בחירות מפוברקים של יאיר לפיד ורון חולדאי, בהם קוראים שני המועמדים לשיתוף פעולה מלא עם הח"כים הערבים ומתחייבים למנות שרים מהחברה הערבית בממשלתם. הסרטונים נראים משכנעים למדי ונועדו לעורר דיון ציבורי סביב האפשרות (שהיתה די דמיונית עד שנתניהו החליט אחרת) כי המועמדים להחליף את נתניהו ייזמו שיתוף פעולה יהודי-ערבי פוליטי כדי להחליף את השלטון.
התגובות לסרטונים מיהרו להגיע אך התמקדו בסוגייה אחרת לגמרי מזאת שהיוצרים התכוונו אליה. בחוגי המרכז-שמאל ובקרב אנשי תקשורת התעוררה ביקורת חריפה על עצם השימוש בטכנולוגית הדיפ-פייק, בעיקר בהקשרים פוליטיים ולקראת מערכת בחירות נוספת. הטענה היתה כי מדובר בתקדים מסוכן שיתרום להפצה של "פייק ניוז" וישחק לידי תומכיו של נתניהו ומפלגות הימין, במקום לקדם את הסוגייה היהודית-ערבית ואת האג'נדה של יוצרי הסרטון.
הטכנולוגיה לכשעצמה אינה מסוכנת, אלא האופן וההקשר בו משתמשים בה. הבהלה מפני טכנולוגיית הדיפ-פייק אפיינה לאורך השנים את התגובה לטכנולוגיות מדיה רבות, שנראו מאיימות ובלתי מתקבלות על הדעת כשרק הופיעו
הסרטון הראשון שהופץ, שהציג נאום של לפיד ועורר את עיקר הסערה, לא כלל אזהרה ברורה כי מדובר במניפולציה טכנולוגית ומי שצפה רק בתחילתו היה עשוי להישאר תחת הרושם כי הוא אותנטי. לאחר גל הביקורת יוזמי הקמפיין הסירו אותו והעלו מחדש גרסה שכוללת אזהרה ברורה בתחילתו שמבהירה כי מדובר בדיפ-פייק וכתובית שמלווה אותו לכל אורכו ומבהירה כי "המציג אינו יאיר לפיד".
השינוי שערכו יוצרי הסרטון שימש גם עילה ליו"ר ועדת הבחירות שלא לקבל עתירה של לפיד נגד הסרטון. השופט עוזי פוגלמן סירב להתערב משום שהוא אינו "עורך על של פרסומי התעמולה" ובכל מקרה אין מדובר בתעמולה של מפלגה, אבל הסיבה הישירה היתה, כפי שכתב בהחלטה, משום שהסרטון המתוקן לא מטעה את הבוחרים, מכיוון שהוא כולל אזהרה ברורה לכל אורכו.
למרות זאת, יו"ר ועדת הבחירות ראה לנכון להוסיף אזהרה: "אין לראות בהחלטתי משום אישור לשימוש ב'דיפ פייק' בתעמולת בחירות. טכנולוגיה זו עלולה לגרום לקשיים מרובים בזיהוי תוכן אמיתי ותוכן שקרי" והיא עלולה "לערער בקרב הציבור את האמונה בכך שיש אמת בבחירות בכלל: אם כל דבר אפשר לזייף, מדוע להאמין בדבר כלשהו? מכאן שגלומה בהם סכנה לעצם קיום הליכי הבחירות ולקיום המערכת הדמוקרטית".
פייק אובמה ופורנו גל גדות
אז האם טכנולוגיית דיפ-פייק היא סכנה איומה לדמוקרטיה ולמושגים של אמת ועובדות ברשתות החברתיות? האם צריך לפסול אותה כחלק מהמלחמה הגוברת בדיסאינפורמציה והפצת כזבים באמצעות הרשתות? האם מדובר בנשק להשמדה המונית של התודעה? מתברר שהתשובה לכך ממש לא חד-משמעית, למרות מה שהתרגלנו לקרוא ולשמוע בתקשורת וברשתות החברתיות מאז שנחשפה בתחילת 2018, כאשר הקומיקאי האמריקאי ג'ורדן פיל יצר דיפ-פייק של ברק אובמה שמזהיר מפני מניפולציות כאלה בדיוק ומכנה את טראמפ "חתיכת חרא".
התגובות הביקורתיות והבהלה מפני הטכנולוגיה הזאת אינן ייחודיות לישראל. מחקר שפרסמו בשנה שעברה חוקרות התקשורת הישראליות ד"ר איה ידלין-סגל ויעל אופנהיים חשף כי מרבית הסיקור התקשורתי הבינלאומי של טכנולוגיית דיפ-פייק בשנה הראשונה להופעתה התאפיין במסגור דיסטופי, שהציג אותה כסכנה ואיום על נשים ואוכלוסיות מוחלשות, על תפיסות של אמת ועל האמון בתקשורת.
יש לכך כמובן סיבות טובות – הטכנולוגיה הופיעה לראשונה כאמצעי לזיוף סרטי פורנו ואף התפרסמה לאחר שהתגלה סרטון פורנו בהשתתפות גל גדות, שפניה הודבקו על פני שחקנית פורנו אמיתית. ברור למדי איזה שימוש מניפולטיבי והרסני ניתן לעשות בטכנולוגיה הזו בשדה הפוליטי, בעידן של הונאה ודיסאינפורמציה. אך מתברר שיש גם שימושים אחרים לגמרי לטכנולוגיה הזאת.
כפי שפירטה ידלין-סגל במאמר שפורסם ב"הארץ", ניתן להשתמש בטכנולוגיית דיפ-פייק גם בפעולות הסברה מורכבות כדי להנגיש מידע בשפות רבות, לחקור מחלות כמו אלצהיימר ולסייע באיתור מוקדם שלהן, או ליצור סרטונים ואפליקציות חינוכיות שמשחזרות או ממחיזות אירועים היסטוריים באופן משכנע עבור דור האינסטגרם. אופציות אחרות יכולות לכלול גם הסוואה והגנה על עדי מפתח שנמצאים תחת איום או יצירת תוכן הומוריסטי או אמנותי מורכב.
כמו תמיד, הטכנולוגיה לכשעצמה אינה מסוכנת, אלא האופן וההקשר בו משתמשים בה. הבהלה מפני טכנולוגיית הדיפ-פייק, כפי שכותבת ידלין-סגל, אפיינה לאורך השנים את התגובה לטכנולוגיות מדיה רבות, שנראו מאיימות ובלתי מתקבלות על הדעת כשרק הופיעו. אפילו המצאת הכתב והדפוס עוררו תגובות כאלה בשלבים מסוימים של ההיסטוריה.
מערכות החקיקה והאכיפה עדיין לומדות כיצד להתמודד עם הטכנולוגיה הזו, כשם שהן עדיין לומדות כיצד להתמודד עם תעמולה מקוונת או היבטים אחרים של הרשתות החברתיות, אך ברור לחלוטין כי יש הבדל בין שימוש חינוכי, הומוריסטי או סאטירי שמוצג עם גילוי נאות ברור או בקונטקסט מופרך (למשל נתניהו כמונרך צרפתי שיורה בפשוטי העם כאילו הם צלחות חרס או כרשע באוסטין פאוארס), לבין שימוש זדוני התקפי שנועד להטעות ולהפליל אויבים או מתחרים באמצעות הונאה ברשתות.
למעשה, האפקטיביות של השימוש הזדוני בטכנולוגיית דיפ-פייק תלויה במידה רבה בקהל היעד שצופה בה. רק אם הוא יאמין לה, יזהה אותה ויפיץ אותה הלאה – היא תהיה אפקטיבית. מחקר חדש שפורסם החודש בארה"ב מגלה כי במובן הזה ייתכן שדיפ-פייק לא יעילה ומטעה יותר מטכנולוגיות פשוטות ונפוצות הרבה יותר.
לרמות את מי שמאמין
המחקר האמריקאי מצא שסרטונים שנוצרו בטכנולוגיות דיפ-פייק לא יעילים יותר בהטעייה ושכנוע צופים מאשר תוכן מטעה וכוזב שנוצר באמצעים ותיקים כמו עריכת סרטים פשוטה, שינוי כותרות של ידיעות באתרים או הקלטות קול מפוברקות. אמנם טכנולוגיות דיפ-פייק הן משכנעות – כמחצית מהגולשים לא זיהו שהן מזויפות – אבל גם האמצעים האחרים הטעו והוליכו שלל באחוזים דומים. מידע מזויף עובד, אבל מסתבר שהזיוף לא צריך להיות משוכלל במיוחד כדי להטעות את הצופה הממוצע.
החוקרים הציגו בפני קבוצה של 5,750 נבחנים שני סטים של דיווחים חדשותיים שנשתלו בהם תכנים מזוייפים על הסנאטורית אליזבת וורן. סרטון דיפ-פייק, הקלטת סתר (לכאורה) המחקה את קולה של וורן, סרטון של חקיינית וידיעת טקסט מזויפת מאתר חדשות.
המחקר העלה כי אין כמעט הבדל ברמת הזיהוי של האייטמים המזוייפים: 47% מהנבדקים חשבו שסרטוני הדיפ-פייק הם דיווח אמיתי, לעומת 48% בהקלטות המזויפות ו-43% בידיעות האינטרנט המזויפות. לטכנולוגיה המתקדמת לא היה יתרון ביכולת להונות ולהטעות את הצופים. היא מסוכנת ומטעה, אך לא יותר מאמצעי זיוף אחרים. גם בדיקה של עמדות הנבדקים כלפי וורן לפני ואחרי הצפייה לא הראתה השפעה חריפה יותר על עמדותיהם של הצופים בדיפ-פייק. "ניסוי החשיפה מניב מעט עדות לכך שלסרטוני דיפ-פייק יש יכולת ייחודית להטעות בוחרים או לשנות את העמדות שלהם כלפי פוליטיקאים", קובעים החוקרים.
בדיקה נוספת שערכו החוקרים, בה הוצגו האייטמים לא בפיד (כמו זה של פייסבוק) אלא כל אחד בפני עצמו, מצא פערים מובהקים יותר ביכולת לזהות אייטמים מזוייפים, אך הוא לא היה קשור לסוג האייטם אלא לעמדה הפוליטית של הנסיינים. הללו נטו לחשוב שסרטונים אמיתיים שמכפישים את המועמדים שהם תומכים בהם הם מזויפים, ולהיפך. כלומר, עמדות פוליטיות השפיעו על היכולת לזהות זיוף הרבה יותר מאשר הטכניקה באמצעותה הוא נוצר.
אנשים נוטים לצרוך תוכן שתומך בעמדות שלהם וממהרים להאמין לו או לפסול אותו בהתאם לתפיסת העולם שלהם. מחקרים אחרים הראו כי אותה הטיה קיימת גם בנוגע לנכונות להפיץ את אותו תוכן. תפיסת העולם ורמת הביקורתיות של הצופה משפיעות עליו הרבה יותר מרמת התחכום והשכלול של המדיה.
בכל אלה אין כדי להצדיק או להכשיר שימוש בדיפ-פייק בזירה הפוליטית. זיוף של אמירות באמצעות טכנולוגיית דיפ-פייק הוא מסוכן ופסול כמו כל זיוף אחר. אך התגובה המבוהלת והקיצונית השוללת את עצם השימוש בדיפ-פייק - יכולה להזיק גם היא. הנסיון לדחוק את הטכנולוגיה מחוץ לשיח ואפילו מחוץ לחוק מרחיק את האפשרות להבין אותה ולפתח יכולות התמודדות עימה, והוא לא ישנה את העובדה שהיא קיימת, זמינה, ושניתן להשתמש בה גם למטרות חיוביות.
אך מעבר לכך, הנזק האמיתי הכרוך במתקפה הכוללת על הטכנולוגיה הוא ההתעלמות וחוסר הטיפול בבעיה העמוקה יותר. כפי שהראה המחקר האמריקאי, צרכני התקשורת והרשתות החברתיות נופלים בפח די בקלות. לא צריך טכנולוגיה מתוחכמת כדי להונות אותם. אם מגיפת המידע לא הוכיחה זאת, הרי שמגיפת הקורונה עשתה זאת. תשומת הלב של חוקרים, אקטיביסטים ועיתונאים לא צריכה להיות ממוקדת בטכנולוגיות חדשניות מעוררות בעתה הרוחשות בשולי עולמנו, אלא בדרכים ובקריאה לקידום והקניית אוריינות דיגיטלית ותקשורתית לכל שכבות החברה והגיל.
הבעיה האמיתית שלנו אינה דיפ-פייק אלא חוסר היכולת והמודעות של צרכנים לעצור ולחשוב לפני שהם לוחצים על קישור או מפיצים אותו הלאה. את החינוך הזה צריך להכניס למסגרות הלימוד כבר בגיל צעיר בבתי הספר, אך גם להתאימו לאוכלוסיות מבוגרות יותר שהשתלבו בעולם הדיגיטלי בשלב מאוחר של חייהם ומתקשים להבדיל בין אמת להונאה.
אם היינו צריכים עוד הוכחה לכך שהבעיה האמיתית אינה דווקא בטכנולוגיה אלא בבני האדם שמשתמשים בה ובשיקול הדעת שלהם, השבוע התפרסם מאמר ב"וושינגטון פוסט" שכלל ממצאים ראשונים של מחקר שבדק את ההשפעה של הפעילות של טראמפ בטוויטר בתקופת כהונתו ומצא כי 65% מהציוצים שלו הגיעו בסופו של דבר לדיווחים בתקשורת, לעומת 3% בלבד מהציוצים של אובמה בתקופת הכהונה השנייה שלו. ממי אם לא מעיתונאים היה ניתן לצפות לרמת האוריינות הגבוהה ביותר בכל הקשור להונאות וזיופים? ואם גם הם מפיצים בחדווה פייק-ניוז ועובדות אלטרנטיביות, למה אפשר לצפות מהציבור הרחב?