דיפפייק בבחירות ובארגון: למה קול או סרטון אינם הוכחה, ואיך מאמתים מקור בערוץ נפרד לפני שפועלים.
ARTICLES / DEEPFAKES AND ELECTIONS
In elections, a familiar voice is not proof
Deepfakes in elections and business: verify the source through an independent channel before acting.
מאת בוריס פוסטילניק, מייסד Art of Cyberפורסם 4 באוקטובר 2026זמן קריאה: 2 דקות
בבחירות, קול מוכר הוא לא הוכחה. גם לא סרטון.
בינואר 2024 קיבלו מצביעים בניו המפשייר שיחות עם קול שנשמע כמו ג'ו ביידן, שאמר להם לא להצביע בפריימריז. זה היה קול משוכפל ב-AI. ה-FCC תיעדה את המקרה והטילה בהמשך קנס על מי שעמד מאחורי השיחות.
לא פרצו לקלפי. ניסו לשנות את מה שאנשים עושים לפני שהם מגיעים אליה.
כשמגיע סרטון של פוליטיקאי שאומר משהו קיצוני, קל להיתקע בשאלה "זה נראה אמיתי?"
מבחינתי, השאלה הראשונה צריכה להיות אחרת: מאיפה זה הגיע?
האם זו ההקלטה המלאה, או קטע של עשר שניות? האם היא מופיעה בערוץ הרשמי, ואפשר לאמת אותה גם במקור נוסף? האם אנחנו משתפים כי בדקנו, או כי זה בדיוק מה שרצינו לשמוע?
אני לא הייתי בונה על העין שלנו בתור מערכת אבטחה. אצבע מוזרה או תנועה לא טבעית יכולות לעורר חשד. היעדר שלהן לא מוכיח שהסרטון אמיתי.
אותו עיקרון חשוב גם בארגון. קול של מנכ"ל שמבקש העברה דחופה לא מחליף בדיקה בערוץ נפרד ובמספר מוכר. הלחץ וההיכרות הם חלק מהתרגיל.
This post was originally published in Hebrew. The original Hebrew text appears below.
מאת בוריס פוסטילניק, מייסד Art of Cyberפורסם 4 באוקטובר 2026זמן קריאה: 2 דקות
בבחירות, קול מוכר הוא לא הוכחה. גם לא סרטון.
בינואר 2024 קיבלו מצביעים בניו המפשייר שיחות עם קול שנשמע כמו ג'ו ביידן, שאמר להם לא להצביע בפריימריז. זה היה קול משוכפל ב-AI. ה-FCC תיעדה את המקרה והטילה בהמשך קנס על מי שעמד מאחורי השיחות.
לא פרצו לקלפי. ניסו לשנות את מה שאנשים עושים לפני שהם מגיעים אליה.
כשמגיע סרטון של פוליטיקאי שאומר משהו קיצוני, קל להיתקע בשאלה "זה נראה אמיתי?"
מבחינתי, השאלה הראשונה צריכה להיות אחרת: מאיפה זה הגיע?
האם זו ההקלטה המלאה, או קטע של עשר שניות? האם היא מופיעה בערוץ הרשמי, ואפשר לאמת אותה גם במקור נוסף? האם אנחנו משתפים כי בדקנו, או כי זה בדיוק מה שרצינו לשמוע?
אני לא הייתי בונה על העין שלנו בתור מערכת אבטחה. אצבע מוזרה או תנועה לא טבעית יכולות לעורר חשד. היעדר שלהן לא מוכיח שהסרטון אמיתי.
אותו עיקרון חשוב גם בארגון. קול של מנכ"ל שמבקש העברה דחופה לא מחליף בדיקה בערוץ נפרד ובמספר מוכר. הלחץ וההיכרות הם חלק מהתרגיל.
