הרשות לאיסור הלבנת הון ומימון טרור מפרסמת היום (שני) לראשונה מסמך אסטרטגי ודגלים אדומים, המתריע מפני השימוש הגובר בבינה מלאכותית לצורך הונאות והלבנת הון.
ראשת הרשות, עו״ד עילית אוסטרוביץ-לוי מזהירה כי "בינה מלאכותית היא הזדמנות עצומה, אך גם סכנה מוחשית. עבריינים כבר מצאו דרכים לנצל את הטכנולוגיה כדי להונות ולהלבין כספים. חובתנו, כמדינה וכמערכת פיננסית, להיות צעד אחד קדימה – לזהות, למנוע ולהתריע".
הרשות לאיסור הלבנת הון במשרד המשפטים מפרטת במסמך שגיבשה עם מערך הסייבר הלאומי את הסכנות שבינה מלאכותית יוצרת (GenAI) עלולה לגרום מבחינת הונאות פיננסיות. בינה יוצרת זו לא בינה שמלקטת מידע אלא כזו שיכולה ליצור מידע חדש ולא אותנטי שנראה כאילו אותנטי כמו זיוף של מסמכי זיהוי. בין השאר נטען במסמך כי מקרי הונאה מול המגזר הפיננסי ולקוחות יתרבו וכי הונאות באמצעות בינה מלאכותית יוצרת עלולות להוביל להפסדים של כ-40 מיליארד דולר בארה"ב עד 2027.
אחד מיישומי הבינה המלאכותית היוצרת היא דיפ פייק – יצירת תוכן מזויף שקשה לאתרו. בין המקרים המתוארים במסמך, ניסיון תקיפה שאירע באוגוסט 2024, כאשר האקרים ניסו לחדור למערכות חברה ישראלית באמצעות הודעות קוליות מזויפות שנשמעו כאילו נשלחו על ידי בכיר בארגון. ערנות העובדים סיכלה את ההתקפה. עוד מצוין במסמך הרשות כי "בישראל נמצאו עדויות לכך שאזרחים ישראליים נפלו קורבן להונאות בהשקעה בנכסים וירטואליים בהם נעשה שימוש בסרטוני דיפ פייק בהם לכאורה מוצגים אנשים מפורסמים".
3 צפייה בגלריה
מנהל הבנק האמין שהוא משוחח עם המנכ"ל, ואישר את ההעברות
(צילום: Summit Art Creations/shutterstock)
במקרה המובא במסמך וממחיש את הסכנה מצוין כי פורסם שמנהל בנק בחו"ל קיבל שיחת טלפון, ממי שהזדהה לכאורה כמנכ"ל של חברה מסוימת. מנהל הבנק, ששוחח בעבר עם מנכ"ל החברה, חשב שהוא מזהה את קולו והאמין שאכן מדובר בו. בשיחת הטלפון התבקש מנהל הבנק, להיערך לביצוע העברות כספים בסכום של 35 מיליון דולר לטובת רכישה, שלכאורה, עתידה לבצע החברה. בנוסף לשיחת הטלפון, קיבל מנהל הבנק מיילים, אשר נחזו להיות ממנכ"ל החברה ומעורך הדין שאמון על העסקה. בעקבות המיילים ושיחת הטלפון, אישר מנהל הבנק את העברות הכספים למספר חשבונות בנק, במדינות שונות. חקירת המקרה העלתה כי הן הקול בשיחת הטלפון והן המיילים שנשלחו למנהל הבנק - נערכו באמצעות טכנולוגיית"Deepfake".
דגלים אדומים
במסמך מציינת הרשות כי קורבנות ההונאה מגוונים – החל ממנכלים של חברות וכלה באוכלוסיות מוחלשות. במאי 2025 פרסם בנק ישראל את הסקירה של המערכת הבנקאית לשנת 2024 בה הוצגו מספר דפוסי הונאות מרכזיים שהתעצמו בעקבות השימוש בבינה מלאכותית ובהם הונאות הנדסה חברתית כדוגמת התחזות לגורם לגיטימי בשיחה טלפונית והשתלטות על קו הטלפון הנייד של הלקוח לצורך השגת מידע פרטי אודותיו, הנעשית בין היתר באמצעות זיוף קול. בדו"ח של האו"ם שפורסם באוקטובר 2024, פורסם כי חלקה הדרום מזרחי של אסיה הפך למוקד פעילות בינלאומי של ארגוני פשיעה בתחום הסייבר.
עו"ד עילית אוסטרוביץ-לויצילום: ניקי וספלבמסמך הרשות מפרטת רשימה של "דגלים אדומים" שתכליתה לסייע לגופים פיננסיים לזהות, למנוע ולדווח על פעילות חשודה פוטנציאלית הקשורה לשימוש ביישומי בינה מלאכותית יוצרת ביניהם טכנולוגיית "Deepfake". ברשות מציינים כי מכיוון ש"דגל אדום" לא מעיד בהכרח על ביצוע פעילות בלתי חוקית, על הגופים הפיננסיים לשקול את כלל העובדות והנסיבות, טרם הקביעה אם בעסקה ספציפית נעשה שימוש לא חוקי ביישומיי בינה מלאכותית יוצרת.
כך למשל דגל אדום יכול להיות כאשר לקוח/ה מציג/ה מספר מסמכי זיהוי שאינם עולים בקנה אחד זה עם זה, לקוח/ה מסרב/ת להשתמש באימות "רב-גורמי" לצורך אימות הזהות, חוסר יכולת של לקוח/ה לאמת בצורה משביעת רצון את זהותו, מקור ההכנסה או היבט אחר של הפרופיל שלו/ה וחוסר התאמה בין מסמכי הזיהוי להיבטים אחרים של פרופיל הלקוח/ה.
כמו כן, הנתונים הגיאוגרפיים או נתוני המכשיר של הלקוח/ה לא עולים בקנה אחד עם מסמכי הזהות שהוצגו על ידו/ה, גישה לחשבון מכתובת IP שאינה עולה בקנה אחד עם פרופיל הלקוח/ה, תמונה של לקוח/ה אינה עקבית באופן שניכר בתמונה עצמה שהיא עברה עיבוד כלשהו או שאינה עולה בקנה אחד עם המידע המזהה האחר של הלקוח/ה. למשל, תאריך הלידה של לקוח מצביע על כך שהוא מבוגר יותר או צעיר יותר מהגיל עליו מרמזת התמונה.
כמו כן, תקלות מצלמה בזמן אימות חי ו/כאשר הלקוח/ה מנסה לשנות שיטות תקשורת במהלך בדיקת אימות "בזמן אמת", עקב תקלות טכנולוגיות מופרזות או חשודות במהלך תהליך של אימות מרחוק , פנייה לבנק המוצגת כ"דחופה", לצורך העברת כספים בטלפון/וידיאו כשהקול או הווידיאו באיכות חריגה ועוד.
