הרשות לאיסור הלבנת הון ומימון טרור פירסמה אתמול לראשונה מסמך אסטרטגי ודגלים אדומים, המתריע מפני השימוש הגובר בבינה מלאכותית לצורך הונאות והלבנת הון. ראש הרשות, עו״ד עילית אוסטרוביץ-לוי מזהירה כי "בינה מלאכותית היא הזדמנות עצומה, אך גם סכנה מוחשית. עבריינים כבר מצאו דרכים לנצל את הטכנולוגיה כדי להונות ולהלבין כספים. חובתנו, כמדינה וכמערכת פיננסית, להיות צעד אחד קדימה – לזהות, למנוע ולהתריע”.
הרשות לאיסור הלבנת הון במשרד המשפטים מפרטת במסמך שגיבשה עם מערך הסייבר הלאומי את הסכנות שבינה מלאכותית יוצרת (GenAI) עלולה ליצור מבחינת הונאות פיננסיות. בינה יוצרת זו לא בינה שמלקטת מידע, אלא כזו שיכולה ליצור מידע חדש ולא אותנטי שנראה כאילו-אותנטי, כמו זיוף של מסמכי זיהוי. בין השאר נטען במסמך כי מקרי הונאה מול המגזר הפיננסי ולקוחות יתרבו, וכי הונאות באמצעות בינה מלאכותית יוצרת עלולות להוביל להפסדים של כ-40 מיליארד דולר בארה"ב עד 2027.
אחד מיישומי הבינה המלאכותית היוצרת הוא דיפ פייק – יצירת תוכן מזויף שקשה לאתרו. בין המקרים המתוארים במסמך, ניסיון תקיפה שאירע באוגוסט 2024, כאשר האקרים ניסו לחדור למערכות חברה ישראלית באמצעות הודעות קוליות מזויפות שנשמעו כאילו נשלחו על ידי בכיר בארגון. ערנות העובדים סיכלה את ההתקפה. עוד מצוין במסמך הרשות כי "בישראל נמצאו עדויות לכך שאזרחים ישראליים נפלו קורבן להונאות בהשקעה בנכסים וירטואליים בהם נעשה שימוש בסרטוני דיפ פייק, בהם לכאורה מוצגים אנשים מפורסמים".
במסמך מציינת הרשות כי קורבנות ההונאה מגוונים – החל ממנכ"לים של חברות וכלה באוכלוסיות מוחלשות. הרשות מפרטת רשימה של "דגלים אדומים" שתכליתה לסייע לגופים פיננסיים לזהות, למנוע ולדווח על פעילות חשודה פוטנציאלית הקשורה לשימוש ביישומי בינה מלאכותית יוצרת, ביניהם טכנולוגיית Deepfake.
