דמיינו שסוכן הבינה המלאכותית שלכם מתבקש להזמין לכם מקום במסעדה ובדרך מציין בפני המסעדה התאמה תזונתית שממנה ניתן להסיק על מצבכם הבריאותי. או שהוא נשלח לאתר חשבוניות במיילים לקראת הדוח השנתי, אך מקבל בפועל גישה לתכתובות אישיות שלא נדרשות למשימה. הדוגמאות הללו כבר אינן תרחיש עתידני. במסמך חדש שמפרסמת הרשות להגנת הפרטיות, ומובא כאן לראשונה לציבור, מוצגים כללים והמלצות לשימוש אחראי בסוכני בינה מלאכותית , כדי ליהנות מהנוחות שלהם בלי לוותר על השליטה במידע האישי.
סוכני הבינה המלאכותית מסתמנים כמהפכה הבאה בניהול חיי היומיום שלנו. מתכנון טיולים ועד לניהול הזמן האישי, הפוטנציאל שלהם עצום. אך בעוד שמערכות בינה מלאכותית יוצרת (Generative AI) רגילות מוגבלות לרוב למענה על שאלות, סוכני ה-AI פועלים ברמת אוטונומיה גבוהה, הם מנתחים מידע, מקבלים החלטות ומבצעים משימות מורכבות באופן עצמאי.
למשל, סוכן בינה מלאכותית המתוכנן לעקוב אחר הוצאות והכנסות משפחתיות, לנתח ולהציג היכן אפשר לחסוך, לתכנן ולהציג תקציב חודשי, ולהתריע על חריגות או הוצאות לא מתוכננות או למשל, סוכן עוזר אישי הנדרש לתכנן סוף שבוע בתל אביב עשוי שלא להציע אפשרויות למלונות
אם יש באפשרותו להבין מאינטראקציות קודמות שהמשתמש גר בתל אביב. לחלופין, הסוכן עשוי שלא להציע מופעים או אתרים שהכרטיסים אליהם מופיעים במייל של המשתמש בשנה האחרונה. סוכני בינה מלאכותית פועלים לעתים קרובות תוך חיבורים למערכות מידע של המשתמשים, כגון יומנים, מיילים או פירוט תשלומים שוטף.
הסוכן עשוי לקבל גישה למידע אישי בהיקף נרחב מאוד העולה על הנדרש לביצוע המשימה הספציפית, וזאת כתוצאה מהגדרות חיבור רחבות מדי, הרשאות גישה עודפות או היעדר סינון מוקדם של המידע הנגיש אליו.
השתלטות על המייל שלכם
ד"ר אלכס בלכמן, ה-CTO של הרשות להגנת הפרטיות, מסביר כי "סוכני AI יכולים לאסוף מידע מסביבתם ולפעול באופן אוטונומי כדי לבצע משימות מורכבות. לסוכני AI יש יכולות חישוביות גבוהות, מעין "מוח" ו"זיכרון" שמאפשרים להם לנתח ולפרש מידע.
יש להם גם כלים וממשקים למערכות חיצוניות, מעין "ידיים" שמאפשרות להם לפעול ולהגיב באינטגרציה עם יישומים ומערכות חיצוניות. היכולת של סוכני AI להפעיל אמצעים באופן אוטונומי בהתאם להוראות ולהקשר היא זו שמאפשרת להם להיות כל כך יעילים ושימושיים, אבל ביחד עם זה יוצרת סיכונים לפרטיות ולשליטה במידע האישי".
במסמך הרשות להגנת הפרטיות מספקים דו"ג ממחישה: סוכן למיון דואר אלקטרוני מקבל גישה לתיבת המייל האישית שלכם לצורך מיון המיילים לתיקיות (כגון עבודה, לימודים ופנאי) . בעוד שהמשתמש מעוניין אך ורק במיון תכתובת נכנסת מהשנתיים האחרונות שבהן הוא התחיל ללמוד לתואר שני - הסוכן יכול לנתח את כל תכולת תיבת המייל ב- 15 השנים שחלפו מפתיחתה, כולל דואר יוצא וטיוטות המשמשות לגיבוי.
הסוכן ממיין את כלל המידע מהתכתבויות קודמות ומשתמש במידע זה למיון של הודעות עתידיות. הדוגמה ממחישה את הסיכון הטמון בכך שלעיתים המשתמש עלול להתקשות להעריך את היקף ואופי המידע שהסוכן יכול לגשת אליו.
בשונה ממודלי שפה גדולים, סוכני בינה מלאכותית מאופיינים ביכולת לפעול בהתאם למידע אישי שנשמר או מוסק על ידם . סוכן אישי לניהול בריאות וכושר מקבל גישה ליומן, לנתוני פעילות גופנית ולרשימת קניות, כדי לנהל תפריט שבועי ותזכורות לאימונים.
לאורך זמן, הסוכן מסיק מן המידע כי ייתכן שהמשתמש מתמודד עם רגישות רפואית מסוימת. בהמשך, כאשר המשתמש מבקש מהסוכן להזמין מקום במסעדה עבור מפגש חברתי, הסוכן עלול לציין במסגרת ההזמנה כי נדרשת התאמה תזונתית מיוחדת, מבלי שהמשתמש התכוון לחשוף מידע זה בפני אחרים.
ברשות מציינים כי " הדוגמה ממחישה את הסיכון בפעולה של הסוכן על בסיס מידע אישי, מסקנות והמלצות שלא הוזנו במפורש אך עשויים להצטבר לכדי פרופיל אישיותי מקיף ושלם ולכלול העדפות והרגלים".
למעשה, כאשר סוכן בינה מלאכותית מחליף פעולות שבעבר בוצעו על ידי המשתמש או עוזר אנושי, כמו קריאת מיילים, ניהול יומן, ביצוע רכישות או קיום תקשורת עם גורמים אחרים - הוא נדרש לתפקד כמעין "איש סוד דיגיטלי " שמצופה ממנו להבין את הקשר ביצוע הפעולה, להפעיל שיקול דעת, לעשות שימוש במידע אישי אליו קיבל גישה, ולפעול בהתאם לרצון המשתמש כפי שהוא מבין אותו, אך ללא התערבותו.
מכאן, מסבירים ברשות, "נובע הסיכון למידע האישי ולפרטיות, שהרי סוכן בינה מלאכותית אינו בהכרח בעל אינטואיציה חברתית או הבנה ערכית התואמת את הכוונה של המשתמש או את הנורמות המקובלות החלות בסיטואציה בה הוא נדרש לפעול". במסמך הרשות מדגישים כי העצמאות הזו טומנת בחובה סיכונים דרמטיים למידע האישי שלנו ויש להיות מודעים אליהם.
צמצמו את הגישה של ה-AI למינימום הנדרש
(צילום: Shutterstock)
הסכנה המרכזית נובעת מכך שסוכנים אלו מקבלים לרוב גישה רחבה למערכות הרגישות ביותר של המשתמש: תיבות הדוא"ל, היומנים ופירוט התשלומים. כך, הם עלולים לייצר פרופיל אישיותי חודרני הכולל את הרגלינו, הקשרים החברתיים שלנו, מצבנו הבריאותי והתנהלותנו הפיננסית, לעיתים מבלי שנבין את היקף החשיפה.
הסוכן העצמאי עלול לפעול על בסיס המסקנות שהסיק, לשתף מידע רגיש עם צדדים שלישיים, ואפילו לערוך או למחוק מידע חיוני במערכות שלנו על דעת עצמו. יש לציין כי מסמך הרשות סוקר חלק מן הסיכונים לפרטיות הנובעים משימוש בסוכני בינה מלאכותית על ידי משתמשי קצה יחידים למטרות אישיות בלבד ולא לצרכי עבודה או למטרה עסקית.
הכלל המנחה: צמצום
ברשות מציינים כי כדי לאפשר לציבור ליהנות מהיתרונות הטכנולוגיים מבלי להקריב את השליטה, גובשו שורת המלצות מעשיות לשימוש אחראי. הכלל המנחה הוא "צמצום": מומלץ להעניק לסוכן אך ורק את הגישה וההרשאות ההכרחיות ביותר לביצוע משימתו (כגון הרשאות קריאה בלבד) ולפרק זמן מוגבל. בנוסף, יש להימנע מאימון הסוכן על המידע האישי ולהעדיף עיבוד זמני.
כך למשל מביאים ברשות, דוגמא בהקשר של צמצום המידע למידע אישי כי "סוכן בינה מלאכותית נדרש למשל להכין דוח שנתי למס הכנסה ולרכז לצורך כך חשבוניות שהתקבלו במייל. ניתן להנחות את הסוכן לבדוק רק את המיילים שהתקבלו בשנת 2025 , תוך הימנעות מבדיקת מיילים שהגיעו מבני משפחה או מחברים.
כמו כן, ניתן לפתוח תיבת מייל ייעודית לחשבוניות, המופרדת מתיבת המייל הפרטי, ולהנחות את הסוכן לבדוק רק אותה. או סוכן שמטרתו לקבוע פגישות עבור המשתמש מקבל גישה לחשבון המייל והיומן. ניתן להנחות את הסוכן לבדוק אך ורק את הזמינות ביומן (פנוי/תפוס בלבד), ולא לגשת לכותרת ולתוכן הפגישות". הדוגמאות ממחישות את הצורך לדעת כבסיס לכך שהסוכן יקבל גישה אך ורק למידע ההכרחי לביצוע המשימה שהוגדרה לו, ולפרק הזמן הנדרש.
הרשות קוראת למשתמשים לשמור על שליטה אקטיבית. "אל תאפשרו לסוכן להעביר מידע לגורמים חיצוניים ללא אישור מפורש, והפעילו מנגנוני בקרה ברורים כמו דרישה לאישור אנושי טרם ביצוע פעולות והצגת תוכנית הפעולה של הסוכן מראש".
לפני ביצוע פעולה של חלוקת קבצים לתיקיות ומחיקת קבצים כפולים ניתן לגבות את כל תוכן התיקיה למיקום חיצוני, כך שאם סוכן הבינה המלאכותית ביצע מחיקה שאינה תואמת את הנדרש, ניתן יהיה לשחזר משם את הקבצים הרלוונטיים. לבסוף, לפני שאתם מעניקים לאלגוריתם גישה לחיים הדיגיטליים שלכם, הקפידו תמיד לגבות מידע חשוב למקרה של תקלה או פעולה אוטונומית בלתי רצויה.
