אלגוריתמים פולטי לשון הרע

המלחמה בווירוסים, סוסים טרויאניים, דואר זבל וגניבת זכויות יוצרים נעשית כיום על ידי תוכנות המפעילות אלגוריתמים מתוחכמים. אותם אלגוריתמים בודקים וקובעים האם תוכנות, קבצים ונתונים באינטרנט מזיקים, ואם מי ששולט בתוכנות ובקבצים הללו הוא איש רע שצריך להיזהר ממנו. אבל אליה וקוץ בה: חלקם פולטים שגיאות פלט שיכולות להוות לשון הרע ולגרום לעוולות לא מוצדקות.

השבוע הגישה חברת תוכנה קטנה מסאן דייגו TrakEight, המייצרת תוכנת אנטי Spyware בשם SpyNuker, תביעה כנגד סימנטק, יצרנית אחת מתוכנות האנטי וירוס המובילות בעולם. נורטון אנטי וירוס של סימנטק מזהה את SpyNuker כתוכנת adware מזיקה במחשבו של המשתמש. (תוכנת adware היא סוג של תוכנת עלוקה, שתפקידה להציג פרסומות במחשב המשתמש ללא ידיעתו).

מאחר והקונגרס האמריקני החל לאחרונה לפעול למען הוצאתן מחוץ לחוק של תוכנות ריגול שונות, האם אנו צפויים לראות חברות נוספות שיגישו תביעות נגד תוכנות אנטי וירוס פופולריות בגין סיווגן בטעות כווירוס או כסוס טרויאני?

סיווג דואר זבל

תחום נוסף שמתחיל לתפוס תאוצה בכל הנוגע לתוכנות "פולטות לשון הרע", הוא דואר הזבל. במלחמתן נגד דואר זבל, מפעילים ספקי האינטרנט תוכנות סינון, שקובעות מהו דואר זבל ומהו דואר לגיטימי. למשל, חלק מהתוכנות הללו יקבע שמכתב אלקטרוני הנשלח ליותר מ-10 מנויים אצל אותו הספק - הוא דואר זבל.

תוכנות אחרות יסווגו כל מכתב צבעוני עם תמונה, שנשלח בפורמט html, כדואר זבל. חלקן יחסמו את מעבר המכתב לנמען (מבלי שיבקש זאת), ואחרות יתייקו עבור המשתמש את המכתב בתיקיה ייחודית.

כיום, הסובלים העיקריים מהסיווג השגוי הזה, הם ניוזלטרים לגיטימיים שנשלחים בדואר אלקטרוני להרבה משתמשים, שמקבלים אותם לאחר שנרשמו ואישרו את הרשמתם בדואר חוזר. חלקם אף משלמים עבורו. אולם ספקי האינטרנט והדואר האלקטרוני לא תמיד מפעילים שיקול דעת הגיוני, ומסתמכים על תוכנה שהפלט שלה נמדד על פי פרמטרים שגויים ולא בדוקים.

האם גוף ששלח את מרכולתו העיתונאית לקבוצת מנויים שביקשו זאת, יכול לתבוע את עלבונו בגין סיווג המוצר שלו כדואר זבל?

וואלה מסווגת ניוזלטר כדואר זבל

http://halemo.net/edoar/0062/0006.html

נטוויז'ן מסננת את הקולקטיב של קונספציה

http://www.pcplus.co.il/opinions.php?id=136

סיווג כתובות IP

חלק מאתרי האינטרנט חוסמים כתובות אינטרנט ספציפיות בפני מנויים של ספק אינטרנט מסוים. מקרה כזה למשל הוא האתר של מילון מורפיקס. החברה שמפעיל את האתר, מפעילה על השרת תוכנה שמזהה עומס מסוים מ-IP מסוים. כשקיים עומס חריג, כתובת האינטרנט נחסמת בצורה אוטומטית לזמן רב, והודעה טקסטואלית מופקת בהתאם.

מה יקרה כשמשתמשים אחרים של אותו ספק אינטרנט עם אותה כתובת אינטרנט חסומה, ירצו לגשת למילון מורפיקס והתוכנה תסווג אותם כלא רצויים? אולי אף תאשים אותם בניסיון גניבה של המילון הממוחשב? האם הפלט של התוכנה הזו מהווה לשון הרע כנגד המשתמש?

מורפיקס עושה סיקול ממוקד

http://www.nrg.co.il/online/10/ART/763/352.html

מקרים נוספים

זכורים מקרים נוספים של תוכנות שהפיקו מידע שגוי הגובל בלשון הרע כלפי אחרים. מיקרוסופט למשל, הפעילה בשנת 2002 תוכנה הסורקת אתרי אינטרנט כדי לגלות עותקים פיראטיים של תוכנת אופיס שלה. התוכנה הפיקה פלט שקבע כי אתרים מסוימים מחזיקים עותק פיראטי של התוכנה, אולם מאוחר יותר התברר כי בחלק מהמקרים דובר באתרים שהחזיקו את תוכנת אופן אופיס המתחרה.

תוכנת הסריקה של מיקרוסופט חיפשה את המילה "אופיס" ופגעה בכל מה שהריח "אופיס", גם אם זה לא היה של החברה של ביל גייטס. אבל עד שענקית התוכנה עלתה על הבעיה, נשלחו מכתבי אזהרה לבעלים של שרתי המחשב עליהם נשמר עותק של תוכנת "אופן אופיס". הללו הואשמו בצורה גורפת בגניבת זכויות יוצרים מבלי לבדוק את הפלט של התוכנה והתבססות על אלגוריתם חיפוש שגוי.

תוכנה ידועה אחרת שנעשה בה שימוש, היא זו שיודעת לזהות שקרנים על פי קולם. התוכנה מנתחת את קולו של המתקשר, ועל סמך פרמטרים כמו תדר הדיבור והרעד בקולו של הדובר, יודעת לתת למוקדנית פרטים על אופיו של המתקשר והאם הוא משקר או דובר אמת. אבל התוכנה עלולה לטעות, למשל במקרה שהמתקשר סובל מבעיות במיתרי הקול והוא לא דאג למצוץ סוכריית מנטה לפני השיחה.

הממל"ז (מד מהירות לייזר), מכשיר משטרתי למדידת מהירותה של מכונית נוסעת, יכול לקבוע בכיול לא נכון כי נהג כלשהו עבר את מהירות הנסיעה המותרת. מקרים רבים של נהגים שנתפסו על ידי ממל"ז לא תקין שהפעיל שוטר לא מיומן, מצאו עצמם עם רישום פלילי בנושא תעבורה ועם קנס גבוה לתשלום, זאת, רק בגלל שהממל"ז המופעל על ידי שבב מחשב ותוכנה בתוכו, קבע כי הם עברייני תנועה.

סוף דבר

אין המדובר סתם בפלט מחשב המוציא דיבתו של אדם. כאלו כבר היו כאן מזמן. לשון הרע לכאורה היתה בעיקר פלט שהתקבל כתוצאה מקלט של האדם המקליד.

המדובר הוא באלגוריתמים "חכמים" המנסים לקבוע דבר ולהגיע למסקנה כלשהי היכולה להוות לשון הרע: האם תוכנה כלשהי היא וירוס, האם קובץ כלשהו הוא סוס טרויאני, האם מכתב כלשהו הוא דואר זבל והאם כתובת אינטרנט היא של גנב זכויות יוצרים בפוטנציה. האם ניתוח קול של אדם יקבע האם הוא שקרן, והאם מדידת מהירות נסיעתו תהפוך אותו לעבריין נהיגה.

אלגוריתם לא תמיד יכול לקבוע דברים לגבי האדם שיצר אותו. לפעמים האלגוריתם חורץ גורלות של אנשים ממש עד כדי הוצאת דיבה. אם אכן היה אפשר לסמוך על אלגוריתמים חכמים שיקבעו עלינו דברים, לא היינו צריכים את מערכת המשפט. היינו יכולים לנהל את חיינו בהתחברות שבועית לפוליגרף ממוחשב שהיה מפיק עבורנו תעודות יושר בעזרת אלגוריתם חכם.