קשה להאמין, אבל סין מקדימה את הרשויות במערב במאבק למנוע מצ'אטבוטים מבוססי בינה מלאכותית להשפיע רגשית על משתמשים ולהניע אותם לפגיעה עצמית. בשבת האחרונה פרסם מינהל הסייבר של ממשלת סין טיוטה של כללים, המחמירים בעולם עד כה, שאמורים למנוע מקרים של התאבדות, פגיעה עצמית, או אלימות שנובעים משימוש לא תקין בכלי AI.
2 צפייה בגלריה
הנשיא טראמפ ונשיא סין שי ג'ינפינג. במערב מתווכחים, בסין מחליטים
(צילום: ANDREW HARNIK \ GETTY IMAGES)
ניסיון ראשון להסדיר שימוש ב-AI
אם וכאשר יקבלו תוקף חוקי סופי, הכללים החדשים יחולו על כל מוצר או שירות בינה מלאכותית הזמין בסין ועושה שימוש בטקסט, תמונות, אודיו, וידאו או אמצעים אחרים לסימולציה של שיחה אנושית.
בפועל, זהו הניסיון הראשון בעולם להסדיר בצורה מדינתית את תחום הבינה המלאכותית הגנרטיבית, הכוללת מאפיינים אנושיים או כאלה המייחסים תכונות אנושיות למי שאינם בני-אדם. בשנה האחרונה פורסמו ברחבי העולם מקרים שתיעדו נזקים משמעותיים שחוללו בוטים מבוססי AI בעקבות שיחה כמו-אנושית עם משתמשים, כולל קידום פגיעה עצמית, אלימות וטרור.
היו גם צ'אטבוטים ששיתפו מידע שגוי מזיק, קידמו התנהגות מינית לא רצויה, עודדו שימוש בסמים, ולפעמים סתם התעללו מילולית במשתמשים. נגד הצ'אטבוט הפופולרי ביותר בעולם, ChatGPT של OpenAI, אף הוגשו תביעות משפטיות בעקבות התאבדות ילדים ומקרה של רצח והתאבדות שיוחסו לשימוש בצ'אט.
הכללים המוצעים עתה על-ידי מינהל הסייבר הסיני דורשים, למשל, התערבות אנושית בצ'אט מיד עם אזכור המונח "התאבדות" או נגזרות שלו. הם דורשים גם, שכל משתמש - קטין כמבוגר - יספק את פרטי הקשר שלו או של האפוטרופוס האחראי עליו בעת ההרשמה; האפוטרופוס יקבל הודעה אוטומטית במקרה שהדיון בצ'אט יתחיל לעסוק בהתאבדות או בפגיעה עצמית.
באופן כללי, על הצ'אטבוטים בסין ייאסר לייצר תוכן מסוג זה, וכן ניסיונות למניפולציה רגשית, כמו הבטחות שווא. ייאסר עליהם גם לקדם גסויות, הימורים או הסתה לפשע, וכן להשמיץ או להעליב משתמשים. גם מה שמכונה "מלכודות רגשיות" אסור - מפעילי הצ'אטבוטים יידרשו למנוע מהם מלהטעות משתמשים ולגרום להם לקבל "החלטות בלתי סבירות".
איסור על התמכרות ל-AI
אבל מה שמדאיג במיוחד את מפתחי הצ'אטבוטים היא הדרישה הסינית החדשה להפסיק פיתוח "צ'אטבוטים שגורמים להתמכרות ולתלות". הדרישה מהמפתחים היא להקפיץ למשתמשים תזכורות חוזרות כאשר השימוש שהם עושים בצ'אט עולה על שעתיים. זאת, בשל העובדה הסטטיסטית המוכחת, שמגבלות הבטיחות נחלשות ככל שהמשתמש נשאר יותר זמן בצ'אט.
וזה עוד לא הכל: השלטון הסיני דורש לבצע מעתה "בדיקות בטיחות שנתיות" עבור כל שירות או מוצר שמספר המשתמשים הרשומים בו עולה על מיליון, ולחילופין - על 100 אלף משתמשים פעילים חודשיים. הכוונה היא גם לדרוש מהמפתחים להקל על דיווחי המשתמשים באמצעות כלי ממשק ידידותיים לשם כך.
בהתאם, אם חברת בינה מלאכותית כלשהי לא תעמוד בכללים החדשים, חנויות האפליקציות עלולות להידרש על-ידי הממשל הסיני להפסיק את הגישה להורדת הצ'אטבוטים שלהן בסין.
שוק הבוטים העולמי עבר השנה את 360 מיליארד הדולר, והתחזית היא שבשנת 2035 יגיע לשווי של טריליון דולר, כאשר השווקים האסייתיים עשויים להניע חלק גדול מהצמיחה הזו.
