שלוש שנים בלבד לאחר המהפכה, ChatGPT ודומיו הפכו ליועצים הדיגיטליים האולטימטיביים לכל דבר - מחיפוש של מתכון לעוגת שוקולד ועד לתכנון טיול בווייטנאם. רבות כבר נכתב ונאמר על הסכנות הכרוכות באימוץ מוחלט של המלצות AI, על ה"הזיות" שלו, ולאחרונה גם כל נושא הפרסומות שהולכות להיכנס לאותן מערכות ופוטנציאלית להשפיע על התשובות שלהן.
אז נכון, היצרניות עושות מאמץ ניכר לנטרל את כל אותם המכשולים, בהצלחה הולכת וגוברת, ונכון, אפשר לבקש מהצ'אט מקור מפורט לכל תשובה ולבדוק את המקורות היטב. אבל עדיין - יותר מדי אנשים מניחים שהצ'אט יודע הכל.
בפועל, צ'אטבוטים יכולים לספק כמובן תועלת עצומה, אבל רק בהנחה שיודעים למה הם לא אמורים לשמש. השאלה מהם הנושאים שבהם עדיף להתייעץ עם מומחה בשר ודם, אינה פתורה לחלוטין, וככל הנראה גם משתנה ממודל AI אחד למשנהו וגם עם הזמן.
לפי אתר חדשות הטכנולוגיה והרכב הפופולרי SlashGear, ישנם כמה נושאים שעדיף לכם מאוד לא להתייעץ עם צ'אטבוטים לגביהם, לטובתכם האישית. הקריאה חובה: גם אם החלטתם לצפצף על ההמלצות, חשוב לפחות לדעת מהו הסיכון שאתם לוקחים.
כל מה שקשור למידע אישי
השיחות שלכם עם ChatGPT, ג'מיני, קלוד ואחרים אינן פרטיות: הצ'אט מבהיר ומודה ב"מדיניות הפרטיות" שלו, שהוא אוסף את ההנחיות והקבצים שהעליתם. נכון שההבטחה של החברה היא לשמור על אנונימיות, אבל כבר ידענו בעבר הבטחות דומות, שהתנפצו מול מציאות עגומה של שימושים לא אתיים במידע, או מול דליפות בלתי צפויות.
אז ראשית - OpenAI, מפתחת ChatGPT, סבלה בעבר מפריצות מידע ומתקלות שונות שחשפו צ'אטבוטים פרטיים. גם הצ'אט שלכם עלול להגיע למחשב של האקר או לרשת האפלה. ושנית, הצ'אטבוטים יכולים לפעמים לשחזר מידע; כל מידע שתיתנו ל-ChatGPT עלול להיחשף, בצורה כזו או אחרת, במועד מאוחר יותר.
5 צפייה בגלריה
זכרו - המידע שאתם חולקים עם הצ'אט לא נשאר פרטי
(צילום: Domenico Fornas / Shutterstock.com)
כל דבר לא חוקי
בתיאוריה, ChatGPT מתוכנת כך שלא יוכל לסייע בשום פעילות לא חוקית, אבל רבים גילו איך לעקוף את המגבלה הזו די בקלות באמצעות ניסוח שאלות מתחכם. עם זאת היו זהירים, גם אם אתם מנסים רק להשתעשע, מהלך כזה עלול לסבך אתכם.
יותר מזה: כיוון ש-ChatGPT נוטה לטעויות, אזי גם אם תעקפו את מנגנוני ההגנה שלו המידע שתקבלו עלול להיות שגוי באופן מסוכן; למשל, הוראות לשימוש בסמי הזיה.
ייעוץ רפואי
רבות דובר על זה, אבל חשוב להדגיש פעם נוספת - אסור לסמוך על צ'אטבוטים עם מידע רפואי, בוודאי לא ב-100%. רופאים שבחנו שימוש בסיסי ב-ChatGPT לשאלות בתחומים רפואיים מודים שהוא טוב רק בתשובות כלליות מאוד, לא בייעוץ מיוחד לתסמינים ייחודיים.
למשל, אתם יכולים לשאול את ChatGPT או ג'מיני "מה פשר הכאב החד הזה בצד ימין/שמאל שלי, שנמשך כבר יומיים?", אבל במקום להגיד לכם למהר לחדר מיון כמו שרופא אולי היה אומר, הוא עלול להמליץ לכם פשוט לשתות מים. לא ממש יעיל במקרה של דלקת בתוספתן למשל.
ייעוץ זוגי
כבר הוכח מזמן שצ'אטבוטים מבוססי AI נותנים עצות גרועות במיוחד בנושאים הנוגעים למערכות יחסים. או שהעצה פשוט לא נכונה, או שהצ'אט מנסה פשוט להתאים עצמו לאופן שבו אתם מציגים את השאלה. הוא גם לא "מבין" את הפרקטיקה הזהירה המקובלת בייעוץ מהסוג הזה.
כך, למשל, הצ'אטבוט לא באמת יכול להרגיש אם אתם מגזימים בתיאור התנהגות בני הזוג שלכם ומסתירים את שלכם, וגם לא יכול להבין את ההקשר הרחב, המלא יותר של חייכם, כדי להציע פתרון טוב. הוא גם לא מצליח לזהות רמזים לא מילוליים, וגם לא רמזים עדינים למערכת יחסים מתעללת.
בנוסף, כיוון שצ'אטבוטים נוטים לאמץ את ההטיות התרבותיות של יוצריהם, העצות שלהם למערכות יחסים עשויות להיות טובות עבור חלק מהאנשים, אבל הרסניות לאחרים. חשוב להבין את זה.
יצירת סיסמאות
לכאורה, צ'אטבוטים מצוינים בהמצאות, כך שהם בהחלט יכולים ליצור סיסמה מעולה. עם זאת, קיים סיכוי סביר ש-ChatGPT, ג'מיני או דומיהם ייצרו את אותה הסיסמה גם עבור אחרים. בנוסף, אם לא תכוונו את הדרישה שלכם, ייתכן שהסיסמה לא תהיה חזקה מספיק.
ולבסוף, כאמור, צ'אטבוטים שומרים את ההנחיות שלכם וגם את התשובות שאתם מקבלים. בנסיבות מסוימות, אדם זר עלול להיכנס לחשבון שלכם, ולבקש מהצ'אט לשחזר את הסיסמה שהוא נתן לכם. נסו במקום זאת מחולל סיסמאות; יש כאלה באינטרנט - חינמיים, בטוחים ויעילים.
טיפול פסיכולוגי
אחרי יותר משנתיים של מלחמה, כמעט כולנו צריכים טיפול פסיכולוגי, והפיתוי להיעזר לשם כך בצ'אטבוט הוא גדול. אבל שוב, הבעיה הגדולה ביותר כאן היא הנטייה של ChatGPT וחבריו לחנופה: הוא מתוכנת לשבח אתכם ולעודד גם ביצוע פעולות מזיקות, כאשר בתחום בריאות הנפש נדרשת תמיכה אובייקטיבית ומקצועית.
עזרה בתיקוני רכב
לכאורה, נראה שאין כמו צ'אטבוט כדי לסייע בתיקונים: אפילו אינסטלטורים משתמשים כיום ב-ChatGPT. אבל ב-SlashGear, שכתביו מתמחים כאמור גם בתחום הרכב, ממליצים בחום שלא לקבל הנחיות לתיקוני רכב מ-ChatGPT.
מניסיונם, הוא מצייר אמנם נכון את הקווים הכלליים, אבל נכשל בפרטים הספציפיים. כשאתם מתמודדים עם רכב או מכשיר יקר אחר שעלול להיהרס בתיקון שגוי, פשוט קחו אותו לאיש מקצוע.
עצות פיננסיות
חישבו פעמיים לפני שתבקשו מ-ChatGPT או כל צ'אטבוט מבוסס AI ייעוץ פיננסי. הוא עלול לספק מידע שגוי או מופרך. פיננסים, באופן כללי, הוא נושא מורכב. תחומים כמו מניות, חשבונות פרישה, נדל"ן, משתנים ממקום למקום ומתרבות לתרבות.
אין בעיה, כמובן, לבקש מהצ'אט מידע כללי על דרכים לחסוך כסף או לקצץ בהוצאות, אבל חשוב לקחת את דבריו בערבון מוגבל ולהפעיל שיקול דעת. כשצריך סיוע ספציפי ומעמיק יותר - פנו למקצוענים.
ניסוח מסמכים משפטיים
עורכי-דין צריכים ללמוד שנים ואז לעבור מבחן קשה של לשכת עורכי הדין לפני שיוכלו לעסוק במקצוע. ובכל זאת, יש עורכי דין שניסו לגרום לצ'אטבוטים לעשות את העבודה הקשה עבורם. התוצאות היו הרסניות; עבור אלה מהם שהכינו תצהירים משפטיים מופרכים על סמך הזיות מומצאות של הצ'אט, הן היו גם משפילות.
אפילו בית הספר למשפטים של הרווארד, בניסיון להיות פתוח ונדיב כלפי ChatGPT ומערכות דומות, הודה ב"מגבלות משמעותיות" בשימוש בו. הסיבות ברורות: החוקים משתנים ממקום למקום, מתחום לתחום, ויש אין ספור תקדימים משפטיים שיש לקחת בחשבון.
תחזיות עתידיות
אפילו המומחים המובילים ברוב התחומים לא יכולים לחזות את העתיד, אז למה ש-ChatGPT או ג'מיני יעשו זאת טוב יותר? אם אתם משתמשים בצ'אטבוט כדי להחליט על איזו קבוצה להמר, תחשבו על כך שוב. מאותה סיבה אל תשאלו אותו אלו מניות לקנות, איזו קבוצה תנצח, או מה ללמוד באוניברסיטה.
עצות במצב חירום
כשמדובר במצב חירום ובהצלת חיים בזמן אמיתי, רבים עשויים להתפתות לשאול את הצ'אטבוטים השונים מה לעשות. הבעיה היא, שהעצה שChatGPT- או כל מערכת אחרת יספקו לכם עלולה להיות שגויה, ומכיוון שמדובר במצב חירום, מידע שגוי עלול להוביל לסכנה, לפציעה או אף למוות.
ההמלצה היא להיות מוכנים למצבי חירום לפני שהם מתרחשים. כדאי להקדיש כמה דקות ללמוד החייאה או תמרון היימליך (להוצאת גוף זר מהקנה באמצעות לחץ בחלל הבטן), ולהצטייד כראוי.
דיון פוליטי
צ'אטבוטים לא מסוגלים לאובייקטיביות. ניתן להשוות אותם יותר לספוגים, שמטמיעים את תבניות החשיבה של היוצרים שלהם ואת נתוני ההכשרה שלהם. כיוון שפוליטיקה היא עניין סובייקטיבי, שקשור בהערכות, ולא במציאות אובייקטיבית, ChatGPT ודומיו דווקא נוטים מאוד לפוליטיקה, אבל לרוב הוא "יאמת" את מה שאתם כבר מאמינים בו, ואפילו יזין אתכם במידע מוטה ומטעה.
