37. תוכנית-מחשב גם לא יכולה לנסח את עצמה מחדש תוך כדי ריצה
גיל זילבר ,
תל אביב
(08.08.15)
אחת השאלות שעולות מהדיון על בינה מלאכותית היא היכולת של מחשב ללמוד, כלומר היכולת של תוכנית להסיק היסק תקף (כזה שיש לו משמעות קונקרטית במערכת התנאים שבה התוכנית נבחנת) ולהטמיע בעצמה את ההיסק הזה, כלומר ללמוד.
אותה הטמעה-עצמית של היסקים תקפים היא תכונה שמצריכה מחשב לתכנת את עצמו מחדש תוך כדי ריצת התוכנית.
לכאורה התוכנית יכולה להעלות לזכרון הזמני עותק ישן של עצמה, לשתול בו את ההיסק החדש, לשמור את העותק המשופר, ולבצע איתחול, אבל זה לא יעבוד.
זה לא יעבוד, כי שתילת ההיסק החדש משנה את ההקשרים הלוגיים בין מרכיבי התוכנית, ויוצרת מספר חדש, גדול יותר של מצבי-מכונה, שהוא ממילא אסטרונומי לגבי כל תוכנית פשוטה עד בינונית ומעלה,
הנושא הזה של מצבי-מכונה נוגע ישירות ליכולתה של תוכנית לנסח מחדש את עצמה, כי כל מצב מכונה, תדיר או נדיר, שהתוכנית כתובה ללא יכולת טיפול בו, היא באג, בין אם הוא באג מעכב (מאיט את ריצת התוכנית) או באג משבית (מפיל את המחשב).
לפיכך ידרש מהתוכנית לבצע בעצמה הליך של Debugging שהוא כשלעצמו מערכת מסובכת של ניתוח-עצמי ויצירת היסקים תקפים, ומכאן הדימוי של Bootstrap.
מערכת אינפורמציה "תבונית" זקוקה בין השאר ל"מבט מבחוץ" על עצמה כדי לבצע אנליזה-עצמית עם היסקים תקפים, נקודת-מבט שאין לה, וכך, החלום על מערכת מחשב "תבונית" (AI) הוא חלום באספמיה.
וכללי היסק נאותים והמערכת חסרת סתירה, יהיה במערכת משפט לא ניתן להכרעה. אקסיומות פיאנו הם אלו שקובעים את "ההבדל הדק" שמאפשר להבדיל בין מספרים טבעיים לבין מספרים שאינם כאלו.