אפשר ללמד מחשבים לחקות את אופן הפעולה של המוח האנושי. זה עדיין לא אומר שהמחשבים "חושבים או שיש להם תודעה. לפני שנוכל ללמד אותם את הטריק הזה, נצטרך להשיב על שאלה שרק נשמעת פשוטה: מהי תבונה? // כתבה ממגזין TheMarker, אוקטובר 2017
—-
הבעיה הכי גדולה בקשר לבינה מלאכותית היא שכלל לא ברור מה זו בינה, ובפרט מהי בינה אנושית. לכאורה אין דבר פשוט מזה: אנו מאמינים כי בינה היא מילה נרדפת לחוכמה, ושבינה אנושית היא התכונה שמאפשרת לאדם להתנהל בחוכמה בעולם בצורה אחרת מאבן הכפופה לחוקי הפיזיקה, או חיית פרא הפועלת על פי החוקיות הדרווויניסטית.
אולם מהו טיבה של תבונה זו? האם היא אינה אלא סוג של תוכנה, שלמרות מורכבותה ניתנת לפירוק למרכיבים קטנים, ושניתן לשכפלה או לחקותה באמצעים מלאכותיים? או שאולי היא הרבה יותר מסך חלקיה, ולכן לא משנה כמה ננסה לפרק את המשימות התבוניות ואת החומרה לחלקים, לא נוכל להרכיב אותם מחדש לכלל אנושיות או תבונתיות כמו זו של האדם? והאם הבינה תלויה בחומרה שמחזיקה אותה (המוח הביולוגי) או שהיא ניתנת לנשיאה אל חומרים אחרים מעבר לגוף –למשל אל "מוח פוזיטרוני", בשפתו של סופר המדע הבדיוני אייזק אסימוב?
אף אחד לא יודע באמת מהן תודעה ותבונה, איך הן פועלות וממה הן מורכבות, וממילא גם לא ברור מהו הדבר שהופך סתם זיכרון למחשבה ולמניע לפעולה, ושבלעדיו לא ניתן לדבר על אדם חי וחושב אלא רק על זומבי (אדם ללא רוח). גם אם התודעה יודעת להסביר את מרכיביה הרוחניים או החומריים באופן ספרותי או מדעי (הנה זיכרון, והנה חשיבה, וזו הדמיה של פעולות אלה כפי שהן מתבטאות בפעילות החשמלית במוח), בוודאי זה לא אומר שהיא יודעת להסביר מהי התוצאה השלמה של סך כל הפעולות המוחיות, או מהי תודעה תבונית המודעת לעצמה (כלומר, תודעה המכילה את כוליותה שלה בתוך עצמה וקוראת לזה "אני"). מכאן שבוודאי גם לא ניתן לנסח הסבר כיצד עובדת התודעה, לא לגבש איזה מודל שיתאר את הפעולה שלה ובטח לא לחקות אותה במקום אחר. הגענו למבוי סתום.
המשך קריאת הפוסט "האם המחשב מתרגש כשאנה קרנינה משליכה את עצמה מתחת לגלגלי הרכבת"