אפשר ללמד מחשבים לחקות את אופן הפעולה של המוח האנושי. זה עדיין לא אומר שהמחשבים "חושבים או שיש להם תודעה. לפני שנוכל ללמד אותם את הטריק הזה, נצטרך להשיב על שאלה שרק נשמעת פשוטה: מהי תבונה? // כתבה ממגזין TheMarker, אוקטובר 2017

—-

הבעיה הכי גדולה בקשר לבינה מלאכותית היא שכלל לא ברור מה זו בינה, ובפרט מהי בינה אנושית. לכאורה אין דבר פשוט מזה: אנו מאמינים כי בינה היא מילה נרדפת לחוכמה, ושבינה אנושית היא התכונה שמאפשרת לאדם להתנהל בחוכמה בעולם בצורה אחרת מאבן הכפופה לחוקי הפיזיקה, או חיית פרא הפועלת על פי החוקיות הדרווויניסטית.

אף אחד לא יודע באמת מהן תודעה ותבונה, איך הן פועלות וממה הן מורכבות, וממילא גם לא ברור מהו הדבר שהופך סתם זיכרון למחשבה ולמניע לפעולה, ושבלעדיו לא ניתן לדבר על אדם חי וחושב אלא רק על זומבי (אדם ללא רוח). גם אם התודעה יודעת להסביר את מרכיביה הרוחניים או החומריים באופן ספרותי או מדעי (הנה זיכרון, והנה חשיבה, וזו הדמיה של פעולות אלה כפי שהן מתבטאות בפעילות החשמלית במוח), בוודאי זה לא אומר שהיא יודעת להסביר מהי התוצאה השלמה של סך כל הפעולות המוחיות, או מהי תודעה תבונית המודעת לעצמה (כלומר, תודעה המכילה את כוליותה שלה בתוך עצמה וקוראת לזה "אני"). מכאן שבוודאי גם לא ניתן לנסח הסבר כיצד עובדת התודעה, לא לגבש איזה מודל שיתאר את הפעולה שלה ובטח לא לחקות אותה במקום אחר. הגענו למבוי סתום.

המשך קריאת הפוסט "האם המחשב מתרגש כשאנה קרנינה משליכה את עצמה מתחת לגלגלי הרכבת"