منِ پایه‌محور، یادگیری و تصحیح اشتباه؛ شاخصه‌های هوش قوی

شاگرد: اگر شیء "خود" برای آن تعریف شده باشد، خیلی تفاوت می‌کند با وقتی که چیزی به نام "خود" در حافظه‌اش نیست.

استاد: بله. در آنجا الآن باید چیزی را تعبیه کنیم به نام ذهن خودش. وقتی به‌دنبال این‌ها رفتیم، می‌بینیم سر دراز دارد. آنچه که عرض من بود، این بود که قوام "من" به چیست و چرا "من" می‌گوییم؟ اصلاً مرز "من" به این است که یک چیزی است که ورودی دارد و خروجی دارد. یک مخزنی است که چیزهایی بر آن وارد می‌شود؛ همان‌طور که می‌گویند انسان واردات و صادرات دارد. وارداتش از حواسش است و صادراتش هم از زبانش و کارهایی است که انجام می‌دهد؛ انسان به این صورت است.

حالا اگر این منِ‌مجردِ هبوط کرده در اینجا را، بخواهید شبیه یک منِ پایه‌محور در حافظه درست کنید، چکار می‌کنید؟ یک محلی را درست می‌کنید و می‌گویید اینجا محدوده من است که واردات دارد و صادرات دارد؛ یعنی یک چیزهایی بر آن وارد می‌شود و پردازش می‌کند و کارهایی را طبق آن انجام می‌دهد. چون کار انجام می‌دهد، دیگر ربطی به ناظر ندارد. این هفته می‌خواهم این مطلب را عرض کنم که خیلی مهم است. شما زمانی می‌توانید بگویید که فقط معدّ است که اگر ما نباشیم، چیزی هم نباشد. اما در اینجا به این صورت نیست و الآن طوری است که یادگیری‌اش را هم ادامه می‌دهد. یعنی حتی اگر همه انسان‌ها بمیرند، او روی روالی که دارد، یادگیری عمیقی که دارد را ادامه می‌دهد و برای آن چیزی که می‌خواهد انجام بدهد، راه‌کارهایی را به دست می‌آورد.

شاگرد: منِ پایه‌محور با هوش ضعیف تفاوتی ندارد. تفاوتش در حجم اطلاعاتی است که به او داده می‌شود و پیشرفت هم نمی‌کند، همان قدر که به آن می‌دهید، همان‌جا می‌ماند. اگر کسی نباشد تا دوباره اطلاعات به او بدهد، روی همان محور کار می‌کند. الّا اینکه چون بر همه آدرس‌ها احاطه دارد، سریع‌تر عمل می‌کند و زودتر تصمیم می‌گیرد و الا همیشه محدود است.

استاد: یعنی اگر متخصصین به او اشتباه داده بودند، او هم که جواب داد اشتباه جواب داد، اگر دوباره همان را به او بگویید چکار می‌کند؟

شاگرد: دوباره همان اشتباه را می‌کند.

استاد: این هوش ضعیف و سیستم خبره است.

شاگرد: دیگری هم همین‌طور است و فقط اطلاعات بیشتری به آن داده‌اند که اشتباه نمی‌کند.

استاد: نه، اصلاً؛ وقتی فهمید اشتباه کرده، دیگر تکرار نمی‌کند. نکته سر همین است و دارم روی این تأکید می‌کنم.

شاگرد: اگر اطلاعاتش کم باشد، هوش ضعیف می‌شود، اگر اطلاعاتش بیشتر باشد، قوی می‌شود.

استاد: خیلی تفاوت می‌کند و اصلاً ریخت نوشتن برنامه‌اش متفاوت است. لذا عرض کردم در حافظه باید یک "من" برای هوش قوی درست کنیم. سیستم خبره نیازی به "من" ندارد. چرا؟ چون کارش را انجام می‌دهد، اما اگر بگوییم چه روالی طی شد؟ می‌گوید شما به من گفتید که این کارها را انجام دهم و من هم طبق آن جواب دادم. خبراء به من گفته بودند وقتی این‌طور سؤال کردند، به این صورت جواب بده و من هم جواب دادم. اما هوش قوی این است که می‌گوید چه مسیری را طی کرده‌ام و چطور شد که این جواب را دادم؛ همه آن‌ها را ثبت کرده است. بعد می‌گوید اشتباه از کجا بود و چون اشتباه بود، توقف می‌کند و دیگر آن را تکرار نمی‌کند.

اگر زبان‌های پرولوگ، زبان لیسپ، و زبان‌های متأخر را نگاه کنید، نکته سر این است که اصلاً برمی‌گردد و می‌بیند کجا اشتباه رخ داده، نه این‌که دوباره تکرار کند. همین را دارم عرض می‌کنم. لذا در هوش ضعیف، "من" نداریم. یک روال هوشمندی داریم که انجام می‌شود. اما در هوش قوی، تکرار اشتباه نداریم؛ نمی‌گوید شما به من بد گفتید، لذا من تقصیری ندارم و همان را دارم تکرار می‌کنم. معنای هوش‌مند، یعنی ذهن‌مند است؛ ذهن پایه‌محور. خیلی روی آن زحمت کشیده شده. لذا آن زمستانی هم که گفتم، همین بود. زمستان هوش مصنوعی، یعنی روی آن نحوی که قبلاً می‌رفتند، شکست خوردند و بودجه‌ها هوا رفت و دولت‌ها سرد شدند؛ زمستانی پیش آمده که به‌ آن زمستان هوش مصنوعی می‌گویند. بعد دیگر چیزهایی که قبلاً هم مطرح شده بود، زنده شد؛ یعنی اینکه سراغ شبیه‌سازی شبکه‌های عصبی بروند.

شاگرد٢: اشکال ایشان به این دلیل درست شد که مثال را به شیء بردید. شما به آبیاری مثال زدید و کارکرد را در شیء مطرح کردید.

استاد: بله، مبدأ کار کردن در شیء بود. درست است. مبدأ این‌که چه چیزی آن را از ناظر مستقل می‌کند، آن اکشن است که در فضای شیءگرا هم هست.

شاگرد: به‌عنوان مثال، روشن کردن یک لامپ را از او می‌خواهید، برای او تعریف‌شده که می‌خواهیم این لامپ روشن شود و برایش تعریف کرده‌ایم...

استاد: می‌گوییم این کلید را بزن.

شاگرد: او هم می‌بیند اشتباه کرده است…

استاد: لذا سراغ یک کلید دیگر می‌رود. الآن به او می‌گوییم این کلید را بزن تا لامپ روشن شود، او می‌زند و می‌بیند روشن نشد. دیگر دوباره نمی‌زند، بلکه سراغ کلید دیگری می‌رود تا امتحان کند.

شاگرد: کلید دیگر را هم ما به او داده‌ایم

استاد: نه، چیزهایی کشف می‌کند که بزرگ‌ترین متخصص‌ها هم کشف نکرده‌اند. به این، یادگیری عمیق می‌گویند. الآن این کار دارد انجام می‌شود؛ «Deep Learning». یعنی الگوریتم‌هایی را کشف می‌کند که تا به حال متخصصین نمی‌دانستند.

شاگرد: پس باید نفس داشته باشد.

استاد: نه، بحث سر همین است. حالا یک چیزهایی است که همین‌طور علی العمیاء بحث می‌کنیم و فلسفه‌بافی می‌کنیم [، اما یک چیزهایی هم هست که روی مشترکات است که نشان دادنی است]. اگر یادتان باشد تأکیدی که در این مباحثه داشتم، این بود که من نمی‌گویم تفلسف بد است، بلکه خیلی خوب است، اما اگر یادتان باشد در همین جلسه تأکید کردم که مرز تفلسف را از چیزهایی که قابلیت تفلسف ندارد، جدا کنیم و روی آن چیزهایی که محتاج فلسفه‌بافی نیست، تأکید کنیم؛ یعنی روی مطالبی که متفق بین کل بشر می‌شود. الآن خیلی‌ها وجود نفس را قبول ندارند؛ طبق فیزیکالیسمی که گفتم، آن‌ها اصلاً نفس را قبول ندارند و می‌گویند نفس، همین کارکرد مغز است. خُب ببینید یک بحث فلسفی است که نفس داریم یا نداریم. ما وارد بحث‌های آن‌ها نمی‌شویم و یک چیزهایی را می‌گوییم که بین همه مبانی مشترک است و در آن بحثی نداشته باشند.

در ما نحن فیه، شما می‌گویید که در اینجا نفس نیاز دارد که این کار را بکند. آیا نیاز دارد یا ندارد؟ گاهی شما برنامه را جلو می‌برید و می‌بینید که این کار دارد می‌شود. یعنی الآن واقعاً چیزی را برای شما گفت که دیگران به آن فکر نکرده بودند و وقتی متخصصین جواب آن را می‌بینند، می‌بینند درست می‌گوید. چرا؟ چون غیر از این است که یک الگوریتمی را اجراء کند، بلکه الگوریتم را کشف می‌کند و این کشف الگوریتم، چیز کمی نیست.