اتاق چینی و مسأله قصد و آگاهی هوش مصنوعی

هفته قبل مباحثه ما به اینجا ختم شد؛ آیا هوش مصنوعی قاصد هست یا نیست؟ عرض کردم اگر ویدیوی آن را پخش کنند نمی‌فهمید که آدم است یا ربات است. اگر نگاه کنید می‌بینید او را  کشت و باید او را قصاص کنند. بعد نگاه می‌کنید و می‌بینید هوش مصنوعی بود. بعد می‌گویید برنامه‌نویس به او گفته بود؟ می‌بینید نه، او اصلاً احتمال نمی‌داد. این خودش روی فرض یادگیری ماشینی و هوش عمومی یاد گرفته است. جلسه قبل هم عرض کردم که هوش عمومی هنوز محقق نشده اما ما روی فرض این‌که چنین شود از آن بحث می‌کنیم. خُب وقتی کسی را کشت، این قتل عمد است؟ شبه عمد است؟ خطأ محض است؟ مسئول چه کسی است؟ اینجا بود که گفتیم باید بحث‌هایی که تا به حال شده را بررسی کنیم. یکی از آن‌ها اتاق چینی بود. این اتاق چینی نزدیک چهل و سه سال است که گفته شده.

شاگرد: این‌که برنامه‌نویس احتمال نمی‌دهد، آیا برنامه را طوری نوشته که یادگیری داشته باشد؟

استاد: ببینید به همین خاطر است که می‌گویم باید از جهات فنی آن بحث کنیم. سؤال شما در فضایی است که باید مقدمات بیشتری واضح شود تا ببینیم چطور می‌شود که این ربات، خودش یاد می‌گیرد. تا این مقدمات روشن نشود، در استناد، ذهن ما فوری سراغ برنامه‌نویس می‌رود. چرا؟ چون هنوز نمی‌دانیم فضایش چه می‌شود که این‌طور کاری می‌کند، وقتی می‌گویند مستند به چه کسی است، فوری می‌گوییم خُب برنامه‌نویس که احتمال می‌داد! چرا این کار را کردی؟! اصلاً فضا به این صورت نیست که فوری بخواهیم با ذهنیت استناد طولی سراغ برنامه‌نویس برویم. وقتی از مقدماتش صحبت شود، به فرمایش شما می‌رسیم. ولی فعلاً حرفی نداریم که بگوییم مستند به او است و با یک گزینه برای استناد، آن را ختم کنیم. ولی باید مبادی آن را بدانیم. ان شاء الله بر می‌گردیم.