تحقق قصد در ماشین و تصویر قصاص در آن
به گمانم در این مرحله دوم، ما بتوانیم پایه‌هایی فراهم کنیم. یعنی پایه‌هایی در لایه‌هایی لطیفی از نرم‌افزار فراهم شود که در آن پایه‌ها چیزهایی ظهور می‌کند که اصلاً ناظرمحور نیست. مثلاً در کلمات می‌بینید که می‌گویند ماشین تورینگ که یک ماشین انتزاعی مکانیکی است. خب اگر انتزاعی است، چطور مکانیکی است؟! مقصودی دارند. انتزاعی، یعنی ماشین فیزیکی نیست، بلکه با فکر ریاضی تنظیم پیدا کرده. خب اگر انتزاعی است، پس چطور مکانیکی است؟ منظور ایشان از مکانیکی، این نیست که در خارج حرکت می‌کند. منظور از مکانیکی در اینجا یعنی نیازی به توجه و آگاهی کسی که او را مدیریت کند، ندارد و خودش، خودکار است؛ دارد حرکت خودش را جلو می‌برد و نتیجه را متفرع می‌کند. این ممکن هست یا نیست؟
عرض کردم در این فضا ما به‌دنبال چنین پایه‌هایی هستیم. غامض‌ترینش هم به گمانم همان مثال قتل عمد است. غموضش به این خاطر است که سه نوع قتل داریم: عمد، خطأ و شبه عمد. البته منظورمان مطلق عمد است و اگر به قاتل مثال می‌زنم، به این خاطر است که با آن مأنوس هستیم و الّا منظور، عامد در مسائل حقوقی و ضمان است. عامد کسی است که هم قاصد فعل است و هم قاصد نتیجه. شبه عمد چیست؟ قاصد فعل هست، بدون نتیجه. خطأ محض هم نه قاصد فعل بوده و نه قاصد نتیجه؛ این مطلبی است که فقهاء می‌فرمایند.
الآن وقتی این برنامه می‌آید، قاصد فعل هست یا نیست؟ قاصد، یعنی راه خاص را انتخاب می‌کند و از اول هم نتیجه را در نظر گرفته. اصلاً هوش همین است که یک غایتی را در نظر می‌گیرد و راه‌کارهای حصول و تحصیل آن غایت را اعمال می‌کند و به آن می‌رسد. البته دیدم تذکر می‌دهند که بین فناوری‌های هوش مصنوعی رباتیک با هوش فرق بگذارید؛ این‌ها برای امثال ذهن شریف شما معلوم است و برای کسی است که مخلوط کند. ما که می‌گوییم ربات، معلوم است که ده‌ها علم و چیزهای دیگر در آن دخالت دارند که ربطی به هوش مصنوعی ندارد. ما که به ربات مثال می‌زنیم، نمی‌خواهیم هوش مصنوعی را با رباتیک مخلوط کنیم. هوش مصنوعی یک فن خاص خودش است که توضیح و تعریف آن را قبلاً عرض کردم. جوهره هوش مصنوعی این است که کمبود را تشخیص می‌دهد و راه پر کردن آن خلأ را هم پیدا می‌کند. اما این‌که اعمالش را به چه صورت انجام بدهد و اقدامات خارجی‌اش به چه صورت باشد، ربطی به خود فن ندارد.
شاگرد: از سنخ نرم‌افزار است، نه سخت‌افزار.
استاد: بله، آن هم نوعی خاصی از نرم‌افزار. شاید انواع رویکردهای زبان‌های برنامه‌نویسی را گفتم. زبان‌های اعلانی و زبان‌های دستوری با هم فرق می‌کنند. البته چند رویکرد است ولی بیشتر رویکردش اعلانی است؛ شما به او می‌گویید من این را می‌خواهم و به او دستور نمی‌دهید که این کار را بکن یا نکن؛ کار را به او دستور نمی‌دهید، بلکه هدف را تعیین می‌کنید که او خودش بگردد و راه وصل به این هدف را پیدا کند.
شاگرد: حتماً باید برای هوش مصنوعی هدف تعیین بشود؟ یعنی این قید کار است؟ یا این‌که هدف را هم خودش پیدا می‌کند؟
استاد: خودش در مسیر هدف را هم پیدا می‌کند، مانعی ندارد. وقتی کار پیشرفت کرد، به این صورت می‌شود.
علی ای حال، این‌که ما می‌گوییم عامد، هم قاصد فعل و هم قاصد نتیجه است؛ الآن این برنامه، هدف را در نظر می‌گیرد و فعلی را هم که ما را به نتیجه می‌رساند، در نظر می‌گیرد؛ البته در نظر گرفتنِ مناسبِ خودش منظور است. چرا؟ به‌خاطر این‌که انتخاب می‌کند؛ از بین ده راه، بهترین راه را انتخاب می‌کند و نتیجه را می‌گیرد و در دست شما می‌گذارد. خب شما می‌گویید عامد، چه کسی است؟ آنکه هم قاصد فعل است و هم قاصد نتیجه. شبه عمد چیست؟ قاصد فعل بود، ولی قاصد نتیجه نبود. خطأ محض چیست؟ نه قاصد فعل بود و نه قاصد نتیجه. خب حالا که او این کار را انجام می‌دهد، کدام یک از تعاریف بر او صادق است؟ شما می‌گویید خب قاصد فعل است! نه، این قدر واضح نیست. چرا؟ شما در احکام فقهی، وقتی می‌خواهید برای قصد عمد، قصاص جاری کنید، چه بسا صِرف ظهور پایه‌محور در اینجا کفایت نکند و نیاز باشد که او بهره روحی و نفسی و قصد ناشی از جان و روح داشته باشد و در اینجا شما به نفس نیاز دارید تا احکام فقهی را بر آن بار کنید؛ خیلی صاف نیست و باید بیشتر روی آن تأمل بشود. لذا شاید یکی از غامض‌ترین موارد در ضماناتی که در فقه داریم، همین تعریف عمد باشد.
شاگرد: به همین خاطر است که ربات را نمی‌کشیم و نابود نمی‌کنیم.
استاد: خود این هست؛ اینطور که این مهندسین ادعا می‌کنند، اگر زمانی پیش بیاید، می‌شود. آن‌ها می‌گویند می‌توانید با یک ماشین انس بگیرید و مؤانسه کنید؛ او حالات شما را بفهمد و شما حالات او را بفهمید؛ این را می‌گویند. کسانی که گرایش مهندسی دارند، خیلی به این چیزها خوش‌بین هستند. وقتی این جور می‌شود، شما به هوش می‌فهمانید که اگر از این خطوط قرمز عبور کنید، منفجرت می‌کنم.
شاگرد: واقعاً می‌گویید؟!
استاد: اتفاقاً یکی از چیزهایی که امروز روی آن کار می‌کنند، این است که هوش مصنوعی را خودخواه کنند. یعنی کاملاً حفاظ داشته باشد که خودش را حفظ کند و نگذارد از بین ببرندش و صدمه ببیند. دارند روی این کار می‌کنند؛ خودخواهی هوش مصنوعی. خب اگر در این زمینه پیشرفت بکند، ما چرا نگوییم قصاصت می‌کنیم؟! درحالی که از قصاص رادعیت می‌خواهیم؛ «وَلَكُمۡ فِي ٱلۡقِصَاصِ حَيَوٰة»[1]. خب اگر او این کار را کرد، بگوییم طبق قاعده فقهی و به حکم خدا تو را قطعه قطعه می‌کنیم و از بین می‌بریم؛ خب وقتی رادعیت آمد، چرا نباشد؟! منظور من، غموض آن است که فوری قضاوت نکنیم و بدانیم که هنوز کار دارد.
خلاصه این قصدی که در ما نحن فیه می‌گوییم، جان می‌خواهد یا نه؟ باید یک نفس و روحی باشد که قاصد قتل بوده باشد تا ما قصاصش کنیم؟ شارع برای او با قید بشرط شیء، نفس را لحاظ کرده باشد، یعنی به شرط این‌که پایه‌محور نباشد و به شرط این‌که قاصد مقتص منه، جان داشته باشد و قصد ناشی از استشراق او از یک جان باشد و اگر این جور باشد، حکم شارع اجرا می‌شود.
شاگرد1: شاید موارد آن فرق داشته باشد و در قصاص با عقود و ایقاعات، متفاوت باشد. ممکن است که راهی را برویم که قصاص را نفی کنیم، ولی عقد را تأیید کنیم.
استاد: وقتی این‌ها در فقه دقیق می‌شود خیلی نیاز داریم به تشخیص موضوع دقیق حقوقی مسائل فقهی. گاهی است در اثر انسی که به زندگی داریم، موضوع حقوقی و فقهی مسأله با یک مأنوسات بیرونی جوش می‌خورد که وقتی تحلیل دقیق حقوقی کردیم و آن موضوع فقه را از مأنوسات خودمان جدا کردیم، خیلی نتایج متفاوتی خواهد داشت؛ فقها به چه صورت تنقیح مناط می‌کنند؟ وقتی آن مناط و آن موضوع اصلی حقوقی را بالا کشیدیم، خیلی از آن چیزهایی که شما می‌گویید تفاوت کرد، بعد می‌بینید که تفاوت نکرد. بعضی از تفاوت‌ها از انس ذهنی ما است، نه از ادله. ان شاء الله باید از هر کدام از این‌ها بحث شود.
شاگرد2: اصلاً قصد، تحقق پیدا می‌کند تا بگوییم قصد مقیَّد است؟
استاد: در پایه‌محور، قصد را چه معنا کنیم؟ می‌گوییم یک نتیجه و غایتی را تعیین می‌کند و کار خاصی را برای وصول به آن، تعیین می‌کند؛ تعیین یک نتیجه و تعیین کار معین برای وصول به آن؛ اگر بگوییم قصد، این است.
شاگرد2: چه کسی تعیین کند؟
استاد: اگر اسم فاعل قاصد را بیاوریم، فرمایش شما می‌شود. ما اول قصد را تعریف کنیم تا به قاصد برسیم. شما از قاصد شروع می‌کنید و می‌گویید معلوم است که وقتی اصل قاصد را نداریم، قصدش هم نیست. اما اگر از تعریف قصد شروع کنیم و بعد به قاصد برسیم، جور دیگری می‌شود. یعنی اگر بگوییم تعیین یک نتیجه و سپس تعیین کار مناسب محصِّل آن نتیجه، تعریف فعل قصد است. خب حالا قاصد در اینجا چه کسی است؟ قاصد، تعیین‌کننده یک نتیجه و تعیین‌کننده کار مناسب با رسیدن به آن نتیجه است. خب حالا در هوش مصنوعی، قاصد داریم یا نداریم؟!
شاگرد2: اگر هم داشته باشیم همان طراح است. یعنی انتساب این قصد به طراح است.
استاد: نه. صحبت سر یادگیری ماشین است؛ یعنی الگوریتم‌هایی که اصلاً به ذهن طراح نمی‌آید. این فرض را بیاورید؛ هدف‌هایی که اصلاً به ذهن طراح نیامده، آن هدف را می‌بیند، یعنی خودش به آن‌ها برخورد می‌کند و به‌دنبال الگوریتم دستیابی به آن هدف که اصلاً خود طراح بلد نیست، می‌رود و آن را پیدا می‌کند. بحث یادگیری ماشین، همین است.
شاگرد2: واسطه هست، ولی در نهایت به طراح برمی‌گردد.
شاگرد3: در جلسات اول توضیح داده شد که هوش قوی، آن چیزی است که اصلاً به طراح ربطی ندارد. مثلاً به نظرش می‌رسد که این بانک است و می‌تواند بانک را بزند. دیتاهای موجود را جست‌وجو می‌کند و از آن‌ها می‌فهمد که بانک است و بانک قابلیت سرقت دارد.
شاگرد2: اگر آن طراح نباشد که این‌ها نمی‌شود.
شاگرد4: فضای بحث باز است. ایشان می‌گویند در فضای حقوقی، نباید این مقدار آزادی را برای آن می‌گذاشتی تا این کارها را بکند و منافاتی ندارد که در فضای حقوقی یک چیزی هم برای او بگذارند.
شاگرد3: مثال چاقو همین بود. وقتی کارخانه می‌روید، می‌توانید به آن چاقو اجازه ندهید که ببُرَد؟! یعنی سازنده چاقو در قتل قاتل شریک است؟
شاگرد4: مثال‌ها متفاوت است. چاقو، مثالی است که منافع متعددی دارد، ولی موجودی مثل انسان که اختیار داشته باشد به گونه‌ای که بتواند مستقل تصمیم‌گیری کند، ممکن است ضمانش متفاوت باشد. مقصود این است که بحث هنوز تمام نشده.
شاگرد1: گویا یک چیزی را در قصد معتبر می‌دانند علاوه بر چیزهایی که شما می‌فرمایید؛ لا اقل در قصاص که اینطور است.
شاگرد4: ممکن است درجه‌ای از تعیین هدف و تحصیل راه آن هدف را در حیوان هم ببینیم.
استاد: بله، هوش حیوانی، مشکلی ندارد. برای گیاهان هم گفتم و از مرحوم علامه طباطبایی نقل کردم که درخت سیب را می‌ترساندند.
شاگرد4: پس برای این‌که هوش مصنوعی وارد فضای حقوقی بشود، مقدماتی می‌خواهد. یعنی صِرف این‌که یک قصد پایه‌محوری را هم تعریف کنیم، ممکن است هنوز مقدماتی داشته باشد. چون گربه و حیوانات، با این‌که این قصد را دارند، وارد این فضا نمی‌شوند.
استاد: ببینید اصل فرمایش ایشان این بود که شروع کار هوش مصنوعی، مستند به مهندس نرم‌افزار است، صحبت سر این بود که وقتی خود این ماشین، یادگیری را انجام داده و شما می‌گویید اولین که کسی آن را نوشته؛ آیا در ضمان فقهی، استناد عقلائی را شرط می‌دانیم یا نمی‌دانیم؟
شاگرد4: می‌دانیم.
استاد: یکی از کارهای بسیار مهمی که هوش مصنوعی مولد انجام می‌دهد، مولد بودن در زبان برنامه‌نویسی است؛ یعنی خودش به‌راحتی می‌تواند برنامه بنویسد و مدام هم پیشرفت می‌کند. وقتی با ده واسطه دارد برنامه‌اش را خودش می‌نویسد و زبانش را خودش طراحی می‌کند، می‌گویید ده سال پیشتر، کسی این را راه انداخت، الآن استناد کجا است؟ به او است؟ می‌گوید او که در کلاس فکری کرد، همه این یادگیری‌ها از ناحیه او است یا او اصلاً خودش خبر ندارد؟
شاگرد2: اگر وسائط طولانی بشود، عرف دیگر استناد نمی‌دهد، اما سؤال این است که آیا ما اجازه داریم ماشین را طوری طراحی کنیم که به جایی برسد که خودش را ارتقا بدهد.
استاد: فعلاً بحث ما سر اجازه فقهی نیست. ممکن است شما بگویید این کار حرام است یا غیر اخلاقی است؛ این، بحث ما نیست، بلکه بحث ما بر سر امکان و استحاله آن است. بعداً که ممکن شد، بگوییم آیا در اینجا موضوع فقهی آمده یا نیامده؟ یعنی الآن در فقه، این فعل و حصول نتیجه، مستند به این هوش مصنوعی است؟ یا مستند به برنامه‌نویسی است که وقتی پی‌جویی می‌کنید، شروعش به بیست سال پیش برمی‌گردد و بقیه‌اش را خود آن انجام داده است؟ حرف آن‌ها الآن همین است که خودش از خودش استفاده می‌کند. سخت‌افزار هم همین است. آن اوائل که این چیزها درآمده بود، این را شنیدم که اندازه یک دهم این CPUهایی که امروز در گوشی‌های شما هست، بخش کوچکی از کار آن را در یک سالن بزرگ انجام می‌داد؛ این کامپیوتر است. وقتی خود این، شروع به کار کرد، آن وقت با به کارگیری خود کامپیوتر، این CPUهای کوچک درست شد. یعنی اگر خود بشر می‌خواست با ابزار خودش و بدون کمک کامپیوتر، CPU بسازد، نمی‌توانست. یعنی خود این صنعت آمد و اینقدر ریز شد و در دست همه آمد؛ خودش کاری کرده که به این صورت بشود؛ سخت‌افزارش را عرض می‌کنم. در نرم‌افزار هم همین‌طور جلو می‌رود؛ یعنی راه‌هایی را پیدا می‌کند که خود مهندس‌ها پیدا نکرده‌اند. بنابراین باید استناد را در نظر بگیریم. من این‌ها را عرض می‌کنم تا سبک مباحثه ما طلبگی باشد. طلبگی یعنی همین‌طور رد نشویم و برویم، بلکه درست مبادی آن و امکان و استحاله آن را بفهمیم و تصور کنیم و مهم‌تر این‌که در فضای طلبگی نه سریع رد کنیم و نه سریع قبول کنیم. مبادرت به رد و مبادرت به قبول، نداشته باشیم. بلکه تا ممکن است، تمام زوایای بحث را بررسی کنیم. لذا در بخش اول که من مدام تأکید می‌کنم، به این دلیل است که اگر ما پایه را در مراحلی ترسیم کردیم که چیزهایی از آن ظهور کرد، آن ظهور پایه‌محور را از غیرش تمییز بدهیم.
[1] البقره ۱۷۹
بدون نظر