پیشرفت هوش مصنوعی و مسأله استناد

{00:25:00}

خلاصه من می‌خواستم استناد را عرض کنم. الآن به زمانی رفته‌ایم که با الکترودهایی که به مغز کسی وصل می‌کنند، ذهن او گسترده می‌شود و الآن یک توانایی‌هایی دارد که قبلاً نداشت. الآن از نظر فقهی چه بگوییم؟ استناد قصاص یا ضمان مالی فقط به خود این شخص است که یک کاری انجام داده؟ یا آن کسی که این دستگاه را ساخته و این فن را آورده؟ برنامه‌نویسی که این کار را برای او انجام داده است؟ پزشک یا تکنیسینی که این الکترودها را به مغز او وصل کرده و ذهن او را افزوده کرده است؟ آن‌ها هم ضامن هستند یا نیستند؟ می‌دانیم «لو لم یکن لم یکن»؛ اگر این توسعه نبود، این قتل در اینجا صورت نمی‌گرفت. چون این شده، این قتل صورت گرفته است. حالا چه کنیم؟ بگوییم فقط همین قصاص می‌شود؟ چون او انجام داده است؟ یا بگوییم «لو لم یکن لم یکن»؟ اگر این توسعه نبود، اصلاً نمی‌توانست بکشد. بنابراین مثل اشتراک در قتل است که دو نفر کشته‌اند، در اینجا هم دو نفر می‌کشند؛ او به‌تنهایی کاره‌ای نبود. اتفاقاً دو نفر استقلالی هم نیستند، دو نفر اشتراکی هستند. مثال‌هایش در فقه هست. یعنی هر دوی آن‌ها اگر با هم مجتمع نشوند، نمی‌توانند بکشند. هر دو با هم به‌صورت غیر مستقل -علتین متصلتین ناقصتین- که با هم تامه شده‌اند، قتل را انجام می‌دهند. الآن در اینجا چه بگوییم؟ «BCI»، رابط مغز و کامپیوتر است که روی آن کار می‌کنند تا این‌ها را انجام بدهند. عرض کردم من یک چیزی مطالعه می‌کنم، به‌عنوان سرنخ و پی‌جویی و بسط آن برعهده ذهن شریف خودتان باشد. فعلاً در اینجا داریم مسأله استناد را مطرح می‌کنیم.

متفرع بر استناد که بعداً برای مسأله هوش مصنوعی خیلی کارساز است، مسأله قرار ضمان است که یک تحلیلی نیاز دارد. باید به کتب فقها و ادله شرعیه مراجعه کنیم؛ قرار ضمان که فقه را خیلی غنی کرده است، در این مباحث به کار ما می‌آید.

نکته دیگر در استناد، نُرم‌ها و گستردگی اسباب است. همین مثال قتل این‌گونه بود؛ من اول مثال روشنی زدم تا بعد به مثال غیر روشن بیاییم. جانی کسی را استخدام کرده تا او را به جاهای مختلف ببرد و ما گفتیم که قتل هم به او مستند است که باید برای او حسابی باز کنند؛ تو مستخدم کسی بودی که قتل انجام می‌داده. در دستگاه فقه برای این شخص چه می‌گوییم؟ قیاس کنیم؟ تنقیح مناط کنیم؟ چکار کنیم؟ نیاز به کار فقهی حسابی دارد. قیاس که ممنوع است. تنقیح مناط درست و حسابی مورد تأیید علما و فقها و عرف عقلاء، واجب است. چون حق الناس مطرح است، در اینجا باید یک کاری را انجام بدهیم. خب حالا این طرف‌تر بیاییم. الآن این جانی سوار تاکسی شده و رفته، خب اگر این تاکسی او را نبرده بود، قتلی نبود، چون باید به آنجا برود. استناد قتل به راننده تاکسی هست یا نیست؟ روی مبنایی که این آقایان گفته‌اند ایجاد خطر، خب او ایجاد کرده است و مستند به او است. حالا باید او را پیدا کنیم و بگوییم چرا یک قاتل را برده‌ای؟! به گمانم عرف عقلاء می‌خندند و می‌گویند این راننده تاکسی که تقصیری نداشت! تقصیر نداشت، اما ایجاد خطر که کرد. اگر او نبود و نبرده بود، او را نمی‌کشت. خب حالا جلوتر برویم؛ راننده‌ی تاکسی‌ای است که احتمال قاتل بودن این مسافر را هم بدهد، اینجا چه می‌گوییم؟ حالا علم هم بعدش می‌آید. مرحله به مرحله جلو برویم. همه این‌ها را باید مطرح کنیم. راننده تاکسی غافل محض را عرف عقلاء می‌خندند. راننده تاکسی‌ای که احتمال می‌داد قاتل باشد، حالا رفته و او کشته است، الآن شما چه می‌گویید؟ ضامن هست یا نیست؟ ارتکاز به شما چه می‌گوید؟

شاگرد۱: ضامن نیست.

استاد: چرا نیست؟ اتفاقاً من دنبال این جواب نیستِ ایشان بودم. همان نُرم متکثر الوجودی بود که الآن می‌خواستم توضیح بدهم. در جلسات قبل هم بخشی از آن را عرض کردم. الآن در فضایی که تاکسی‌ها هستند و مسافر می‌برند، برای خودش یک نظام و هنجاری دارد که قرار نیست در آن هنجار، هر کسی ذهن‌خوانی کند و تجسس کند که این می‌خواهد چکار کند. صرف احتمال هم که بی‌عار است و می‌آید و از اندک رفتار هر کسی، ممکن است راننده حدس بزند و احتمال‌های مختلفی هست. در اینجا قرار نیست بگوییم استناد آمده است. قتل به این راننده استناد ندارد، ولو احتمال قتل داد. تقصیر هم که نکرده است، اما ایجاد خطر کرده است. اگر مسئولیت مطلق بود، باید او را بیاورند و بگویند تو او را برده‌ای. فرق استناد در اینجا معلوم می‌شود. در این فضا چرا استناد نیست؟ عرض می‌کنم چون یک چیز وسیعی است. لذا در جلسه قبل گفتم اگر شما بدانید هوش مصنوعی چطور دارد رشد می‌کند و چطور تا به حال رشد پیدا کرده، می‌بینید یک چیز بی‌معنا می‌شود که بگوییم برنامه‌نویس و ... ضامن است. اصلاً واقعیت میدانی آن، خیلی جلوتر از این فضای تاکسی‌رانی و این هنجارها جلوتر است. تکه‌تکه این‌ها را هر کسی آورده است؛ مثل مونتاژ است. مثلاً ماشینی که به کسی می‌زند، بگویند بروید ببینید چه کسی ماشین را ساخته است. بعد می‌بینید چه کسی آن را ساخته است؟ ظاهراً ده‌ها شرکت هر کدام یک قطعه آن را ساخته‌اند و بعد مونتاژ کرده‌اند. حالا بگوییم مونتاژکن را بگیریم؟! خب اگر این قطعات نبود که نمی‌توانست مونتاژ کند. فقط ماشین را سوار کرده است. هوش مصنوعی الآن به این صورت است. یعنی میلیون‌ها نفر همکار هستند و بخش بخش آن را تهیه و آماده کرده‌اند، کتاب‌خانه‌های توابع کاری و الگوریتم‌های مختلف را آماده کرده‌اند. شما می‌خواهید کدام یک از آن‌ها را بگیرید؟! شما بگویید این مستند به او است! اگر سراغ برنامه‌نویس بروید، می‌بینید دارد چکار می‌کند. خیلی از برنامه‌نویس‌ها در رده بسیار ضعیفی از مهندسی نرم‌افزار هستند. از جلوتر یادم هست که می‌گفتند مهندس‌های نرم‌افزاری که قوی می‌شوند، اصلاً از این زبان‌ها خوششان نمی‌آید؛ به خاطر این‌که در مدیریت رَم و حافظه به قدری قوی هستند که می‌خواهد بیت به بیت آن‌ها زیر دست خودش تنظیم شود. لذا هر نرم‌افزاری که قدرت بیشتری به مهندس می‌دهد و نرم‌افزاری است که بیت‌ها را دست‌کاری کند. این نرم‌افزار بیشتر مورد پسند مهندس‌های نرم‌افزار بود. زبان‌های خیلی سطح بالا که فقط فکر او را سامان می‌داد و کارش را درمی‌برد، این‌ها مورد پسند آن مهندسین دقیق نبود. به‌خصوص مهندسینی که سر و کارشان بیشتر با سخت‌افزار است. کسانی که می‌خواهند نرم‌افزارهای راه‌اندازهای دستگاه‌های سخت‌افزار را بنویسند، خیلی علاقه دارند که خودشان بیت به بیت بنویسند؛ چون دست خودش است و هر جور می‌خواهد حافظه را مدیریت می‌کند.

می‌خواستم این را عرض کنم که در بحث استناد، وقتی درست ببینیم در مورد هوش مصنوعی چه چیزی صورت می‌گیرد، در عرف عقلاء کاری را که یک هوش انجام بدهد، به این برنامه‌نویس‌های مستند نمی‌کنند. چون زیاد هستند و یک نُرم است.

شاگرد۲: فرض کنید نیروی نظامی کشوری می‌خواهند پروژه عظیمی برای از بین بردن کشورهای دیگر بسازد و این یک کار خیلی کلانی است که حداقل نزدیک دویست-سیصد هزار نفر باید کار کنند و به همه هم می‌گوید و یک هدف‌گذاری می‌کنند که در سی سال بعد به این سلاح دست پیدا کنیم. همه آن‌ها هم می‌دانند. لکن هر کدام قرار است یک قسمتی از آن را انجام بدهند. بعد هم به یک دستگاه می‌رسند و یک کشور دیگر را به‌صورت کامل از بین می‌برند.

استاد: ببینید اگر اطلس استناد را به‌خوبی - به صورت شبه ریاضی - ضابطه‌مند کردیم، می‌توانیم ضمان را تسهیم کنیم. البته من عرض کردم هوش دو جور است. هوش سخت و هوش نرم. آیا استناد می‌تواند در حیطه هوش سخت بیاید یا نه؟ اگر یادتان باشد فکر نمادین و هوش سیمبولیک بود. یعنی خروجی‌ها دقیق و روشن است. خروجی فازی و محاسباتی و احتمالاتی نبود. «Computational» نبود. در آنجا فرض می‌گیریم که بتوانیم استناد را به هوش سخت برگردانیم. یعنی ریاضی‌وار، آن هم نه ریاضیات احتمالاتی، بلکه ریاضیات صریح و دقیق و سخت که خروجی آن روشن است و صفر و یکی است. اگر فرض بگیریم اینطور بشود، به قول شما اگر مثلاً بیست هزار نفر شراکت کرده‌اند یا صد هزار نفر شراکت کرده‌اند، خب مانعی ندارد، اگر ریاضیاتی جلو رفتیم، ضمان را تسهیم می‌کنیم و از حقوق همه آن‌ها برمی‌داریم و می‌گوییم این کار را کرده‌اند. چرا؟ چون ضمان استنادی داریم که فرض گرفتیم به آن صراحت برگشت، به نمادین برگشت، به هوش سخت برگشت. این یک فضا است.

اما اگر آمدیم و گفتیم نه، اساساً ریخت استناد، ریخت سخت نیست - این خودش یک مبنا است که حالا ممکن است انتخاب بکنیم یا نکنیم، اگر فرض گرفتیم که ریختش ریخت سخت نیست و ریختش ریخت نرم است - اینجا است که استناد باید محقق بشود تا بیاید. در بعض از کارهای وسیعی که عده‌ای انجام داده‌اند، اصلاً در این فضا از استناد بیرون می‌روند. یعنی از فیلتری که می‌گذارید تا مواردی را خارج کنید، خارج می‌شوند و «طل» یا «هدر» می‌شوند. یعنی ضامن نیستند.

شاگرد۲: برای ضعف سیستم حقوقی عقلاء چه مقدار می‌توانیم حساب باز کنیم؟ یعنی بر فرض اگر اینطور باشد که بر سخت توزیع نشود، ممکن است بگوییم الآن ابزارش را ندارند. و الا اگر حقوق نفس الامری را نگاه کنیم، ضامن هستند. مثلاً در روایت داریم ظرفی از خون می‌دهند و می‌گویند این سهم تو از قتل فلانی است چون فلان چیز را اذاعه کردی و بعد در مجلس سلطان بازگو کردند و سر آن شخص را بریدند. چه مقدار آن به ضعف سیستم حقوقی عقلاء و عدم ضبط آنها برمی‌گردد؟ ولو از حیث وجدان عقلائی می‌گوییم که توزیع نمی‌شود، ولی توزیع از باب عدم ضبط است.

شاگرد۳: ظاهراً در بحث وجدان عقلائی توزیع می‌شود. مثلاً در قضیه ساخت بمب اتم، دانشمندانی که مشارکت داشتند را تحریم می‌کنند. ظاهراً یک جمع ده هزار نفری بوده‌اند. این را مستند می‌کنند به تک‌تک افرادی که در آنجا کار کرده‌اند.

استاد: این‌ها مثال‌های خوبی است. من عرض کردم استناد در عرف عقلاء. اندازه‌ای که من می‌فهمم، وقتی می‌گوییم عقلاء این را مستند می‌کنند، پشتوانه این کلمه استناد، یک حجم انبوهی از ارتکازات عقلائیه است که الآن خودشان نمی‌فهمند؛ یعنی عقلاء، علم به علم ندارند. اما با آن پشتوانه عظیم از ارتکازیات، می‌گویند این مستند به آن است. همین مثال خوبی که شما زدید، قبل از این‌که بمب مطرح بشود، دانشمندانی که در کشف قوانین اتم و هسته اتم و نیروی هسته اتم به‌عنوان یکی از نیروهای چهارگانه، کار علمی کرده‌اند، آیا آن‌ها را هم تحریم می‌کنند؟! نمی‌کنند. چرا؟ به خاطر این‌که عرف عقلاء، بمب اتم را به آن‌ها مستند نمی‌کنند. ولی اگر مسئولیت بر اساس صرفِ ایجاد باشد، خب ایجاد کرده است. استناد برای خودش یک عنصری است و در اینجا نیاورده‌اند. استناد یک پشتوانه عظیمی دارد و خروجی آن نزد عقلاء در خیلی از موارد روشن است. یعنی تا به عرف عقلاء می‌گوییم، برخی می‌خندند. اما اگر مسئولیت مطلق درست بود، نباید بخندند و نباید بگویند این چه ربطی به آن دارد؟! در عین حال که ایجاد کرده است، ولی آن را مستند نمی‌دانند.

بنابراین ما می‌خواهیم ببینیم - این چیزی که عرض کردم از حیث تطبیقی در این کتاب نیامده است، اگر شما پیدا کردید برای ما ارسال کنید - آیا کسانی که کار می‌کنند، این عرض امروز من را جلا داده‌اند؟ که نه مطلق است و نه مسئولیت قوی است و نه تقصیر است. اصلاً عنصر اصلی برای ضمان حکمی، استناد است. استناد برای خودش یک چیزی است. غیر از صرف ایجاد است و غیر از صرف تقصیر است.