۱۲. فقه هوش مصنوعی (۱۴۰۳/۰۹/۲۲)
سال تحصیلی (۱۴۰۴-۱۴۰۳) - پنجشنبه، ۲۲ آذر ماه ۱۴۰۳
- پیشگفتار (چکیده)
- سه بخش کلی بحث هوش مصنوعی
- مسئولیت مطلق و مسئولیت مبتنی بر تقصیر
- مسئولیت مبتنی بر استناد
- قصد و استناد در هوش مصنوعی
- پیشرفت هوش مصنوعی و مسأله استناد
- ابهام در هستیشناسی و مسأله توزیعپذیری استناد
پیشگفتار (چکیده)
توزیع عرضی و طولی استناد در مسئولیتپذیری هوش مصنوعی، مسئولیت مبتنی بر تقصیر و مسئولیت مطلق، معرفی عنصر هنجار در اطلس استناد، ابهام در فضای هستیشناختی و مسأله توزیع پذیری استناد در هوش مصنوعی سخت و نرم
سه بخش کلی بحث هوش مصنوعی
بحثهایی که به ذهن میآمد که برای مبادی و آینده بحث دخالت بیشتری دارد، از آنها صحبت کردیم. در این جلسه هم مطلب خیلی جدیدی که در پی آنها باشد، به ذهنم نیامد. اگر فرمایشی دارید، بفرمایید.
پارسال تقریباً بهصورت بینظم هر چیزی را که به فکرم میآمد، عرض کردم. امسال که بحث را ادامه دادیم، این چند جلسه، آنها را عرض کردم. پیشنهاد من برای کسی که میخواهد این مباحثه را خلاصه کند و از بینظمی در بیاورد، این است که این جلساتی که امسال عرض کردم را ببیند و مباحث را در سه بخش ساماندهی کند؛ بخش توضیح تفاوت پایهمحور و اشراقمحور که بخش اول بود و بخش مهمی بود. بخش دوم، توضیح و تبیین پایهمحور بود. بخش سوم هم احکام فقهی و حقوقی آن بود. این سه بخش، خیال میکنم بخشهای خوبی باشد. خوب است معلوم باشد مطالبی که پارسال و امسال مطرح شد، ذیل کدام یک از اینها جا میگیرد. مطالبی که اهمیت بالایی دارد و مربوط به این است که به کل باحثین نشان بدهیم - نشان دادنی ورای اثبات کردن - که انسان فقط این بدن و این پایه نیست. حتی انسان، فقط انسان برزخی نیست و چنین نیست که فقط بدن مثالی برزخی داشته باشد؛ انسان خیلی فراتر از این است که یک موجود برزخی باشد. همین الآن نشانههایی از عالم جبروت و تجرد تام در او موجود است. حکمای بزرگی مثل ابنسینا، اصلاً نتوانسته تجرد برزخی را برهانی کند و آنچه که ایشان برای انسان برهانی کرده، اتفاقاً از درک کلیات و آن شعاعهایی است که از عالم جبروت در انسان جلوهگر است. ابنسینا و امثال او، در تجرد نفس، از این ناحیه جلو آمدهاند و درباره تجرد برزخی، آخوند صاحب اسفار در حکمت متعالیه حرف زده است.
منظور اینکه این قدم اول است که انسان اینطور چیزی است. به تعبیر آن استاد در درس اسفار - مکرر میفرمودند - انسان موجودی از فرش تا عرش است. موجودی که از فرش تا عرش است، خیلی تفاوت دارد با یک پایهمحوری که سراسر در فرش است و ما داریم صحبت از فرش او میکنیم، در آن محدودهای که فعلاً بحث علمی ما است.
بنابراین در سه بخش منظم کنیم؛ بخش تبیین و ارائه امتیازها و شئونات اشراقمحور انسان از پایهمحور انسان. بخش دوم؛ توضیح پایهمحور است و اینکه این پایهمحور چه قابلیتهای گستردهای دارد و تا کجا پیش میرود. بخش سوم هم احکام فقهی و حقوقی است.
مسئولیت مطلق و مسئولیت مبتنی بر تقصیر
این کتاب را چندین جلسه است که میآورم؛ سومین کتاب از کتابهایی است که حوزه چاپ کرده است و عنوان آن «مسئولیتپذیری هوش مصنوعی؛ مجموعه مقالات و اسناد» است که گردآوری شده توسط جمعی از نویسندگان است. در مقدمه کتاب، صفحه 21 مطلبی دارند. ببینید این کتاب دو بخش دارد. عدهای مقالات را ترجمه کردهاند که حدوداً نصف کتاب میشود. نصف دیگر کتاب، اسنادی است که ترجمه کردهاند. در مقدمه هم دو بخش آوردهاند: «معرفی مقالات» و «معرفی اسناد». ابتدا توضیح مختصری در اسناد میدهند و بعد در صفحه ۲۱ میفرمایند:
بهطور کلی اسناد برای این پرسش که چه کسی باید خسارت پرداخت کند، دو پاسخ متفاوت ارائه میکنند. یک: کسی که مقصر است. دوم، کسی که خطر را ایجاد کرده است.
«یک: کسی که مقصر است»؛ چه کسی باید خسارت بدهد؟ کسی که مقصر است. «دوم» که کاملاً با قبلی تفاوت دارد، «کسی که خطر را ایجاد کرده است»؛ یعنی ایجاد بس است به خلاف قبلی که میگفت، نه، تقصیر نیاز است و باید کوتاهی کرده باشد تا مسئولیت بیاید. میگویند در اسناد، این دو مشی را داشتهاند؛ در اینکه مطلق ایجاد، ضمانت می آورد و یکی هم تقصیر ضمان میآورد؛ کسی که مقصر است و کسی که خطر را ایجاد کرده است.
لذا دو مفهوم تقصیر و خطر، مبنای قانونگذاری محسوب شدهاند و بر اساس این دو مفهوم، دو نوع رژیم مسئولیت ایجاد شده است: رژیم مسئولیت مبتنی بر تقصیر «fault-based liability» و رژیم مسئولیت بدون تقصیر یا مسئولیت مطلق «Strict liability»[1].
در دو صفحه بعد میگویند که ما نمیدانستیم برخی از واژهها را چطور به فارسی ترجمه کنیم. یکی از آنها همین است: «Strict liability»؛ چون «Strict» که به معنای عدم تقصیر و مطلق و ... نیست، «Strict» به معنای قوی است و از نظر ریشه در کنار «Stress » و «Strong» قرار میگیرد که هر کدام معنای تا حدودی متفاوت دارند؛ زبانهایی مثل انگلیسی، ولو زبانهای وندی هستند، اما در همان وندی بودنشان، معلوم است که اشتقاقاتشان نزدیک هم است.
خب مسئولیت قوی و میئولیت شدید؛ چرا شدید است؟ به خاطر اینکه ما کاری نداریم تقصیر کرده یا نه؛ مسئولیت، مسئولیت است. میگویند ما فکر کردیم این «Strict» که به معنای قوی است را چکار کنیم. دیدیم مقابل آن تقصیر است؛ مسئولیت مبتنی بر تقصیر است. خب این را به «مسئولیت مطلق» معنا کردیم؛ یعنی بدون قید تقصیر؛ این، هم مسئولیت قوی و مسئولیت مطلق است. البته در اصطلاحات حقوقیشان «Absolute liability» را دارند، ولی این آقایان مسئولیت قوی را همان مسئولیت مطلق «Absolute liability» معنا کردهاند. اما باید تحقیق شود که آنها که این را به کار میبرند، این «Strict» را در حوزهای استعمال میکنند که با «Absolute liability» فرق دارد یا نه؟[2] فعلاً مسئولیت قوی را به این معنا به کار بردهاند؛ مسئولیت مطلق که هیچ قیدی هم ندارد.
پارسال هم که مباحثه شد، عرض کردم اندازهای که ما در فضای طلبگی از فقه میدانیم، حتماً در فقه «هدْر» و «اطلال» داریم. اگر بگوییم مسئولیت مطلق، یعنی ایجاد و خلاص، این خلاف فقه اسلامی است. چون ما در فقه اسلامی هم از حیث منابع و هم در فضای کلاسیکش بسیار غنی هستیم. ما این را قبول نداریم که مسئولیت مطلق بهمعنای ایجاد خطر باشد و خلاص. ما مواردی داریم که ایجاد شده ولی طل و هدر است و کسی مسئولیتی ندارد - طلّ به همان معنا که در «لاَ يُطَلُّ دَمُ اِمْرِئٍ مُسْلِمٍ»[3] نفی شده - مثل آفات سماوی؛ رعد و برق میزند و گوسفند کسی میمیرد؛ به این، تلف سماوی میگوییم. در تلف سماوی که گردن کسی را نمیگیریم. شبیه همین را در موارد انسانی هم داریم. بنابراین در فقه ما، مبنای دوم که ایجاد خطر است، مورد قبول نیست.
اما مبنای اول که مسئولیت مبتنی بر تقصیر است، آن هم با ضرورت فقه موافق نیست. پارسال عرض کردم که در فقه مواردی داریم که تقصیر صورت نگرفته، ولی مسئولیت، ثابت است. مثالهایش را هم عرض کردم. اگر در خواب، پای خود را به ظرف کسی میزند و میشکند، نمیتوان گفت چون خواب بوده از او پول نگیریم، بلکه چون خواب بود، گناه نکرده است. قتل خطأی هم اینچنین است؛ قصاص و کیفر ندارد، چون هیچ تقصیری در قتل نداشته است، اما ضمان ثابت است. بنابراین در فقه یک چیز خیلی مهمی غیر از اینها داریم و آن، استناد داریم. در لغت آنها من کلمه «استناد» را پیدا کردم؛ ماده «cause» که اصل سببیت «causation» میشود. «causation» بهمعنای استناد و سببیت است. علت مباشر را هم عرض میکنم. «liable» بهمعنای در بند بودن است. «liability» بهمعنای مسئولیت دادن است. برای مسئولیت سه واژه توضیح میدهند؛ « responsibility» و «liability» و … . بعداً اینها میآید. خود شما مراجعه کنید. من طلبه یک بهانه هستم تا مطرح شود و مراجعه کنید، پیگیری آن بر عهده خود شما باشد.
[1] در حقوق جنایی و مدنی، مسؤولیت محض(بدون تقصیر/سختگیرانه/قاطعانه)، استانداردی برای مسؤولیت است که براساس آن، یک شخص نسبت به جریان عواقب کارش، حتی در نبود هیچ خطا یا قصد مجرمانهای، قانوناً مسؤول است…
(https://en.wikipedia.org/wiki/Strict_liability)
[2] به موجب دکترین مسئولیت محض، شخص زیان زننده ملزم به پرداخت خسارت است مگر در صورتی که ثابت کند خسارت پدیدآمده ناشی از قوه قاهره بوده است. این در حالی است که مطابق با دکترین مسئولیت مطلق، زیان زننده در هر صورت باید خسارت پدیدآمده را جبران کند ولو آن که خسارت تولیدشده ناشی از قوه قاهره بوده باشد.
(http://elawt.com/2021/12/04/%D8%AA%D9%81%D8%A7%D9%88%D8%AA-%D9%85%DB%8C%D8%A7%D9%86-%D9%85%D8%B3%D8%A6%D9%88%D9%84%DB%8C%D8%AA-%D9%85%D8%B7%D9%84%D9%82-%D8%A8%D8%A7-%D9%85%D8%B3%D8%A6%D9%88%D9%84%DB%8C%D8%AA-%D9%85%D8%AD%D8%B6/)
[3] تهذيب الأحكام ج۱۰ ص۲۳۲
مسئولیت مبتنی بر استناد
تا اینجا، ما استناد را بهعنوان یک عنصر ثالث، در مقابل این دو موردی که ایشان گفتهاند، مطرح میکنیم و میگوییم نه مبتنی بر تقصیر است و نه مبتنی بر عدم تقصیر و مطلق است. «Strict» بهمعنای قوی است؛ اینطور که آقایان در این کتاب گفتهاند. ما به استناد نیاز داریم. ولی خب مشکلی که استناد دارد، این است که ضابطه ندارد. شما یک واژهای میگویید؛ میگویید تقصیر نه، مطلق هم نه، بلکه استناد است. خب ضابطهی آن چیست؟ خب صرف این که فعلاً بیضابطه به نظر میآید، ما دست از یک چیز حکیمانه و عقلائی دال بر کمال ضوابط حقوقی برنمیداریم. بلکه استناد، شرط کار است و اگر استناد نباشد، ضمان نیست و اگر استناد باشد، ضمان هست، بمراتبه.
خب حالا ببینیم آیا استناد، ضابطهمند میشود یا نه. گمان من این است که ضابطهمند میشود، ولی غامض است. اینکه چرا اول استناد در ذهن ما مبهم جلوه میکند، بهخاطر غموض آن است. واقعاً ترتیب دادن این استناد مشکل است؛ جور واجور است. در کتب فقهی هم همینطور است. اگر در جواهر، ضمان حکمی را مباحثه کردیم، مطرح میشود. خیلی غامض است؛ استناد، هم طولی است و هم توزیعپذیر است. دو نفر با هم میتوانند یک نفر با بکشند. یعنی حتی وقتی پزشکی قانونی میآید، از حیث تسبیب و علیت و قتل، میبیند هر دو زدهاند؛ با هم دو تیر زدهاند و در آنِ واحد، این دو تیر وارد شده و هر کدامش بخشی از قلب و ریه او را از کار انداخته است، یا اینکه در آنِ واحد یکی به مغزش وارد شده و یکی به قلبش وارد شده است؛ هر دو او را کشتهاند. لذا در فقه هست که اگر قتل عمد باشد، باید هر دو قصاص بشوند. پس استناد، توزیعپذیر است. یعنی در عرض هم، کسانی میتوانند همزمان سبب باشند. همچنین استنادهای طولی هم مطرح است؛ کسی دیگری را گرفته است که اگر او را نگرفته بود، قاتل نمیتوانست او را بکشد؛ ممسک او است؛ او را گرفته و دیگری آمده و او را کشته است. حالا از کدام قصاص کنیم؟ باید چکار کنیم؟ یا اینکه دیگری اکراه کرده و گفته اگر نکشی، میکشمت؛ اکراه در قتل بوده و خب او هم کشته است. این استنادها، طولی است؛ یعنی با هم انجام ندادهاند، ولی در طول هم هستند. [و موارد متعدد …] تا جایی که استنادهای خیلی ضعیف هست؛ کسی راننده آن شخصی است که قاتل است، اما در استخدام او است. یعنی یک جنایتکار، او را استخدام کرده و به او پول میدهد؛ قاتل را سوار ماشین کرده و او را به محل مقتول برده و قاتل، مقتول را کشته است. خب راننده تسبیب کرده یا نه؟! این قتل به رانندهای که توسط این جنایتکار استخدامشده، مستند هست یا نه؟ عرف عقلاء چه میگویند؟ چرا استناد، قابلیت ضابطهمندی را ندارد؟ دقیق میشود آن را ضابطهمند کرد. بله، مرحله بعدی این است که وقتی استناد را پخش کردیم و با در نظر داشتن توزیع طولی و عرضی، اطلس آن را رسم کردیم، بعداً الگوریتم درجات ضمانیابی را در این اطلس پیاده میکنیم. یعنی یک روندی را طی میکنیم در اینکه ببینیم حالا باید به هر یک از این مراتب استناد چه کیفری دهیم؛ بعضیها عفو میشوند و بعضی هم نه؛ مثلاً در فقه داریم اگر کسی اکراه کرد، چکارش میکنند؟ اختلاف فتوا هست؛ او را حبس ابد میکنند. حالا اگر دیگری مقتول را گرفت و قاتل او را کشت، این هم از موارد حبس ابد است؛ «یحبس حتی یموت». همینطور که او یکی را گرفت تا کشته شد، همینطور او هم باید حبس شود تا موتش؛ یک جور تناسب جرم و جزا در کتاب القصاص مشهود است. مثلاً اگر مواظب بود تا کسی نیاید و عین بود. «رَأَی»ای که در فقه میگویند نه یعنی یکدفعه آمد و دید، بلکه یعنی مواظبت کرد تا کسی نیاید که ببیند، دارد که: «تسمل عينه»؛ یعنی میل داغ به چشمانش میکشند.
اینها دم و دستگاه احکام فقهی است و به ما میگوید که استناد، عرضاً و طولاً توزیعپذیر است. عرضیِ آن مراتب دارد و طولیِ آن هم مراتب دارد. یعنی وقتی با هم یک کاری را انجام میدهند، لازم نیست وقتی با هم هستند، حتماً جرمشان یک درجه باشد؛ با هم بودنِ اشتراکی و با هم بودنِ استقلالی، تفاوت دارد. توارد علتین مستقلتین، همین است و اینجا از جاهایی است که جایز است و مانعی ندارد و در این علتها ممکن است و توارد علتها میشود. نه فقط مستقلتین، بلکه مجتمعتین. اشتراک در قتل دو جور است: اشتراک استقلالی و اشتراک بند به هم که تا دوتایی نبودند، نمیشد، ولی خب هر دو کردهاند. گاهی هم مستقل است. همه اینها احکام خودش را دارد. بنابراین ما باید مراحل استناد را بهطور منضبط معلوم کنیم.
قصد و استناد در هوش مصنوعی
قبلاً بحث کردیم که آیا قصد در هوش پایه میآید یا نه، و مسئولیتش هم مستند به چه کسی است؟ مواردی بود که مبهم بود و به تعبیر مرحوم آسید محمد فشارکی باید بخیسد! میگفتند آسید محمد یک بحثی را مطرح میکردند؛ کمی که جلو میرفتند، میگفتند بگذاریم این بحث بخیسد! خیسیدن هم چیزی است! بعضی مباحث مطرح شد که گذاشتیم بخیسد؛ یعنی زوایای بحث، واضحتر بشود تا بتوان راجع به آن بهتر قضاوت کرد. الآن انسانها چرا بهدنبال این وسائل میروند؟ به این خاطر که هم راحتطلب هستند و هم نیاز دارند. انسان راحتطلب، مثلاً تشنه است و باید سر یخچال برود و آب بردارد و بخورد، اما حوصله ندارد. خب اگر یک چیزی پیدا شود که خیلی راحت تا دکمه آن را میزنید، سر یخچال برود و آب را بیاورد و به او بدهد و بخورد، این انسان خوشحال میشود، چون راحتطلب است. ولی گاهی نیازهای ضروری است. مثلاً میبینید کسی فراموش میکند؛ نمیتوان گفت وقتی فراموش کرد، راحتطلب است. این یک نقصی است و چیزی است که خداوند متعال در او گذاشته تا بفهمد دستگاه خلقت چه خبر است. بیخود نمیگویند «سمی الانسان انسان لانه ینسی»[1]. یعنی چه بسا یکی از اعاجیب آیات الهی، همین نسیان است. مکانیسیم آن و خصوصیات آن، قدرتنمایی خداوند متعال است.
خب حالا انسانی که نسیان دارد، نمیتوان گفت راحتطلب است. نیاز دارد که نسیان نیاید. او فراموش میکند. حالا یک معاون و منشی هوش مصنوعی برای او درست کنید، که تا فراموش کرد، یادش میآورد. پروژه نجف تقریباً اینجور چیزی است. یعنی فقیه را کمک میکند. خیلی از جاها هم مبانیاش یادش نیست و اشتباه میکند؛ مبانی خودش را یادش میرود، حدیث یادش میرود، اما او به یادش میآورد. منشی به این صورت است؛ منشی به او کمک میکند و صرف راحتطلبی نیست؛ جاهایی که گیر میافتد، او کمک میکند و نقص او را برطرف میکند.
خب استناد، یک جور دیگری هم میشود؛ وقتی فراموش کرد، یک ماشینی، دستگاهی، رباتی به او یادآوری میکند. حالا میشود یک کاری کنیم که اصلاً فراموش نکند؟ یعنی اگر خودش بود فراموش میکرد، [اما کاری کنیم که] اصلاً وقتی ذهنش کار میکند، فراموشی سراغش نیاید؛ این هم یک جور است؛ معجونی از راحتطلبی و رفع نیاز است. این، میشود یا نمیشود؟! چندین دهه است که مفصل راجع به همین، کار میکنند که یعنی ذهن و خصوصیات انسان را با ماشین مرتبط کنند، نه اینکه منشی یادش بیاورد، بلکه اصلاً آن دستگاه، به دماغش(مغزش) وصل است و نمیگذارد که فراموشی بیاید؛ ذهن او، گسترده شده است. «BCI» میگویند؛ «Brain–computer interface»؛ رابط مغز و کامپیوتر. از عجائبی که خداوند متعال در مغز انسان قرار داده، همان انعطافپذیری آن است؛ «Brain plasticity». مغز، حالت انعطافپذیری عجیب و غریبی دارد؛ عجائبی در این انعطافپذیری مغز هست که خودش بحث مفصلی دارد. این دماغی که خداوند متعال در بدن بشر تعبیه فرموده، محل عجائب است که به تعبیر استاد حاج آقای حسنزاده، سختترین محل جمجمه انسان، این استخوان جلوی پیشانی است که از همه جا سختتر است. بعد میفرمودند خداوند متعال پشت این استخوان که محکمترین است، چکار کرده است! بنطاسیا میگویند. حس مشترک را هم ظاهراً همان بنطاسیا میگویند. خداوند متعال چنین چیزی را در همینجا قرار داده است. الآن در همین عالم ماده است. این را چکار کردهاند؟ به تعبیر خودشان «Brain implant»، کاشت مغزی است. همانطور که دندان میکارند، در مغز هم چیزهایی میکارند. الآن چندین دهه هست که دارند کار میکنند. از چیزهای عجیب هم همین است؛ نیم ساعت پیش در صفحه ویکیپدیا درباره کاشت مغز چیزهایی دیدم که خیلی عجیب است. مرحلهای از رشد مگس یا حشرات هست که در پیله میرود و خوراک و همه چیزش تمام میشود که یک برزخی است - اگر رشد این پرندهها را ببینید، خیلی عجیب است - قشنگ میتوان این مرحله به برزخ تشبیه کرد. اول کرم است، چیزی میخورد و راه میرود. بعد در یک پیلهای میرود. در این پیله، چیزی نمیخورد. مدتی در این پیله دارد تغییر هویت میدهد. بعد یکدفعه از پیله درمیآید و پروانه میشود. در این حالت، این ایمپلنتها را در این مگسها قرار میدهند برای کارهای نظامی و مانند آنها. یک مگسی است که رها میشود و میرود. این مگس اطلاعات دشمن را برای اینها پخش میکند. چنین چیزی را شنیده بودید؟! کاشت و ایمپلنت در شبکههای عصبی این کارها را میکند. تا این اندازه! یعنی مگس یک رابط اطلاعرسان میشود. خیلی عجیب است.
[1] علل الشرایع , جلد۱ , صفحه۱۵
پیشرفت هوش مصنوعی و مسأله استناد
خلاصه من میخواستم استناد را عرض کنم. الآن به زمانی رفتهایم که با الکترودهایی که به مغز کسی وصل میکنند، ذهن او گسترده میشود و الآن یک تواناییهایی دارد که قبلاً نداشت. الآن از نظر فقهی چه بگوییم؟ استناد قصاص یا ضمان مالی فقط به خود این شخص است که یک کاری انجام داده؟ یا آن کسی که این دستگاه را ساخته و این فن را آورده؟ برنامهنویسی که این کار را برای او انجام داده است؟ پزشک یا تکنیسینی که این الکترودها را به مغز او وصل کرده و ذهن او را افزوده کرده است؟ آنها هم ضامن هستند یا نیستند؟ میدانیم «لو لم یکن لم یکن»؛ اگر این توسعه نبود، این قتل در اینجا صورت نمیگرفت. چون این شده، این قتل صورت گرفته است. حالا چه کنیم؟ بگوییم فقط همین قصاص میشود؟ چون او انجام داده است؟ یا بگوییم «لو لم یکن لم یکن»؟ اگر این توسعه نبود، اصلاً نمیتوانست بکشد. بنابراین مثل اشتراک در قتل است که دو نفر کشتهاند، در اینجا هم دو نفر میکشند؛ او بهتنهایی کارهای نبود. اتفاقاً دو نفر استقلالی هم نیستند، دو نفر اشتراکی هستند. مثالهایش در فقه هست. یعنی هر دوی آنها اگر با هم مجتمع نشوند، نمیتوانند بکشند. هر دو با هم بهصورت غیر مستقل -علتین متصلتین ناقصتین- که با هم تامه شدهاند، قتل را انجام میدهند. الآن در اینجا چه بگوییم؟ «BCI»، رابط مغز و کامپیوتر است که روی آن کار میکنند تا اینها را انجام بدهند. عرض کردم من یک چیزی مطالعه میکنم، بهعنوان سرنخ و پیجویی و بسط آن برعهده ذهن شریف خودتان باشد. فعلاً در اینجا داریم مسأله استناد را مطرح میکنیم.
متفرع بر استناد که بعداً برای مسأله هوش مصنوعی خیلی کارساز است، مسأله قرار ضمان است که یک تحلیلی نیاز دارد. باید به کتب فقها و ادله شرعیه مراجعه کنیم؛ قرار ضمان که فقه را خیلی غنی کرده است، در این مباحث به کار ما میآید.
نکته دیگر در استناد، نُرمها و گستردگی اسباب است. همین مثال قتل اینگونه بود؛ من اول مثال روشنی زدم تا بعد به مثال غیر روشن بیاییم. جانی کسی را استخدام کرده تا او را به جاهای مختلف ببرد و ما گفتیم که قتل هم به او مستند است که باید برای او حسابی باز کنند؛ تو مستخدم کسی بودی که قتل انجام میداده. در دستگاه فقه برای این شخص چه میگوییم؟ قیاس کنیم؟ تنقیح مناط کنیم؟ چکار کنیم؟ نیاز به کار فقهی حسابی دارد. قیاس که ممنوع است. تنقیح مناط درست و حسابی مورد تأیید علما و فقها و عرف عقلاء، واجب است. چون حق الناس مطرح است، در اینجا باید یک کاری را انجام بدهیم. خب حالا این طرفتر بیاییم. الآن این جانی سوار تاکسی شده و رفته، خب اگر این تاکسی او را نبرده بود، قتلی نبود، چون باید به آنجا برود. استناد قتل به راننده تاکسی هست یا نیست؟ روی مبنایی که این آقایان گفتهاند ایجاد خطر، خب او ایجاد کرده است و مستند به او است. حالا باید او را پیدا کنیم و بگوییم چرا یک قاتل را بردهای؟! به گمانم عرف عقلاء میخندند و میگویند این راننده تاکسی که تقصیری نداشت! تقصیر نداشت، اما ایجاد خطر که کرد. اگر او نبود و نبرده بود، او را نمیکشت. خب حالا جلوتر برویم؛ رانندهی تاکسیای است که احتمال قاتل بودن این مسافر را هم بدهد، اینجا چه میگوییم؟ حالا علم هم بعدش میآید. مرحله به مرحله جلو برویم. همه اینها را باید مطرح کنیم. راننده تاکسی غافل محض را عرف عقلاء میخندند. راننده تاکسیای که احتمال میداد قاتل باشد، حالا رفته و او کشته است، الآن شما چه میگویید؟ ضامن هست یا نیست؟ ارتکاز به شما چه میگوید؟
شاگرد۱: ضامن نیست.
استاد: چرا نیست؟ اتفاقاً من دنبال این جواب نیستِ ایشان بودم. همان نُرم متکثر الوجودی بود که الآن میخواستم توضیح بدهم. در جلسات قبل هم بخشی از آن را عرض کردم. الآن در فضایی که تاکسیها هستند و مسافر میبرند، برای خودش یک نظام و هنجاری دارد که قرار نیست در آن هنجار، هر کسی ذهنخوانی کند و تجسس کند که این میخواهد چکار کند. صرف احتمال هم که بیعار است و میآید و از اندک رفتار هر کسی، ممکن است راننده حدس بزند و احتمالهای مختلفی هست. در اینجا قرار نیست بگوییم استناد آمده است. قتل به این راننده استناد ندارد، ولو احتمال قتل داد. تقصیر هم که نکرده است، اما ایجاد خطر کرده است. اگر مسئولیت مطلق بود، باید او را بیاورند و بگویند تو او را بردهای. فرق استناد در اینجا معلوم میشود. در این فضا چرا استناد نیست؟ عرض میکنم چون یک چیز وسیعی است. لذا در جلسه قبل گفتم اگر شما بدانید هوش مصنوعی چطور دارد رشد میکند و چطور تا به حال رشد پیدا کرده، میبینید یک چیز بیمعنا میشود که بگوییم برنامهنویس و ... ضامن است. اصلاً واقعیت میدانی آن، خیلی جلوتر از این فضای تاکسیرانی و این هنجارها جلوتر است. تکهتکه اینها را هر کسی آورده است؛ مثل مونتاژ است. مثلاً ماشینی که به کسی میزند، بگویند بروید ببینید چه کسی ماشین را ساخته است. بعد میبینید چه کسی آن را ساخته است؟ ظاهراً دهها شرکت هر کدام یک قطعه آن را ساختهاند و بعد مونتاژ کردهاند. حالا بگوییم مونتاژکن را بگیریم؟! خب اگر این قطعات نبود که نمیتوانست مونتاژ کند. فقط ماشین را سوار کرده است. هوش مصنوعی الآن به این صورت است. یعنی میلیونها نفر همکار هستند و بخش بخش آن را تهیه و آماده کردهاند، کتابخانههای توابع کاری و الگوریتمهای مختلف را آماده کردهاند. شما میخواهید کدام یک از آنها را بگیرید؟! شما بگویید این مستند به او است! اگر سراغ برنامهنویس بروید، میبینید دارد چکار میکند. خیلی از برنامهنویسها در رده بسیار ضعیفی از مهندسی نرمافزار هستند. از جلوتر یادم هست که میگفتند مهندسهای نرمافزاری که قوی میشوند، اصلاً از این زبانها خوششان نمیآید؛ به خاطر اینکه در مدیریت رَم و حافظه به قدری قوی هستند که میخواهد بیت به بیت آنها زیر دست خودش تنظیم شود. لذا هر نرمافزاری که قدرت بیشتری به مهندس میدهد و نرمافزاری است که بیتها را دستکاری کند. این نرمافزار بیشتر مورد پسند مهندسهای نرمافزار بود. زبانهای خیلی سطح بالا که فقط فکر او را سامان میداد و کارش را درمیبرد، اینها مورد پسند آن مهندسین دقیق نبود. بهخصوص مهندسینی که سر و کارشان بیشتر با سختافزار است. کسانی که میخواهند نرمافزارهای راهاندازهای دستگاههای سختافزار را بنویسند، خیلی علاقه دارند که خودشان بیت به بیت بنویسند؛ چون دست خودش است و هر جور میخواهد حافظه را مدیریت میکند.
میخواستم این را عرض کنم که در بحث استناد، وقتی درست ببینیم در مورد هوش مصنوعی چه چیزی صورت میگیرد، در عرف عقلاء کاری را که یک هوش انجام بدهد، به این برنامهنویسهای مستند نمیکنند. چون زیاد هستند و یک نُرم است.
شاگرد۲: فرض کنید نیروی نظامی کشوری میخواهند پروژه عظیمی برای از بین بردن کشورهای دیگر بسازد و این یک کار خیلی کلانی است که حداقل نزدیک دویست-سیصد هزار نفر باید کار کنند و به همه هم میگوید و یک هدفگذاری میکنند که در سی سال بعد به این سلاح دست پیدا کنیم. همه آنها هم میدانند. لکن هر کدام قرار است یک قسمتی از آن را انجام بدهند. بعد هم به یک دستگاه میرسند و یک کشور دیگر را بهصورت کامل از بین میبرند.
استاد: ببینید اگر اطلس استناد را بهخوبی - به صورت شبه ریاضی - ضابطهمند کردیم، میتوانیم ضمان را تسهیم کنیم. البته من عرض کردم هوش دو جور است. هوش سخت و هوش نرم. آیا استناد میتواند در حیطه هوش سخت بیاید یا نه؟ اگر یادتان باشد فکر نمادین و هوش سیمبولیک بود. یعنی خروجیها دقیق و روشن است. خروجی فازی و محاسباتی و احتمالاتی نبود. «Computational» نبود. در آنجا فرض میگیریم که بتوانیم استناد را به هوش سخت برگردانیم. یعنی ریاضیوار، آن هم نه ریاضیات احتمالاتی، بلکه ریاضیات صریح و دقیق و سخت که خروجی آن روشن است و صفر و یکی است. اگر فرض بگیریم اینطور بشود، به قول شما اگر مثلاً بیست هزار نفر شراکت کردهاند یا صد هزار نفر شراکت کردهاند، خب مانعی ندارد، اگر ریاضیاتی جلو رفتیم، ضمان را تسهیم میکنیم و از حقوق همه آنها برمیداریم و میگوییم این کار را کردهاند. چرا؟ چون ضمان استنادی داریم که فرض گرفتیم به آن صراحت برگشت، به نمادین برگشت، به هوش سخت برگشت. این یک فضا است.
اما اگر آمدیم و گفتیم نه، اساساً ریخت استناد، ریخت سخت نیست - این خودش یک مبنا است که حالا ممکن است انتخاب بکنیم یا نکنیم، اگر فرض گرفتیم که ریختش ریخت سخت نیست و ریختش ریخت نرم است - اینجا است که استناد باید محقق بشود تا بیاید. در بعض از کارهای وسیعی که عدهای انجام دادهاند، اصلاً در این فضا از استناد بیرون میروند. یعنی از فیلتری که میگذارید تا مواردی را خارج کنید، خارج میشوند و «طل» یا «هدر» میشوند. یعنی ضامن نیستند.
شاگرد۲: برای ضعف سیستم حقوقی عقلاء چه مقدار میتوانیم حساب باز کنیم؟ یعنی بر فرض اگر اینطور باشد که بر سخت توزیع نشود، ممکن است بگوییم الآن ابزارش را ندارند. و الا اگر حقوق نفس الامری را نگاه کنیم، ضامن هستند. مثلاً در روایت داریم ظرفی از خون میدهند و میگویند این سهم تو از قتل فلانی است چون فلان چیز را اذاعه کردی و بعد در مجلس سلطان بازگو کردند و سر آن شخص را بریدند. چه مقدار آن به ضعف سیستم حقوقی عقلاء و عدم ضبط آنها برمیگردد؟ ولو از حیث وجدان عقلائی میگوییم که توزیع نمیشود، ولی توزیع از باب عدم ضبط است.
شاگرد۳: ظاهراً در بحث وجدان عقلائی توزیع میشود. مثلاً در قضیه ساخت بمب اتم، دانشمندانی که مشارکت داشتند را تحریم میکنند. ظاهراً یک جمع ده هزار نفری بودهاند. این را مستند میکنند به تکتک افرادی که در آنجا کار کردهاند.
استاد: اینها مثالهای خوبی است. من عرض کردم استناد در عرف عقلاء. اندازهای که من میفهمم، وقتی میگوییم عقلاء این را مستند میکنند، پشتوانه این کلمه استناد، یک حجم انبوهی از ارتکازات عقلائیه است که الآن خودشان نمیفهمند؛ یعنی عقلاء، علم به علم ندارند. اما با آن پشتوانه عظیم از ارتکازیات، میگویند این مستند به آن است. همین مثال خوبی که شما زدید، قبل از اینکه بمب مطرح بشود، دانشمندانی که در کشف قوانین اتم و هسته اتم و نیروی هسته اتم بهعنوان یکی از نیروهای چهارگانه، کار علمی کردهاند، آیا آنها را هم تحریم میکنند؟! نمیکنند. چرا؟ به خاطر اینکه عرف عقلاء، بمب اتم را به آنها مستند نمیکنند. ولی اگر مسئولیت بر اساس صرفِ ایجاد باشد، خب ایجاد کرده است. استناد برای خودش یک عنصری است و در اینجا نیاوردهاند. استناد یک پشتوانه عظیمی دارد و خروجی آن نزد عقلاء در خیلی از موارد روشن است. یعنی تا به عرف عقلاء میگوییم، برخی میخندند. اما اگر مسئولیت مطلق درست بود، نباید بخندند و نباید بگویند این چه ربطی به آن دارد؟! در عین حال که ایجاد کرده است، ولی آن را مستند نمیدانند.
بنابراین ما میخواهیم ببینیم - این چیزی که عرض کردم از حیث تطبیقی در این کتاب نیامده است، اگر شما پیدا کردید برای ما ارسال کنید - آیا کسانی که کار میکنند، این عرض امروز من را جلا دادهاند؟ که نه مطلق است و نه مسئولیت قوی است و نه تقصیر است. اصلاً عنصر اصلی برای ضمان حکمی، استناد است. استناد برای خودش یک چیزی است. غیر از صرف ایجاد است و غیر از صرف تقصیر است.
ابهام در هستیشناسی و مسأله توزیعپذیری استناد
شاگرد۲: اجازه میفرمایید بعضی زوایای این استناد، روشن شود؟ وقتی میگویید ملاک اصلی، استناد است، باید بحث ملاک ضمان وجود داشته باشد؛ همانطور که وقتی خواستید به ملاک بودن تقصیر اشکال کنید، مثال شخص خواب را زدید که پایش به ظرف خورده. این استناد، آیا در بستر عرف منظور است؟ در بستر عرف وقتی استناد را مطرح کنند، خیلی وسیع است؛ یعنی اگر یک رعد و برق بزند و کسی را بکشد، لزوماً شعور و درک را لازم نمیدانند. مقصودتان از استناد، حتماً استنادی است که در فضای حقوق است که در این صورت باید یک سری قیودی بیاوریم.
استاد: روایتی که خواندید «محجمة دم» بود. اندازه یک ظرف حجامت میآورند و میگویند این سهم تو است. هر وقت حاج آقا این روایت را میفرمودند در چشمشان اشک میآمد. کامل یادم هست. میفرمودند میآیند و میگویند در نامه عمل تو قتل هست. در روایت دارد که به اندازه ظرف حجامت میآورند و میگویند سهم تو در قتل فلانی این است. بیان حاج آقا این بود که میگویند در نامه عمل تو این است که فلانی را کشتهای. اینجا بود که اشک در چشمانشان میآمد؛ میگوید خدایا من در عمرم یک مگس را نکشته ام! من کسی را کشتهام؟! فرمودند بله. در فلان مجلس این جمله را گفتی و شخصی شنید. همینطور او به دیگری گفت و با ده واسطه به گوش قاتل رسید و قاتل او را کشت. تو در این مجلس، ضروری بود این جمله را بگویی؟! چرا گفتی؟! خب این ایجاد کرده است.
خُب بحثی که ما در فضای حقوق و فقه داریم، این نیست. این درست است که در دستگاه خداوند «فَمَن يَعۡمَلۡ مِثۡقَالَ ذَرَّةٍ خَيۡرا يَرَهُ»[1] خیلی اوسع از این چیزهایی است که ما به آن فکر کنیم. بعضی از کسانی که از کما برگشتهاند و توضیحاتی دادهاند، شاید باید پنجاه سال روی توضیح یکی از اینها هم کار تحقیقی حقوقی و هم کار تحقیقی فلسفی-معرفتی انجام بدهند. ده دقیقه برای شما توضیح میدهد که من چه چیزی دیدهام. آدم این را میبیند، میبیند پنجاه سال آینده باید کار علمی کنند تا بگویند این میخواهد چه بگوید. دستگاه الهی به این صورت است. یک آیه هست، کافی است؛ باید بالای مدرسه مسئولیت مطلق و ایجادی بنویسند: «بَدَا لَهُم مِّنَ ٱللَّهِ مَا لَمۡ يَكُونُواْ يَحۡتَسِبُونَ»[2]. سبحان الله! اصلاً بعضی از چیزها باور انسان نمیشود. احتمالش را نمیدهد که اینها بعداً بگویند تو اینها را کشتهای! آن هم با ده واسطه! خونش را هم بیاورند و بدهند! توزیعپذیری را ببینید! بیاید آن را بدهند و بگویند سهم تو از خون او این است.
شاگرد۲: اینکه میفرمایید در میان عقلاء نیست، اگر به جایی رسید که بتوانند توزیعپذیری داشته باشند… .
استاد: این بحثی که میفرمایید، امروزه هم هست. آیا در متن هستیشناسی ابهام داریم یا نه؟ در مباحثه پارادوکس خرمن هم فی الجمله صحبتش شد. آیا فازی بودن، فقط مربوط به انسان است؟ حساب احتمالات ریاضی یا کوانتوم کلاسیک (مکتب کپنهاگ). آیا مکتب کپنهاگ در کوانتوم مقبول است؟ یعنی در متن و اقعیت ابهام داریم، نه اینکه در متن واقعیت وضوح است و ما انسانها نمیدانیم. این، دو مبنا است. مکرر هم گفتهام که قرن بیستم، بالاترین قرن برای آینده علم است. بین دو نابغه علم مناظره شده است. این مناظره در تاریخ علم میماند؛ وقتی ملحدین و آتئیستهای قرن بیستم از بحثهای علمی و شرائط علمی آن زمان سوء استفاده میکردند، دو نفر از بزرگترین نوابغ علمی قرن بیستم، ادبیات حاکم بر مناظرهشان، الهی است! زیاد این را گفتهام. مناظره بین اینیشتین و بور است. بور ایدئولوگ فیزیک کوانتوم است، اینیشتین ایدئولوگ نسبیت و فیزیک مقابل کوانتوم است. اینشتین گفت خداوند در اداره عالم که تاس نمیاندازد. تاس انداختن یعنی فعلاً نمیدانیم چه خبر است، یک تاس میاندازیم تا ببینیم از دست راست برویم یا از دست چپ برویم؛ تاس، هر کدام را تعیین کرد. او این را گفت. ببینید چه بیان محکمی است! خدا که در اداره عالم تاس نمیاندازد، آنطور که شما کوانتومیها میگویید. به چه چیزی جواب داد؟ جواب نداد که خدا نیست و … . یک جوابی داد که من همیشه میگویم جمع بین اینها چقدر جای تأمل دارد. گفت بس کن! بیخود تند نرو. تو نمیتوانی به خدا دستور بدهی که چطور عالم را اداره کند. خدا تاس نمیاندازد، اما تو هم نمیتوانی بگویی هر چه من میگویم و طبق آن ضابطه تعیینی من است، بلکه «یفعل ما یشاء». «مَا عُبِدَ اَللَّهُ بِشَيْءٍ مِثْلِ اَلْبَدَاءِ»[3]. چرا «بدا لله» را میگوییم؟! «وَقَالَتِ ٱلۡيَهُودُ يَدُ ٱللَّهِ مَغۡلُولَةٌ»[4]؛ عالم مثل یک ساعتی کوک شده و دارد باز میشود. دست خدا هم بسته است. یا نه، فعال ما یشاء است؟ «غُلَّتۡ أَيۡدِيهِمۡ وَلُعِنُواْ بِمَا قَالُواْۘ بَلۡ يَدَاهُ مَبۡسُوطَتَانِ يُنفِقُ كَيۡفَ يَشَاءُ». ادبیات این مناظره خیلی جالب است. یعنی ادبیات الهی، آن هم آنچه که در معارف اصیل دینی است؛ مبدأ دارد. « أَبَى اَللَّهُ أَنْ يُجْرِيَ اَلْأَشْيَاءَ إِلاَّ بِالْأَسْبَابِ»[5] اما «بدا لله» یعنی «أَبَى اَللَّهُ أَنْ يُجْرِيَ اَلْأَشْيَاءَ إِلاَّ بِالْأَسْبَابِ» را باید با این جمع کنیم. آن استاد در درس اسفار این شعر را زیاد میخواندند که معروف است: «از سببسازیش اندر حیرتم*** وز سببسوزیش سوفسطائیم». «قُلۡنَا يَٰنَارُ كُونِي بَرۡدا وَسَلَٰمًا»[6]. مؤمن هم همینطور است. در روایات دارد که هر چه به او میگویند وضعیت نجوم این است و امروز نحس است، حضرت فرمودند مؤمن که به اینها کار ندارد و توکل میکند و میگوید همه کارها به دست خدا است؛ اقدام میکند به آنچه که باید اقدام کند.
والحمد لله رب العالمین
[1] زلزال 7
[2] الزمر47
[3] الکافي ج۱ ص۱۴۶
[4] المائده64
[5] بصائر الدرجات في فضائل آل محمد علیهم السلام , جلد۱ , صفحه۶
[6] الانبیاء69