مسأله استناد در هوش مصنوعی؛ کشف حیثیات

قسمت دوم، تحلیل آن چیزهایی بود که می‌خواهد در این پایه به اصطلاح ما ظهور کند. یکی هم استناد بود که فرمودید حل نشده. مثال‌هایی که برای استناد در ذهنم هست را عرض می‌کنم تا به تحلیل آن‌ها برگردیم. بعضی از موارد استناد هست که عرفاً ذهن ما سراغ آن‌ها نمی‌رود. چرا نمی‌رود؟ تحلیل می‌خواهد. الآن به ذهن شریف شما می‌آید که اگر یک مهندسی، برنامه هوش مصنوعی را نوشته، بعداً خطایی از این هوش سر زد، حتی کاری کرد که خودش یاد گرفته و با ترتیب مسائل خودش و با یادگیری، کاری را انجام داد، می‌گویید مستند به مهندسی می‌شود که این را نوشته. چرا؟ چون یک انسانی آن اول دخالت کرده. چون یک انسانی اول این را نوشته و برنامه‌اش را تدوین کرده، حالا خودش راه افتاده ولو با یادگیری ماشین چیزهایی را یادگرفته باشد، اگر کاری انجام بدهد، به آن مهندس برمی‌گردیم و یقه او را می‌گیریم و می‌گوییم تو این کار را کرده‌ای.

من بعضی از مثال‌ها را عرض می‌کنم، تا ببینیم تمثیل مع الفارق است یا نه؟ مثلاً خیلی وقت‌ها می‌بینیم که می‌گویند فلانی را برق گرفت. تا حالا به ذهن ما آمده که وقتی او را برق گرفته، باید یقه مهندسی را بگیریم که مثلاً ژنراتور را نصب کرده یا حتی فن ژنراتور را مهندسی کرده و ژنراتور را اختراع کرده و برق را آورده؟ این به ذهن ما آمده یا نه؟ چرا نیامده؟ و حال آن‌که یک انسانی سبب شده که این ژنراتور پدید بیاید؛ آن را مهندسی کرده و اختراع کرده! حالا الآن هم او را برق گرفته. حتی گاهی اصلاً تقصیری هم ندارد ولی شرائط طوری می‌شود که او را برق می‌گیرد. چرا به ذهن ما نیامده؟! می‌خواهم تفاوت آن را عرض کنم.

شاگرد4: همان ابتدا که برق را تولید می‌کند، قابلیت کنترل در آن هست. فرض ما این است که هوش می‌سازیم که می‌خواهد از کنترل خارج شود. وقتی آموزش را در اختیار خودش گذاشتیم، خب مهندس مقصر است.

استاد: یک مثال دیگر عرض می‌کنم؛ مخترعین و مهندسینی هستند که دستگاه اتوماتیک درست می‌کنند. اگر یک دستگاه اتومات عمل‌کرد و کسی را برق گرفت، شما می‌گویید اینجا مهندسی چیزی را درست کرد که اختیارش دست خودش است و اتومات است؟! یقه او را می‌گیرید و بگویید چرا یک دستگاه اتومات درست کردی که سرجایش بدون این‌که تو آنجا حاضر باشی و نگذاری عمل کند، اما خودش عمل‌کرد؟!

شاگرد4: این قابل پیش‌بینی است. تمایز هوش مصنوعی با همه این‌ها، این است که دارند ادعا می‌کنند که قابل پیش‌بینی نیست.

استاد: خب آن‌که انواعی دارد؛ هوش نظارت شده و … . اتفاقاً بحث ما سر نظارت نشده و بدترین فرضش است؛ هوش مصنوعی نظارت نشده. باز یک مثال دیگر عرض می‌کنم تا روی ارتکاز برویم ببینیم چطور است. شما به یک جوانی تیراندازی یاد می‌دهید، دو ماه بعد او قتل عمد می‌کند؛ کسی یقه معلم تیراندازی را می‌گیرد یا نه؟

شاگرد4: چون خود آن شخص، استقلال دارد، نه.

استاد: استقلال دارد؛ شما به او یاد دادید و او رفت؛ خودش هر کاری می‌خواهد می‌کند.

شاگرد4: شرعاً خود او مکلف است و خودش قابلیت استناد دارد؛ به‌خاطر اختیاری که از جانب شارع به او داده شده. ولی اینجا در هوش مصنوعی اول الکلام است که آیا به او استناد بدهیم و آیا اصلاً قابلیت تکلیف دارد یا ندارد؟

استاد: ما باید میزان را به دست بیاوریم. او خودش تکلیف دارد، ما استقلال را می‌خواهیم یا مکلف بودن را؟

شاگرد4: این‌ها در کنار هم است.

استاد: پس به جوانی یاد داد، بعد همین جوان دیوانه شد و در حال دیوانگی کسی را کشت، آیا یقه معلم را می‌گیرند و بگویند الآن که دیگر تکلیف ندارد؟ مجنون بود و در حال جنون این را انجام داد، لذا شما مقصر هستید. چون یک انسانی که بعداً در دست تو نیست که چکار می‌کند، به او تعلیم تیراندازی دادی و حالا رفت و کسی را کشت. بله، وقتی خودش مکلف بود گوش او را می‌گیری. الآن که در حال دیوانگی انجام داده، گوش چه کسی را بگیریم؟

شاگرد4: ظاهراً ملاک در آنجا حال تعلیم است. در حال تعلیم، باید ببینیم مستقل است و مکلف است یا نه.

شاگرد5: خب احتمال می‌رفت که دیوانه شود!

شاگرد6: تکثیر امثله کار را پیش نمی‌برد.

استاد: اگر حیثیات را پیدا کنیم پیش می‌برد.

شاگرد6: در مثالی که قبلاً از آن استفاده کردید، اگر سگی انسانی را گاز گرفت، همه می‌گویند سگ او را گاز گرفت. اما استناد در فضای حقوقی با نسبت دادن عرفی ممکن است متفاوت باشد. اینجا احدی نمی‌گوید تو گازش گرفتی؛ همه می‌گویند سگ گازش گرفت.  استناد در فضای حقوقی متفاوت است. در مثال اول فرمودید کسی را که برق گرفته آیا یقه مهندس را می‌گیریم؟! حالا فرض کنید دو برابر ولتاژی که باید می‌بود، وصل کرد. اینجا یقه او را می‌گیرند یا نه؟

استاد: همین‌جا ببینید؛ ما سیم‌ها و کابل‌های فشار قوی داریم؛ فشارش هم مهم است در اینکه گاهی انسان حتی اگر به پنج متری آن برسد، جذبش می‌کند و او را می‌کشد. خب آیا ما می‌گوییم چرا کابل فشار قوی را در اینجا گذاشته‌اید؟!

شاگرد6: در همین مثال در جای عبور و مرور زیاد که چنین چیزی را نمی‌گذارند. تدابیری را انجام می‌دهند؛ مثلاً تابلو می‌زنند و دیوار می‌کشند. اگر آن شخص، این کار را انجام نداده باشد، حتماً یقه او را می‌گیرند. عرض من این است که استناد در فضای حقوقی با استناد عرفی می‌تواند متفاوت باشد. در مثال سگ، می‌گویند کار سگ است و نمی‌گویند صاحب آن گاز گرفت، اما استناد را در فضای حقوق، می‌گویند به صاحبش است.

استاد: ما به‌دنبال استناد هستیم. شما می‌فرمایید استناد در فضای حقوقی متفاوت است، بسیار خب؛ بحثی که در جواهر در مورد تسبیب و مباشرت هست، مربوط به همین‌ها است. همان جا وقتی سگ گاز می‌گیرد، به‌طور مطلق می‌گویید استناد حقوقی بر ضمان صاحب سگ است؟!

شاگرد6: بستگی دارد.

استاد: احسنت. بستگی دارد. پس استناد حقوقی هم مطلق نیست و جا دارد. الآن چرا در مورد این مهندس نرم‌افزار، نمی‌گویید بستگی دارد؟! اینجا می‌گویید نه، این مهندس این کار را کرده! اگر بستگی دارد، در اینجا هم بستگی دارد.

شاگرد6: کجا نمی‌گوییم بستگی دارد؟

استاد: در مهندس هوش مصنوعی.

شاگرد6: همانجا هم هست؛ در فضای حقوقی بستگی دارد.

استاد: اگر بستگی دارد، فعلاً خوب است. شما این بستگی داشتن را قبول دارید؟ بیان ایشان فرق می‌کند. ایشان می‌گویند چون دخالت آن مهندس در شروع این کار است… .

شاگرد4: باید بیشتر جوانب امر باز شود.

استاد: بله، این مثال‌ها برای همین است.

شاگرد4: اصل بر این است که استناد به مهندس دارد. در هوش قوی با بدترین فرض، اصل این است که استناد به سازنده دارد. برای همین عرض کردم که از جهات حقوقی و اخلاقی، می‌گویند نباید ساخته بشود. چون ارتکاز عرف این است که این به آن استناد پیدا می‌کند. یعنی چون نمی‌توانیم به خودش مستند کنیم، از همین حالا برای طراح هوش مصنوعی محدودیت بگذاریم.

شاگرد6: ارتکازشان، در فضای حقوق است که آن هم بستگی دارد. یعنی شخصی هست که با تمام پارامترهای حقوقی، این هوش مصنوعی را طراحی کرده، اما یک اتفاقی افتاده و یک جهش عامی پیدا کرده که به دست یک نفر نبوده؛ اینجا، استناد نمی‌دهند.

شاگرد7: از باب «وَمَا رَمَيۡتَ إِذۡ رَمَيۡتَ وَلَٰكِنَّ ٱللَّهَ رَمَىٰ»[1] یک فعل و انفعالاتی در عالم می‌شود… .

استاد: نگاه توحیدی به افعال، هر چیزی باشد، جای خودش است؛ سنگ و چوب باشد یا رمی انسانی باشد. اما صحبت سر این است که می‌خواهیم بگوییم در فقه، چه کسی مسئول است. نگاه فقهی و ضمان به چه صورت است؟ مثلاً پول دیه را از چه کسی بگیریم؟ یا چه کسی را قصاص کنیم؟ آیا این را قصاص کنیم یا نکنیم؟ موارد قصاصش را هم عرض کردم.

مسأله هوش مصنوعی به‌خصوص در زمان ما، اینجور نیست که یک مهندس این کار را کرده باشد. کل بشر با چقدر فکر کردن، این مطالب را تجمیع کرده‌اند! فناوری‌هایی می‌شود که این‌گونه است. خب در این بین، یک مهندسی هم زیر قراردادهای اخلاقی می‌زند و چون فنش را بلد است، یک کاری می‌کند؛ بعداً خود او می‌میرد و می‌رود، ولی کار او به‌عنوان یک فن ادامه پیدا می‌کند. الآن که این هوش، قتلی انجام می‌دهد، فقیه نباید جواب بدهد؟! بگوید به‌دنبال ورثه کسی بروید که زیر قولش زده؟! چکار باید کنیم؟ یعنی الآن در آموزش ماشینی به جایی رسیده که خودش به‌صورت غیر کنترل شده، آموزش دیده و قتل عمد انجام می‌دهد. یک مراحلی هم طی شده که کسانی که این کارها را کرده‌اند، نیستند و مجهول هستند. ما برای این، چکار کنیم؟ از بیت‌المال بدهیم یا راه دیگری دارد؟ راه دیگری که ما می‌توانیم دیه و حقوق جنایت را استیفا کنیم، بدون این‌که دست ما از اشخاصی که پشت این بودند، کوتاه باشد. ما دنبال این هستیم که بعداً کم نیاوریم. اصل این‌که بگوییم نکنید، مانعی ندارد؛ می‌گوییم این راه را نروید. اما کسی که بعداً رفت، چه؟ مبادی، الآن معدوم هستند.

شاگرد4: اگر استناد معلوم شد، مثل جاهای دیگر می‌شود؛ مثلاً قاتل مرد، این احکامی دارد.

استاد: ورثه‌اش که هستند؛ تسبیب کرده. یعنی الآن در کاری که این‌ها انجام می‌دهند، سراغ ورثه مهندس می‌روند؟!

شاگرد7: سراغ سازنده ربات می‌روند. یعنی اگر او می دانسته چنین برنامه‌هایی در این ربات تعبیه شده، سراغش می‌روند.

استاد: ببینید؛ در برنامه‌نویسی‌ها، هر زبانی برای خودش کتاب‌خانه‌ها دارد و در هر کتاب‌خانه‌ای صدها تابع هست. هر تابع را کسی نوشته، مخصوصاً اگر متن-باز باشد که همه به هم کمک می‌کنند. خب الآن چه کسی را می‌خواهیم بگیریم؟ در پروژه‌های متن-باز اینترنت می‌بینیم یک کتابخانه داریم با تابع‌های آماده که هر کسی بخشی از آن را نوشته و با هم تجمیع کرده‌اند. فقه در اینجا این‌طور نیست که به زانو در بیاید و بگوید برو بگرد! خب به‌دنبال چه کسی بگردیم؟! هزاران نفر دست به دست هم داده‌اند تا این هوش مصنوعی را به‌صورت آموزش غیر کنترل شده، راه انداخته‌اند. اینهایی که عرض می‌کنم را ملاحظه کنید. ما می‌خواهیم بگوییم در این مواردی که الآن محل ابتلای ما است، چکار کنیم؟ یعنی کار را انجام می‌دهد و فرض ما این است که روی آموزش خودش بوده و الآن هم نمی‌توانیم سراغش برویم؛ اصلاً راه پیشرفت حقوقی به‌خاطر جهل ما بسته است.

شاگرد7: یعنی اگر بتوانیم سراغش برویم، بحث عوض می‌شود؟ یا حتی اگر بتوانیم سراغش برویم، نمی‌توانیم استنادش را ثابت کنیم؟

استاد: یعنی چرا استناد به این صورت است؟ به این خاطر که وقتی افراد زیادی معاونت کردند، عقلاء توزیع جنایت بر افراد کثیره را نمی‌پذیرند و سطح استناد پایین می‌آید. یک نفر کرده؟! نه. می‌گوییم یک چیزی است که حاصل کار میلیون ها نفر است؛ می‌دانیم چه کسانی هستند، ولی بگوییم برو از هر کدامشان ده تومان بگیر! ذهن، این استنادی که مبدأ آن، تجمیع یک کار هزاران نفره است را ضعیف می‌داند. آن‌ها هم قصد بدی نداشته‌اند؛ هر کدام یک سهمی داشته‌اند که آخر کار، مونتاژ شده و آخر کار، این برنامه، مونتاژ کار میلیون‌ها نفر است که آمده. فضای ما الآن به این صورت است. اگر شما تمام این برنامه‌نویس‌ها را ببینید، می‌بینید به این صورت است. اوائل، من از رابط‌های برنامه‌نویسی خبر نداشتم؛ می‌دیدم و می‌گفتم چقدر زحمت کشیده‌اند! بعد که رابط‌ها را می‌دیدم، متوجه می‌شدم تک‌تک برنامه‌های این‌ها را دیگران نوشته‌اند؛ به‌عنوان یک مؤلفه هست که او فقط برمی‌دارد و اینجا می‌گذارد و بعد اسم خودش را برنامه‌نویس می‌گذارد. برنامه‌نویس که نیست! او دارد از رابط‌هایی که در کتاب‌خانه‌ها آماده است، استفاده می‌کند. الآن فضای ما به این صورت است. یعنی شما یقه مهندسی را می‌گیرید که او خودش از کار هزاران نفر دیگر استفاده کرده است!

شاگرد6: نسل بعد می‌تواند به نسل قبل استناد بدهد. این فرمایش شما به‌خاطر ضعف بشر است.

استاد: نه، او خودش نمی‌خواهد این کار را بکند. او خودش یک بخش کار را می‌آورد. اصلاً پیشرفت علم به این صورت است. علم که نقطه‌ای نیست. با یک زحمات خیلی زیادی با پشرفت تدریجی، کار روی کار صورت می‌گیرد. نقطه انتهایی این مهندس… .

شاگرد4: اگر همین کار در فضای انسان‌ها و مکلفین اتفاق بیفتد باید چکار کنیم؟

استاد: مثالی که به ذهنم می‌رسد، آموزش تیراندازی است.

شاگرد4: الآن همین کثرت کسانی که فعل به آن‌ها مستند است، اگر در فضای طبیعی اتفاق بیافتد، چکار می‌کنیم؟ همین را می‌توانیم در هوش هم پیاده کنیم.

استاد: مثلاً یک بچه‌ای در سن ده سالگی است، معلم به او تیراندازی یاد می‌دهد. می‌گوییم چرا به یک بچه ده ساله یاد می‌دهی، و حال این‌که نمی‌دانی فردا او یک جانی از کار درمی‌آید یا نه! اگر به او یاد دادی و حال این‌که نمی‌دانی بطون این بچه به چه صورت است، تو مسئول هستی! من گمان نمی‌کنم بگویند چون نمی‌دانی این بچه دو روز دیگر چکار می‌کند، پس اگر کرد، تو مسئول هستی! چون با جهل به این‌که او چه استفاده‌ای از آن می‌کند، به او تعلیم داده‌ای.

من این مثال‌ها به ذهنم آمده بود تا این استناد روشن شود. شما برای آن طرفش مثال بیاورید.

 

والحمد لله رب العالمین

[1] الانفال ۱۷