تنظیر توضیحناپذیری هوش مصنوعی به پرنده هدهد
{00:45:06}
شاگرد۱: تحلیل خطای ما که هوش واقعی هستیم چیست؟ ما هم این خطاها را میکنیم؛ گاهی ورودیها درست است، ولی خطا میکنیم.
استاد: اتفاقاً چون ریخت شبکههای عصبی را پیاده سازی کردهاند، اگر اینها در آینده پیشرفت کند و پردازشهای عمیق را بتوانند به رده بالای توضیحپذیری دربیاورند، چه بسا خیلی از جاهایی که در ذهنمان اشتباه میکنیم را به همان نحوه انجام دهند. همان چیزی که مرحوم آسیدعلی نجفآبادی میگفتند؛ وقتی به نجف رفته بودند گفته بودند نوشتهجات علمای نجف را برایم بیاورید؛ مبیضّه آن را نیاورید، مسودّهها را بیاورید. این دلالت بر علو علمی آسید علی نجفآبادی دارد؛ عالم بزرگی بودند. استاد اسفار مرحومه بانو مجتهده امین بودند. میگفتند دستنوشتههای علماء را بیاورید تا وقتی در نجف مشرف هستم، استفاده کنم. ولی پاکنویس را نیاورید. چرکنویس را بیاورید که خط زدهاند و برگشتهاند و درست کردهاند. بعد این را میگفتند - جمله خیلی بزرگ آسید علی است - میگفتند من استفادههایی که از خط زدهها میکنم بیش از جاهای دیگرش است. این خیلی حرف بزرگی است. یعنی ایشان به نحوه پیشرفت ذهن نویسنده نگاه میکند که چطور شد که آن را نوشت و بعد برگشت و خط زد؟! چرا خط زد؟! فهمید اشتباه کرده و چرا اول اشتباه کرده بود؟! چطور شد اشتباه کرده بود؟! درک چطور شدن اشتباه و رفتوبرگشت او، یک ذهن لطیف دقیقی میخواهد تا بفهمد. کسی که اینها را بفهمد در فکر خودش قویتر و سلیمتر و از خطا دورتر است. چرا میگویند منطق بخوانید؟ «آلة تعصم مراعاتها الذهن عن الخطا فی الفکر»؛ فکر، منظم میشود.
شاگرد۲: فرمودید اشتباه را در همان گامی که پیش آمده، کشف میکنند، اما نمیدانند که چرا اشتباه شده؟
استاد: نه، اول آموزش عمیق پیش آمد و با آن صحبت میکردند. میدیدند که چیزهایی را میگوید که توهم زده است، ولی نمیدانند چرا. نمیتوانند برگردند و بگویند اینجا سبب شد که او توهم زد و نکته توهم زدن او، مشخص نیست. او که داعیهای ندارد که بخواهد دروغ بگوید. ولی حتی با اطمینان میآید و میگوید مطلب این است.
شاگرد۲: نقطه توهم را کشف میکنند، ولی دلیل آن را نمی فهمند.
استاد: نقطه توهم، کشف نمیشود، چون عمیق است. قوام عمیق به این است که لایههای پردازش، مخفی است. جعبه سیاه، همین است. یادم آمد از کاری که هدهد برای حضرت سلیمان میکرد. حضرت سلیمان نشستند و گفتند: «مَا لِيَ لَآ أَرَى ٱلۡهُدۡهُدَ»[1]؛ هدهد کجا است؟ چرا نمیبینمش؟ «مَا لِيَ لَا أَرَى ٱلۡهُدۡهُدَ أَمۡ كَانَ مِنَ ٱلۡغَآئِبِينَ، لَأُعَذِّبَنَّهُۥ عَذَابا شَدِيدًا أَوۡ لَأَذۡبَحَنَّهُۥ أَوۡ لَيَأۡتِيَنِّي بِسُلۡطَٰن مُّبِين». بعد هدهد آمد و چه گفت؟ «وَجِئۡتُكَ مِن سَبَإِۭ بِنَبَإ يَقِينٍ». خب حضرت سلیمان منطق الطیر را میدانستند؛ «عُلِّمۡنَا مَنطِقَ ٱلطَّيۡرِ»[2]. حضرت سلیمان منطق طیر را میدانستند. چطور شد که بهدنبال هدهد گشتند؟ چکارش داشتند؟ در روایت هست. به نظرم در تفسیر برهان باشد؛ او آب را پیدا میکرد. یکی از چیزهای جالب است؛ حضرت، هدهد را با خود میبردند به این خاطر که زمین و خاک مانع دیدن چشم هدهد نیست. مثلاً با فاصله صد متر و دویست متر، آب زیر خاک را میبیند. در روایت هست که حضرت او را با خودشان میبردند. چون لشکر ایشان بیابانها طی میکرد. هدهد میگفت اینجا را بکَنید و با فاصله پنج متر به آب برسید. نشاندادن نقطه، مهم است که جا را بداند کجاست.
مرحوم سید بحر العلوم رضواناللهعلیه! حاج آقا میفرمودند میخواستند مسجد کوفه را تعمیر کنند، ایشان به وادی السلام، نزدیک قبر حضرت هود و صالح(علیهما السلام) آمد. گفت اینجا را بکَنید. کندند و پایین رفتند؛ سنگهای خیلی عال العال و خوبی از زیر خاک درآمد. گفتند اینها را برای تعمیر مسجد کوفه ببرید. حالا سید چطور میگفت اینجا را بکنید؟ هدهد هم اینطور بود. بعد هم رفت و گفت «إِنِّي وَجَدْتُ امْرَأَةً تَمْلِكُهُمْ…». آنچه که به ذهنم آمد، این بود: هدهد نگاه میکند، در روایت دارد حضرت سلیمان با اینکه پیامبر بودند، [اما به لحاظ عملکرد ظاهری بدن چنین توانی را نداشتند]؛ خب خداوند به هر کسی یک چیزی داده است. آن علوم غیبیه یک چیز است، اما آن عملکرد ظاهری بدن یک نبی، این نیست که زیر خاک، یک چیزی را ببیند. بدن او هم « إِنَّمَا أَنَا۠ بَشَر مِّثۡلُكُمۡ»[3]، و لذا هدهد را به کار میگرفتند. ولو ممکن است از حیث مقام نبوت، بالاترش را هم داشتند. مثل خود آصف بن برخیا؛ با اینکه او وصی حضرت بود، اما او را در آوردن تخت بلقیس به کار گرفتند. الآن حضرت، هدهد را به کار گرفتند و او میگوید اینجا آب است. بدن هدهد که خداوند به این ظرافت آفریده، خدا آن را یک جعبه سیاه آفریده است. یعنی نه خود هدهد خبر دارد که چرا آنجا را میبیند و میگوید آب است، و نه ما میتوانیم بفهمیم -یا حضرت سلیمان به اندازه علمشان- که چه مکانیسمی رخ داده که دارد آب را میبیند. ولی میگوید اینجا آب است و میرویم و میبینیم درست است. نکته، این است. مدل زبانی بزرگ چکار میکند؟ شما چیزی به آن میگویید و درست جواب میدهد. یعنی در صد مورد، یکی توهم میزند. و الّا صدتا جواب خوب داد. چطور دارد؟ یعنی چطور شد به این نتیجه رسید و توضیح داد؟ ما نمیدانیم چطور به این مسیر آمد. «Rule-based» نیست که طبق قاعده رفته باشیم و مسیر را برویم و برگردیم؛ این خبرها نیست. اما میبینیم که درست جواب میدهد. مثل هدهدی که میگوید و میکَنیم و میبینیم آب بود. چطور؟ نمیدانیم.
راجع به همین هدهد دارد؛ ابوحنیفه از حضرت سؤال کرد، چه شد؟ شما میگویید آب را در زیر زمین میبیند؟! حضرت فرمودند چه مشکلی دارد؟ میخواست ایراد بگیرد. گفت چطور آب را صد متر زیر زمین میبیند، اما توری که یک بند انگشت زیر خاک مخفی کردهاند را نمیبیند؟! ما مکرر دیدهایم که هدهد در تور میافتد و صیاد آن را میگیرد. ابوحنیفه گفت: «ظفرت بك»؛ یعنی گویا مچ شما را گرفتم. چطور آب را زیر زمین میبیند، ولی تور صیاد را زیر خاک نمیبیند. حاج آقا میفرمایند: چون این جور حرف زد، حضرت کنیه او را نگفتند و اسم او را گفتند. حضرت فرمودند: «يا نعمان، أما علمت أنّه إذا نزل القدر أغشي البصر»[4]. حضرت به اشکال او این جواب را دادند.
لذا میبینید جایی توهم میزند، ولی نمیدانیم چه شده است. علی ای حال، خیلی مهم است. هوشی هم که اخیراً آمد، اینکه مهم شد و در سختافزار نیاز کمی داشت، همین « Deepseek» بود. گفتنش آسان است؛ 671 بیلیارد پارامتر دخیل در این است که به شما جواب بدهد. مدل زبانی بزرگ است. اما چرا سختافزار کمتری نسبت به هوشهای شرکتهای آمریکایی با بودجههای بالا استفاده کردند؟ چون وقتی شما درخواست را به آن میدهید، همه را فعال نمیکند و با الگوهایی که ریاضیدانها به آن دادهاند، فقط 67 میلیاردش را فعال میکنند. هر درخواستی که میدهید، 67 میلیارد پارامتر را فعال میکند. 67 تا ششصد و … خیلی است. لذا پردازشش پایین آمد. دیدند در مدل اینها، آن نیازی که به سختافزار هست، خیلی کمتر است و در درخواستهایتان اینقدر نیاز نبود.
والحمد لله رب العالمین
[1] النمل ۲۰
[2] النمل ۱۶
[3] الکهف ۱۱۰
[4] تفسير کنز الدقائق و بحر الغرائب , جلد۹ , صفحه۵۵۴
بدون نظر