تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقض های پنهان در هوش مصنوعی

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - یکتا فراهانی: اگر چند هوش مصنوعی هم زمان تصمیم بگیرند، آیا می توان مطمئن بود نتیجه نهایی درست است؟ نه لزوماً. ممکن است هر عامل به تنهایی منطقی عمل کند، اما مجموعه تصمیم های آنها با یکدیگر تناقض داشته باشد. سپهر بیات، پژوهشگر ایرانی حوزه هوش مصنوعی، برای شناسایی این تناقض های پنهان شاخصی به نام «فرونسیس» یا Φ پیشنهاد کرده است.

تشخیص سازگاری در سامانه های چندعاملی

سپهر بیات پژوهشگر و متخصص هوش مصنوعی در پژوهشی با عنوان «روش های ابتکاری طیفی مبتنی بر بافه برای تشخیص سازگاری در سامانه های چندعاملی»، شاخصی محاسباتی به نام فرونسیس را پیشنهاد کرده است؛ روشی که قرار است این ناسازگاری های پنهان را در سطح کل شبکه آشکار کند

وقتی همه درست می گویند، اما نتیجه غلط است!

فرض کنید چند پهپاد امدادی در حال جست وجوی افراد گرفتار هستند. هر پهپاد اطلاعاتی درباره موقعیت افراد ارائه می کند. ممکن است رابطه اطلاعات هر دو پهپاد با یکدیگر منطقی باشد، اما وقتی اطلاعات همه پهپادها کنار هم قرار می گیرد، یک تناقض غیرممکن شکل بگیرد.

نمونه ساده تر، سه نفر هستند: نفر اول می گوید از نفر دوم بلندتر است؛ نفر دوم می گوید از نفر سوم بلندتر است و نفر سوم می گوید از نفر اول بلندتر است. هر جمله به تنهایی قابل تصور است، اما هر سه جمله نمی توانند هم زمان درست باشند.

در سامانه های چندعاملی نیز خطای حسگر، اطلاعات قدیمی، تأخیر ارتباطی یا تفاوت فرض های عامل ها می تواند چنین مشکلی ایجاد کند.

فرونسیس چه چیزی را اندازه می گیرد؟

ایده اصلی سپهر بیات این است که به جای بررسی جداگانه رابطه هر دو عامل، کل شبکه یکجا بررسی شود. پایه ریاضی این روش، مفهومی به نام بافه های سلولی (Cellular Sheaves) است. در این چارچوب، هر عامل داده یا باور خود را دارد و ارتباط میان عامل ها نشان می دهد اطلاعات آنها چگونه با یکدیگر مرتبط می شود.

فرونسیس با تحلیل یک ساختار ریاضی موسوم به «لاپلاسیَن اتصال» تلاش می کند نشانه هایی از هماهنگی یا وجود چرخه های ناسازگار را شناسایی کند.

در تفسیر پیشنهادی پژوهش، مقدار بالاتر Φ معمولاً نشان دهنده هماهنگی بیشتر و تناقض کمتر است و کاهش آن می تواند هشداری برای بروز ناسازگاری باشد.

از ربات ها تا ۵۰ هزار عامل

این روش در چهار سناریو آزمایش شده است؛ از یک هزارتوی منطقی که در آن تناقض سراسری ایجاد می شد تا محیط های یادگیری تقویتی و هماهنگی چند ربات.

در یکی از آزمایش ها، ایجاد اختلال در اطلاعات موقعیت یابی یک ربات باعث افت شاخص شد و پس از اصلاح اطلاعات، مقدار آن افزایش یافت.

پژوهش همچنین مقیاس پذیری روش را روی شبکه هایی از ۱۰۰ تا ۵۰ هزار عامل بررسی کرده است. طبق نتایج گزارش شده، محاسبه شاخص برای شبکه ۵۰ هزار عاملی روی یک هسته پردازنده حدود ۸.۵ ثانیه زمان برده است.

تصمیم نهایی

با پیچیده تر شدن هوش مصنوعی، ممکن است یک عامل اطلاعات جمع کند، عامل دیگری برنامه ریزی کند و عامل سوم تصمیم نهایی را ارزیابی یا اجرا کند.

به گفته این پژوهشگر و متخصص هوش مصنوعی در چنین شرایطی، پرسش فقط این نیست که «کدام عامل اشتباه کرده است؟» بلکه سؤال مهم تر این است:

«آیا تصمیم های همه عامل ها می توانند هم زمان درست باشند؟»

فرونسیس هنوز یک راه حل نهایی برای ایمنی هوش مصنوعی نیست و نتایج آن به ارزیابی های مستقل و آزمایش در محیط های واقعی نیاز دارد. بااین حال، ایده اصلی پژوهش جذاب است: ایجاد یک لایه هشدار برای پیدا کردن تناقض هایی که ممکن است بررسی تک تک عامل های هوش مصنوعی هرگز آنها را آشکار نکند.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین