هوش مصنوعی قابل اعتماد است؟

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - در این برنامه، دکتر «محمدحسین شفیع آبادی»، استاد دانشگاه و کارشناس هوش مصنوعی، درباره دستکاری اطلاعات، سوگیری الگوریتم ها، اعتماد به پاسخ های هوش مصنوعی و ضرورت افزایش سواد دیجیتال توضیح داد.

محور اصلی گفت وگو، گزارشی منتسب به رویترز درباره تلاش برخی نامزدهای انتخاباتی آمریکا برای تأثیرگذاری بر پاسخ چت بات ها بود. انتشار گسترده محتوای هدفمند در اینترنت می تواند پاسخ ابزارهایی مانند چت جی پی تی، جمینای و کلود را تحت تأثیر قرار دهد. شفیع آبادی دو مسیر اصلی برای جهت دهی به پاسخ های هوش مصنوعی معرفی کرد:

دستکاری داده ها: انتشار گسترده اطلاعات نادرست یا جهت دار در منابع اینترنتی.

دستکاری مدل ها: تغییر ساختار یا آموزش مدل های هوش مصنوعی برای تولید پاسخ های مطلوب.

روش نخست ساده تر و در دسترس تر است؛ هرچند مدل های جدیدتر تلاش می کنند تأثیر تکرار مصنوعی اطلاعات را کاهش دهند.

• همچنان احتمال تولید پاسخ های نادرست، منابع غیرواقعی و تحلیل های سوگیرانه وجود دارد.
• پاسخ متفاوت چت بات ها به پرسش های یکسان می تواند ناشی از تفاوت در مدل ها، منابع اطلاعاتی و شیوه پردازش داده ها باشد.

• بررسی منابع و ارجاعات ارائه شده توسط هوش مصنوعی.
• مقایسه پاسخ ها با منابع معتبر و مستقل.
• پرهیز از اعتماد مطلق به یک چت بات.
• استفاده از هوش مصنوعی به عنوان دستیار، نه جایگزین دانش تخصصی.

در بخشی از برنامه، به آماری مبنی بر مراجعه حدود ۲۵ درصد واجدان شرایط رأی دهی آمریکا به چت بات ها برای کسب اطلاعات انتخاباتی اشاره شد. شفیع آبادی پیش بینی کرد که این روند گسترش یابد و در آینده، عامل های هوشمند بتوانند نقش فعال تری در تبلیغات سیاسی ایفا کنند؛ ابزارهایی که با میلیون ها کاربر ارتباط برقرار می کنند و ممکن است در مقاطع انتخاباتی به سمت حمایت از نامزد مشخصی جهت دهی شوند.

بخش دیگری از گفت وگو به توانایی عامل های هوشمند در اجرای عملیات پیچیده سایبری اختصاص یافت. به گفته کارشناس برنامه، فعالیت مستمر و قدرت پردازشی این ابزارها می تواند تهدیدهای امنیتی تازه ای ایجاد کند. جمع بندی برنامه بر یک ضرورت اساسی تأکید داشت: توسعه سواد هوش مصنوعی در جامعه. شفیع آبادی خواستار برنامه ریزی نهادهای آموزشی و حاکمیتی برای آموزش عمومی شد و تأکید کرد که کاربران باید ضمن بهره گیری از قابلیت های هوش مصنوعی، نگاه انتقادی خود را حفظ کنند و صحت اطلاعات دریافتی را بسنجند.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین