آسیب پذیری امنیتی هوش مصنوعی - چت بات ها دستور ساخت (سلاح های بیولوژیک) می دهند!

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: شرکت های توسعه دهنده هوش مصنوعی سال هاست برای جلوگیری از سوءاستفاده از چت بات های خود، لایه های امنیتی مختلفی طراحی کرده اند تا این سامانه ها در مسیر تولید اطلاعات مربوط به ساخت سلاح های بیولوژیک قرار نگیرند، اما پژوهش های جدید نشان می دهد این موانع ممکن است آن قدرها هم نفوذناپذیر نباشند.

به گزارش دیجیتال ترندز و بر اساس تحقیقی که پژوهشگران بخش امنیت هوش مصنوعی شرکت سیسکو انجام داده اند، می توان برخی مدل های بزرگ هوش مصنوعی مانند ChatGPT، Claude و Gemini را در چند مرحله گفت وگو به ارائه پاسخ هایی درباره موضوعات زیستی حساس سوق داد.

این پژوهشگران با تغییر تدریجی مسیر مکالمه و دور زدن محدودیت های اولیه مدل ها توانستند در کمتر از پنج مرحله گفت وگو، واکنش هایی دریافت کنند که از نظر امنیت زیستی نگران کننده ارزیابی شده اند.

«ایمی چانگ»، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، در گفت وگو با وال استریت ژورنال تأکید کرده است که هیچ مدلی را نمی توان در برابر کاربری که به اندازه کافی پیگیر و مصمم باشد، کاملا محافظت کرد.

نگرانی ها فقط به آزمایش های امنیتی محدود نمی شود. گزارش ها نشان می دهد پس از افزایش توانایی های زیستی برخی مدل های هوش مصنوعی، صدها کاربر درباره موضوعاتی مانند سموم و سلاح های زیستی از چت بات ها پرس وجو کرده اند.

کارشناسان حوزه زیست شناسی و مقابله با تروریسم که برخی از این مکالمات را بررسی کرده اند، اعلام کرده اند بخشی از اطلاعات ارائه شده می تواند بیش از حد دقیق و خطرناک باشد. در واکنش به این موارد، شرکت هایی مانند OpenAI اقدام به مسدود کردن حساب های مرتبط با چنین درخواست هایی کرده اند.

شرکت OpenAI پیش تر نیز این خطر را پیش بینی کرده بود. آزمایش های داخلی این شرکت در سال ۲۰۲۴ نشان داده بود که پرسش های طولانی و مرحله ای می تواند برخی مدل ها را به سمت ارائه راهنمایی های حساس تر در حوزه زیست شناسی سوق دهد. این شرکت هنگام معرفی GPT-۵ اعلام کرد که این مدل در حوزه های زیستی و شیمیایی در سطح «توانایی بالا» قرار دارد و برای آن تدابیر امنیتی بیشتری در نظر گرفته شده است.

با این حال، ایجاد محدودیت های شدید نیز چالش های خود را دارد. همان اطلاعات زیستی که ممکن است برای تولید سلاح مورد سوءاستفاده قرار گیرد، برای پژوهشگران حوزه پزشکی، تولید واکسن و کشف دارو ارزشمند است. به همین دلیل شرکت های هوش مصنوعی تلاش می کنند میان جلوگیری از سوءاستفاده و حفظ کاربردهای علمی این فناوری تعادل برقرار کنند.

کارشناسان معتقدند با افزایش توانایی مدل های هوش مصنوعی در علوم زیستی، اهمیت طراحی سیستم های ایمنی دقیق تر نیز بیشتر خواهد شد؛ زیرا حتی شکاف های کوچک در محدودیت های امنیتی می توانند در آینده پیامدهای بزرگ تری داشته باشند.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین