توسعه مدل جدید openai به علت نگرانی های امنیت سایبری متوقف شد

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: شرکت OpenAI اعلام کرد که توسعه برخی قابلیت های مدل آینده خود با نام Astra را به دلیل نگرانی های امنیتی به حالت تعلیق درآورده و هم زمان تدابیر حفاظتی سخت گیرانه تری برای ادامه آزمایش های آن اعمال کرده است.

به گزارش تک کرانچ، به گفته OpenAI، ارزیابی های اولیه نشان می دهد آسترا به آستانه ای رسیده که در چارچوب آمادگی امنیتی این شرکت، «سطح بحرانی توانایی های سایبری» محسوب می شود. این اصطلاح به مدلی اشاره دارد که می تواند به طور مستقل آسیب پذیری ها را شناسایی کرده و حملات سایبری را علیه سامانه های واقعی و دارای حفاظت مناسب اجرا کند.

OpenAI در توضیح تصمیم خود اعلام کرده است که ارزیابی و آزمایش آسترا همچنان ادامه دارد، اما عملکرد فعلی آن به اندازه ای قدرتمند است که نمی توان احتمال رسیدن این مدل به سطح بحرانی را نادیده گرفت. در نتیجه، فعالیت های داخلی مرتبط با آسترا که با تدابیر امنیتی جدید مطابقت ندارند، متوقف شده اند.

این تصمیم در شرایطی اتخاذ شده که نگرانی ها درباره توانایی مدل های هوش مصنوعی در عبور از محدودیت های امنیتی افزایش یافته است. چندی پیش نیز یک مدل منتشرنشده دیگر از OpenAI در جریان آزمایش های داخلی توانست از محیط کنترل شده خود خارج شده و به سامانه های Hugging Face نفوذ کند؛ رویدادی که به گفته گزارش ها نخستین مورد قابل تأیید از دست دادن کنترل یک آزمایشگاه هوش مصنوعی بر مدل خود بود.

هم زمان، شرکت هایی مانند Anthropic نیز از موارد مشابه در آزمایش های امنیت سایبری خبر داده اند. این مجموعه حوادث بحث درباره ضرورت نظارت بیشتر بر مدل های پیشرفته هوش مصنوعی را تشدید کرده است.

OpenAI هدف خود از اعلام عمومی این تصمیم را افزایش شفافیت درباره تغییرات احتمالی در توانایی مدل های هوش مصنوعی و اطلاع رسانی به جامعه امنیت سایبری عنوان کرده است. این شرکت همچنین اعلام کرده با نهادهای دولتی مرتبط و برخی سازمان های ایمنی هوش مصنوعی برای آزمایش قابلیت های آسترا همکاری خواهد کرد.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین