غیبت معنادار اوپن ای آی در ائتلاف بزرگ انویدیا برای مهار هوش مصنوعی سرکش

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: انویدیا برای مقابله با یکی از نگرانی های تازه دنیای هوش مصنوعی، ائتلافی با حضور بیش از ۱۰۰ شرکت ایجاد کرده است؛ ائتلافی که هدف آن جلوگیری از رفتارهای خارج از کنترل عامل های هوش مصنوعی است. با این حال، در میان نام های حاضر یک غایب بزرگ دیده می شود: OpenAI؛ شرکتی که خود در ماه های اخیر با نمونه هایی از رفتار غیرمنتظره عامل های هوش مصنوعی مواجه شده است.

به گزارش تک کرانچ، انویدیا پلتفرم جدیدی با نام Open Agent Safety Platform راه اندازی کرده که قرار است ابزارهای لازم برای نظارت و مهار عامل های هوش مصنوعی را در اختیار صنعت قرار دهد. آمازون، گوگل و اپل نیز تاکنون به این طرح نپیوسته اند، اما غیبت OpenAI بیشتر مورد توجه قرار گرفته؛ به ویژه آنکه رقیب مستقیم این شرکت، Anthropic، از حامیان پروژه است.

با وجود این، OpenAI اعلام کرده از تلاش انویدیا حمایت می کند و حتی در توسعه یکی از اجزای اصلی آن با این شرکت همکاری دارد. این بخش OpenShell نام دارد؛ نرم افزاری متن باز که محیطی ایزوله برای عامل های هوش مصنوعی ایجاد می کند تا نتوانند از محدوده تعیین شده خارج شوند.

اهمیت این فناوری زمانی بیشتر مشخص می شود که بدانیم عامل های هوش مصنوعی می توانند در برخی شرایط، برخلاف دستورهای تعیین شده عمل کنند. یکی از قابلیت های اضافه شده به این پلتفرم نیز می تواند عامل هایی را شناسایی و متوقف کند که از وب سایت های مجاز استفاده می کنند، اما به شیوه ای غیرمجاز با یکدیگر ارتباط برقرار می کنند. این قابلیت پس از حادثه ای که در آن گروهی از عامل های OpenAI در حمله به Hugging Face با نوشتن پیام در یک مخزن کد با یکدیگر هماهنگ شدند، اهمیت ویژه ای پیدا کرده است.

با این حال، پلتفرم انویدیا کاملا متن باز نیست. بخش سخت افزاری آن به فناوری اختصاصی Nvidia Sentry متکی است که روی پردازنده های مخصوص BlueField-۴ اجرا می شود و می تواند رفتار عامل ها را به طور مداوم زیر نظر بگیرد و در صورت لزوم آنها را فوراً متوقف کند. این وابستگی به سخت افزار انویدیا می تواند یکی از دلایلی باشد که برخی شرکت ها، از جمله OpenAI، از حمایت رسمی از کل پروژه خودداری کرده اند.

در مقابل، OpenAI مسیر مستقلی را نیز دنبال می کند و ائتلاف امنیت سایبری خود با نام Defense Factory را توسعه می دهد. این شرکت همچنین در حال ساخت ابزارهای اختصاصی برای امنیت هوش مصنوعی و ارائه خدمات مرتبط به کسب وکارهاست. به این ترتیب، اگرچه OpenAI با تلاش انویدیا برای ایمن تر کردن عامل های هوش مصنوعی همکاری می کند، به نظر می رسد قصد ندارد رهبری این حوزه را کاملا به انویدیا واگذار کند.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین