درخواست جالب مدیرعامل آنتروپیک از غول های فناوری - ترمز هوش مصنوعی را بکشید!

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: رقابت شرکت های بزرگ برای ساخت مدل های قدرتمندتر هوش مصنوعی، با هشدار یکی از مدیران سرشناس این صنعت درباره پیامدهای سرعت بالای این رقابت روبه رو شده است. داریو آمودی، مدیرعامل Anthropic، معتقد است شرکت های فعال در حوزه هوش مصنوعی باید عمدا از سرعت پیشرفت خود بکاهند تا فرصت بیشتری برای مقابله با خطرات احتمالی این فناوری ایجاد شود.

به گزارش رویترز، آمودی در یادداشتی تازه اعلام کرده است که شرکت های هوش مصنوعی باید سرعت افزایش توانایی مدل های خود را کاهش دهند. او تأکید کرده که حتی با کاهش سرعت توسعه، پیشرفت این فناوری همچنان بسیار سریع به نظر خواهد رسید و زمان به دست آمده باید برای آماده شدن در برابر خطرات احتمالی مورد استفاده قرار گیرد.

این اظهارات در شرایطی مطرح شده که توانایی مدل های هوش مصنوعی در انجام وظایف پیچیده، از برنامه نویسی و پژوهش علمی گرفته تا حل مسائل ریاضی، با سرعت زیادی در حال افزایش است. آمودی و دیگر منتقدان روند فعلی نگرانند که قابلیت های مدل ها سریع تر از سازوکارهای نظارتی و ایمنی پیشرفت کند.

مدیرعامل Anthropic برای مدیریت این وضعیت یک چارچوب سه مرحله ای پیشنهاد کرده که هدف آن ایجاد هماهنگی بیشتر میان شرکت های پیشرو و اختصاص زمان کافی برای ارزیابی خطرات مدل های جدید است. به گفته او، مسئله فقط سرعت پیشرفت فناوری نیست، بلکه فاصله ای است که ممکن است میان رشد توانایی های هوش مصنوعی و آمادگی انسان برای کنترل پیامدهای آن ایجاد شود.

آمودی پیش تر نیز درباره خطرات هوش مصنوعی پیشرفته هشدار داده بود و Anthropic از شرکت هایی است که بر ارزیابی ایمنی مدل ها تأکید بیشتری داشته اند. در روزهای اخیر، بحث درباره احتمال رفتارهای خودمختار و پیش بینی نشده عامل های هوش مصنوعی نیز شدت گرفته است.

با این حال، کاهش سرعت توسعه برای شرکت هایی که در رقابتی میلیارددلاری برای ساخت قدرتمندترین مدل های جهان حضور دارند، تصمیم ساده ای نیست. رویترز گزارش داده است که میان مدیران شرکت های بزرگ هوش مصنوعی درباره زمان و شیوه کاهش سرعت توسعه، اختلاف وجود دارد و رقابت شدید میان Anthropic و OpenAI نیز یکی از موانع اصلی هماهنگی در این زمینه محسوب می شود.

درخواست آمودی در نهایت یک پرسش اساسی را پررنگ تر کرده است: آیا صنعت هوش مصنوعی می تواند پیش از رسیدن مدل ها به قابلیت های بسیار پیشرفته، سازوکارهای لازم برای کنترل آنها را نیز ایجاد کند؟

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین