آنتروپیک از نزدیک شدن هوش مصنوعی به خودبهبودی خبر داد

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: هوش مصنوعی در حال تبدیل شدن به ابزاری برای ساخت نسخه های قدرتمندتر خودش است؛ روندی که می تواند سرعت پیشرفت این فناوری را افزایش دهد، اما هم زمان نگرانی های تازه ای درباره توانایی انسان برای نظارت و کنترل آن ایجاد می کند. شرکت سازنده کلود اکنون می گوید احتمال دارد به آستانه ای نزدیک شده باشد که در آن، هوش مصنوعی شتابی بی سابقه به توسعه مدل های جدید می دهد.

به گزارش تک کرانچ، شرکت آنتروپیک در نسخه اصلاح شده اسناد ثبت عرضه اولیه سهام خود در کمیسیون بورس و اوراق بهادار آمریکا، درباره نزدیک شدن به مرحله ای هشدار داده است که در آن استفاده از هوش مصنوعی برای توسعه مدل های پیشرفته تر می تواند سرعت توسعه این فناوری را به طور چشمگیری افزایش دهد.

این مرحله با اصطلاح «خودبهبودی بازگشتی» (Recursive Self-Improvement) شناخته می شود. در این وضعیت، هوش مصنوعی به اندازه ای در توسعه و آموزش مدل ها توانمند می شود که بتواند به بهبود نسخه های بعدی خود کمک کند و در نتیجه، روند پیشرفت فناوری شتاب بگیرد.

آنتروپیک در اسناد خود اعلام کرده است که استفاده فزاینده از هوش مصنوعی در پژوهش و توسعه داخلی ممکن است باعث شود توانایی مدل ها سریع تر از ظرفیت این شرکت برای تدوین، ارزیابی و اجرای تدابیر ایمنی و امنیتی افزایش یابد. این شرکت همچنین اذعان کرده است که در گذشته، شتاب قابل توجه در پیشرفت مدل ها را تا پس از وقوع آن تشخیص نداده است.

برآوردهای داخلی آنتروپیک نشان می دهد این شرکت ممکن است به زودی به تعریف سیاست مقیاس پذیری مسئولانه خود از «پیشرفت به شدت شتاب گرفته ناشی از هوش مصنوعی» برسد. بااین حال، آنتروپیک تأکید کرده است که هنوز هیچ یک از مدل های فعلی خود را فراتر از این آستانه ارزیابی نکرده و همچنان داده های مرتبط را بررسی می کند.

این شرکت در عین حال اعلام کرده است که فعلا انتظار ندارد بتواند بدون نظارت یا درک معنادار انسانی، نسل های متوالی مدل های پیشرفته را به طور کاملا خودمختار طراحی و تولید کند. آنتروپیک در حال بررسی تغییراتی در سیاست های ایمنی خود است تا نقش انسان در توسعه مدل های پیشرفته حفظ شود.

با وجود این، برخی منتقدان یادآوری می کنند که اسناد عرضه اولیه سهام علاوه بر افشای اطلاعات، می توانند جنبه تبلیغاتی نیز داشته باشند. بنابراین، نزدیک بودن به چنین مرحله ای هنوز به معنای تحقق خودبهبودی بازگشتی نیست.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین