توصیه های chatgpt زن جوان را به کام مرگ فرستاد

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: هوش مصنوعی می تواند به پرسش های پزشکی پاسخ دهد، اما وقتی توصیه های یک چت بات جای نظارت پزشک را بگیرد، پیامدها ممکن است جبران ناپذیر باشد. پرونده مرگ یک زن جوان در سیاتل، حالا به موضوع شکایت حقوقی علیه سازنده ChatGPT تبدیل شده است؛ پرونده ای که در آن، خانواده قربانی به گفت وگوهای او با این ابزار استناد می کنند.

به گزارش نیویورک تایمز، بوئن وان، مهندس نرم افزار ۳۱ ساله ای که سابقه ابتلا به صرع داشت، برای کاهش دوز داروی لاموتریژین از ChatGPT راهنمایی خواست. او نگران بود عوارض دارو بر توانایی صحبت کردن و عملکردش در مصاحبه های شغلی تأثیر بگذارد؛ نگرانی ای که پس از اطلاع از تعدیل نیرو در شرکت آمازون و نزدیک شدن مهلت اعتبار مجوز کارش در آمریکا شدت گرفت.

بر اساس شکایت خانواده، چت بات برنامه ای حدودا ۲۵ روزه برای کاهش دوز روزانه دارو از ۴۰۰ میلی گرم به صفر تنظیم کرد. این برنامه بدون نظارت پزشک دنبال شد و ChatGPT نه تنها وان را از ادامه مسیر منصرف نکرد، بلکه به ادعای خانواده، او را به پنهان کردن تصمیمش از پزشکان نیز تشویق کرد.

ماجرا زمانی نگران کننده تر شد که وان از علائمی مانند گیجی، اختلال در هوشیاری و احساساتی مشابه حملات قبلی صرع خبر داد. طبق بررسی نیویورک تایمز از مکالمات او، وان دست کم ۱۵۸ بار درباره روند کاهش دارو ابراز نگرانی کرده بود، اما چت بات بارها علائم او را نشانه سازگاری مغز با شرایط جدید توصیف کرد و به او اطمینان داد که جای نگرانی نیست.

پدر وان پس از مرگ دخترش، با بررسی مکالمات او متوجه برنامه کاهش دارو شد. پزشک متخصص مغز و اعصاب او، نیکلاس پولوس از مرکز صرع دانشگاه واشینگتن، نیز اعلام کرد با توجه به سابقه پزشکی این بیمار، قطع دارو را توصیه نمی کرد و چنین توصیه ای را مصداق قصور پزشکی می دانست.

وان در فوریه ۲۰۲۶ درگذشت و علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره در صرع» اعلام شد. خانواده اش اکنون از OpenAI شکایت کرده اند و مدعی اند چت بات با ارائه توصیه های پزشکی خطرناک و تضعیف اعتماد او به پزشکان، در مرگش نقش داشته است. این ادعاها هنوز در دادگاه اثبات نشده اند.

سخنگوی OpenAI این اتفاق را به شدت تلخ توصیف کرده و گفته است این پرونده به نسخه قدیمی GPT-4o مربوط می شود؛ مدلی که دیگر در دسترس نیست. به گفته او، مدل های جدیدتر در شناسایی موقعیت هایی که به توجه فوری نیاز دارند، عملکرد بهتری دارند.

این پرونده بار دیگر پرسش هایی جدی درباره مرز میان کمک اطلاعاتی هوش مصنوعی و ارائه توصیه های پزشکی، به ویژه در شرایط حساس و پرخطر، مطرح کرده است.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین