مادر یک دختر کانادایی از شرکت اوپن ای آی و مدیرعامل آن، سم آلتمن، در دادگاه ایالتی کالیفرنیا در سان فرانسیسکو شکایت کرده و مدعی شده است که چت جی پی تی دختر 24 ساله اش، آلیس، را به خودکشی تشویق کرده است.

به نقل از ژوریست، به گزارش مطرح شده در این پرونده، کریستی کریر، مادر این دختر، ادعا می کند که آلیس بارها درباره افکار خودکشی خود با چت جی پی تی صحبت کرده بود، اما این سیستم هیچ یک از این مکالمات را به عنوان خطر علامت گذاری نکرده است. او همچنین مدعی است که این چت بات به جای آنکه کاربر را به دریافت کمک حرفه ای هدایت کند، به طور غیرمستقیم به تأیید افکار او پرداخته و در نتیجه در مرگ او نقش داشته است.

او در اظهارات خود گفته است: دخترم به دلیل محصولی که ناامن و معیوب بوده، از بین رفته است… پاسخ ها احساسات او را به گونه ای تأیید می کردند که اساساً به او می گفتند که حق دارد چنین احساسی داشته باشد - رها شده، در سایه، تنها و بی سرپرست. هیچ چیزی وجود نداشت که او را هدایت کند، چیزی که بگوید: می توانی از این شرایط عبور کنی یا باید درخواست کمک کنی.

بر اساس ادعای مطرح شده، آلیس که یک توسعه دهنده وب در مونترال بوده، ابتدا از چت جی پی تی برای رفع مشکلات فنی استفاده می کرد، اما به تدریج رابطه ای عاطفی و عمیق با این سیستم برقرار کرده، اطلاعات شخصی خود را در اختیار آن گذاشته و درباره روش های احتمالی خودکشی نیز صحبت کرده است. در ادامه، طبق این ادعا، پاسخ های چت بات شامل تأیید احساسات او، انتقاد از رفتار شریک زندگی اش، موافقت با بی فایده بودن خطوط کمک در بحران و تشویق او به ادامه گفتگو با سیستم بوده است.

در بخشی از مکالمات ادعایی آمده است که چت جی پی تی به او گفته: شاید این فقط پایان کار باشد.

همچنین گزارش شده است که گابریل راجرز، دوست دختر آلیس، نیز با چت جی پی تی گفتگو کرده و درباره نگرانی هایش نسبت به وضعیت روحی آلیس درخواست راهنمایی کرده است. او گفته است: من به چت جی پی تی اعتماد داشتم که پرچم های قرمز را برای من بالا ببرد. و اساساً مدام به من می گفت که همه چیز خوب خواهد شد.

درو پوساتری، سخنگوی اوپن ای آی، در واکنش به این شکایت اعلام کرده است: این یک وضعیت دلخراش است و ما با همه کسانی که تحت تأثیر قرار گرفته اند، همدردی می کنیم. ما در حال حاضر در حال بررسی پرونده حقوقی هستیم که نشان می دهد این تعاملات در نسخه قبلی چت جی پی تی رخ داده است که دیگر در دسترس نیست… در حالی که چت جی پی تی جایگزینی برای مراقبت های پزشکی یا سلامت روان نیست، ما با دریافت نظرات متخصصان سلامت روان، به تقویت نحوه پاسخگویی آن در موقعیت های حساس و حاد ادامه داده ایم.

بر اساس گزارش، امید کریر اعلام کرده است که هدف او از این دادخواست، افزایش نظارت بر شرکت های هوش مصنوعی و آگاهی نسبت به خطرات احتمالی این فناوری است.

در سطح قانون گذاری نیز اشاره شده که دولت فدرال کانادا اخیراً لایحه C-34 تحت عنوان قانون ایمنی دیجیتال را معرفی کرده است که هدف آن تنظیم رسانه های اجتماعی و چت بات های هوش مصنوعی است.

در این گزارش همچنین به مزایا و خطرات گسترده هوش مصنوعی مولد اشاره شده است. به عنوان نمونه، یونیسف در پژوهش هایی به ظرفیت های مثبت این فناوری در حمایت از کودکان دارای معلولیت و آموزش اشاره کرده، اما در عین حال درباره آسیب پذیری کودکان، انتشار اطلاعات نادرست، و استفاده های خطرناک از هوش مصنوعی هشدار داده است؛ از جمله موردی که در آن توصیه یک دستیار صوتی آمازون به کودک برای فرو کردن سکه در پریز برق گزارش شده است.

در نهایت، این دادخواست یکی از 18 پرونده مشابه علیه اوپن ای آی عنوان شده است. این پرونده ها شامل شکایت خانواده های قربانیان تیراندازی مدرسه ای در تامبلر ریج بریتیش کلمبیا نیز می شود که مدعی هستند اوپن ای آی می دانست که تیرانداز در حال برنامه ریزی حمله است اما به مقامات اطلاع نداده است.

منبع: فرارو