شفقنا – شرکت سازنده چت‌جی‌پی‌تی گفته است که خودکشی یک نوجوان ۱۶ ساله به دلیل «سوءاستفاده» او از سیستم بوده و «عامل» آن چت‌بات نبوده است.
به گزارش سرویس ترجمه شفقنا، این اظهارات در پاسخ اوپن‌آی به دادخواستی مطرح شده که توسط خانواده آدام رین، نوجوان اهل کالیفرنیا، علیه این کمپانی و مدیرعامل آن، سام آلتمن، تقدیم دادگاه شده است.
وکیل خانواده رین گفته که این نوجوان در ماه آوریل و پس از گفت‌وگوهای گسترده و «ماه‌ها تشویق از سوی چت‌جی‌پی‌تی» خودکشی کرده است.
دادخواست مذکور ادعا می‌کند که این نوجوان در چند نوبت با چت‌جی‌پی‌تی در مورد روشی برای خودکشی گفت‌وگو کرده، این چت‌بات به او راهنمایی کرده که آیا روش پیشنهادی جواب می‌دهد یا خیر، پیشنهاد کمک برای نوشتن یادداشت خودکشی برای والدینش را به او داده و نسخه‌ای از این فناوری که او استفاده می‌کرد «با عجله و … علی‌رغم مسائل آشکار ایمنی به بازار عرضه شده بود».
بر اساس اسناد ارائه شده به دادگاه عالی ایالت کالیفرنیا، اوپن‌آی گفته است که «اگر بخواهیم هر علتی را به این واقعه دلخراش نسبت دهیم» صدمات و آسیب‌های وارده به رین «مستقیماً و بلافاصله، به طور کامل یا جزئی، توسط استفاده نادرست، استفاده غیرمجاز، استفاده خارج از منظور، استفاده غیرقابل پیش‌بینی، و/یا استفاده ناصحیح [او] از چت‌جی‌پی‌تی ایجاد شده یا به آن دامن زده شده است».
این شرکت گفت که شرایط استفاده از خدماتش، درخواست راهنمایی از چت‌جی‌پی‌تی درباره خودآزاری را ممنوع کرده و به یک بند محدودیتِ مسئولیت اشاره کرد که تصریح می‌کند «شما از خروجی [سامانه] به عنوان تنها منبع حقیقت یا اطلاعات واقعی استفاده نخواهید کرد».
اوپن‌آی که ۵۰۰ میلیارد دلار (۳۸۰ میلیارد پوند) ارزش‌گذاری شده، گفت هدفش «رسیدگی به پرونده‌های قضایی مرتبط با سلامت روان با دقت، شفافیت و احترام» است و «مستقل از هرگونه دادخواست قانونی، بر بهبود فناوری خود در راستای ماموریت‌مان متمرکز خواهیم ماند».
این شرکت در ادامه افزود: عمیق‌ترین مراتب تسلیت خود را به خانواده رین به خاطر فقدان غیرقابل تصورشان ابراز می‌کنیم. پاسخ ما به این ادعاها شامل حقایق تلخی در مورد سلامت روان و شرایط زندگی آدام است.
«دادخواست اولیه شامل بخش‌های گزینشی از چت‌های او بود که نیاز به توضیحات بیشتری داشت و ما در پاسخ خود آنها را ارائه کرده‌ایم. ما میزان شواهد حساسی را که به طور عمومی در این پرونده ذکر کرده‌ایم، محدود کرده‌ایم و خود رونوشت‌های چت را به صورت محرمانه به دادگاه ارسال کرده‌ایم.
جِی اِدِلسون، وکیل خانواده رین، پاسخ اوپن‌آی را «نگران‌کننده» خواند و گفت این شرکت «سعی می‌کند تقصیر را به گردن دیگران بیندازد، از جمله — به شکل حیرت‌آوری — با این استدلال که خود آدام با تعامل با چت‌جی‌پی‌تی دقیقاً به همان شیوه‌ای که برای عمل‌کردن برنامه‌ریزی شده بود، شرایط و ضوابط آن را نقض کرده است».
اوایل ماه جاری میلادی، هفت دادخواست دیگر در دادگاه‌های کالیفرنیا علیه اوپن‌آی در ارتباط با چت‌جی‌پی‌تی ثبت شد که از جمله در یکی از آنها ادعا شده این چت‌بات در نقش یک «مربی خودکشی» عمل کرده است.
یکی از سخنگویان اوپن‌آی در آن زمان گفت: این یک وضعیت فوق‌العاده دلخراش است و ما در حال بررسی پرونده‌ها برای درک جزئیات آن هستیم. ما چت‌جی‌پی‌تی را آموزش می‌دهیم تا نشانه‌های پریشانی روانی یا عاطفی را تشخیص دهد و به آن واکنش نشان دهد، گفت‌وگوها را به سمت آرامش سوق دهد و افراد را به سوی پشتیبانی در دنیای واقعی راهنمایی کند.
اوپن‌آی در ماه آگوست اعلام کرد که هنگام گفت‌وگوهای طولانی کاربران با چت‌جی‌پی‌تی، ضمانت‌های ایمنی آن را تقویت می‌کند زیرا تجربه نشان داده بخش‌هایی از آموزش ایمنی مدل ممکن است در این شرایط تضعیف شود.
این خبر را اینجا ببینید.
source