چتبات هوش مصنوعی «چتجیپیتی» به ویژگی جدیدی مجهز شده که برای جلوگیری از خودکشی کاربران طراحی شده است.
بورس24 : «اوپنایآی»(OpenAI) روز پنجشنبه از ویژگی جدیدی به نام «Trusted Contact» رونمایی کرد که در صورت بیان هرگونه اشاره به خودآزاری در یک گفتوگو، به شخص ثالث مورد اعتماد هشدار میدهد.
این ویژگی به کاربران بزرگسال «چتجیپیتی»(ChatGPT) اجازه میدهد تا شخص دیگری مانند یک دوست یا عضو خانواده را به عنوان مخاطب مورد اعتماد در حساب کاربری خود تعیین کند. در مواردی که ممکن است گفتوگو به خودآزاری منجر شود، اوپنایآی کاربر را تشویق میکند تا با آن مخاطب تماس بگیرد. همچنین، یک هشدار خودکار به مخاطب میفرستد و او را تشویق میکند تا با کاربر در تماس باشد.
اوپنایآی با موجی از دعاوی از سوی خانوادههای افرادی روبهرو شده است که پس از صحبت کردن با چتبات آن خودکشی کردهاند. در تعدادی از موارد، خانوادهها ادعا کردهاند که چتجیپیتی عزیزانشان را به خودکشی تشویق کرده یا حتی به آنها در برنامهریزی برای آن کمک کرده است.
اوپنایآی در حال حاضر ترکیبی از خودکارسازی و بررسی انسانی را برای مدیریت حوادث مضر احتمالی استفاده میکند. برخی محرکهای گفتوگو، سیستم شرکت را از افکار خودکشی آگاه میسازند و سپس این اطلاعات را به یک گروه ایمنی انسانی منتقل میکنند. اوپنایآی ادعا میکند هر بار که این نوع اعلان دریافت شود، توسط یک انسان مورد بررسی قرار میگیرد. مقامات این شرکت گفتند: ما تلاش میکنیم این اعلانهای ایمنی را در کمتر از یک ساعت بررسی کنیم.
اگر تیم داخلی اوپنایآی به این نتیجه برسند که وضعیت پیشآمده، یک خطر امنیتی جدی را نشان میدهد، چتجیپیتی یک هشدار را از طریق ایمیل، پیامک یا اعلان درون برنامهای به مخاطب مورد اعتماد میفرستد. این هشدار به گونهای طراحی شده است که مختصر باشد و مخاطب مورد اعتماد را تشویق کند تا با شخص مورد نظر تماس بگیرد. به گفته اوپنایآی، این هشدار شامل اطلاعات دقیق درباره موضوع مورد بحث نیست تا از حریم خصوصی کاربر محافظت شود.
ویژگی «تماس مورد اعتماد» از تمهیدات امنیتی که شرکت در سپتامبر گذشته معرفی کرد، پیروی میکند. این تمهیدات به والدین امکان میداد تا بر حسابهای کاربری نوجوانان خود نظارت داشته باشند؛ از جمله دریافت اعلانهای ایمنی که برای هشدار به والدین در زمانهایی طراحی شدهاند که سیستم تشخیص دهد فرزندشان با خطر جدی ایمنی روبهرو شده است. مدتی است که چتجیپیتی، هشدارهای خودکار را برای درخواست خدمات درمانی حرفهای در صورت گرایش گفتوگو به سمت موضوع خودآزاری در نظر گرفته است.
نکته مهم این است که ویژگی Trust Contact اختیاری است و حتی اگر این محافظت روی یک حساب کاربری خاص فعال شود، هر کاربری میتواند چندین حساب چتجیپیتی داشته باشد. کنترلهای والدین نیز اختیاری هستند و محدودیت مشابهی را ارائه میدهند.
اوپنایآی در یک پست نوشت: ویژگی Trusted Contact بخشی از تلاش گستردهتر اوپنایآی برای ساخت سیستمهای هوش مصنوعی است که در لحظات دشوار به مردم کمک میکنند. ما به همکاری با پزشکان، پژوهشگران و سیاستگذاران ادامه خواهیم داد تا نحوه واکنش سیستمهای هوش مصنوعی را در مواقعی که افراد ممکن است دچار پریشانی شوند، بهبود ببخشیم.
نظرات :
شما می توانید اولین نفری باشید که برای این مطلب نظر می دهید.