5 دقیقه
برخی افراد چتجیپیتی را مثل یک کادر جستوجو رفتار میکنند. دیگران با آن طوری حرف میزنند که در ساعت دو نیمهشب به یک دوست پیام میدهند وقتی خواب به سراغشان نمیآید. این نوع استفاده، هوش مصنوعی را به قلمرویی فراتر از معرفی محصول و کمک به کدنویسی برده است و اوپنایآی اکنون با ویژگیای پاسخ میدهد که برای لحظاتی طراحی شده است که یک گفتگو ظاهراً خطرناک میشود.
ابزار جدید که «مخاطب قابلاعتماد» نام دارد، در تنظیمات چتجیپیتی برای کاربران بالغ در حال انتشار است. هدف روی کاغذ ساده است: به کاربر اجازه دهد یک نفر را انتخاب کند که در صورت شناسایی خطر جدی خودآسیبی توسط سیستم، اطلاع داده شود. در عمل، اوپنایآی تلاش میکند یک شبکهٔ ایمنی بسازد بدون اینکه چتهای خصوصی تبدیل به هشدارهای خودکار شوند.
راهاندازی آن داوطلبانه است. کاربران میتوانند یک نفر را بهعنوان مخاطب قابلاعتماد تعیین کنند، اما آن فرد باید شرایط سنی لازم را داشته باشد: دستکم ۱۸ سال در بیشتر مناطق، یا ۱۹ سال در کرهٔ جنوبی. پس از انتخاب، آن مخاطب دعوتنامهای برای توضیح نقش دریافت میکند و هفت روز فرصت دارد تا پذیرش کند. اگر رد کند، کاربر میتواند شخص دیگری را انتخاب کند.
مرحلهٔ بعد جایی است که اوپنایآی آشکارا میکوشد از دخالت بیش از حد جلوگیری کند. هشدارها بهمحض تشخیص زبان نگرانکننده به طور خودکار ارسال نمیشوند.در ابتدا چتجیپیتی به کاربر اطلاع میدهد که ممکن است مخاطب قابلاعتماد او مطلع شود. همچنین کاربر را تشویق میکند خود مستقیماً تماس بگیرد و حتی راههای پیشنهادی برای شروع آن گفتگو ارائه میدهد. پس از آن، گروه کوچکی از بازبینان انسانی آموزشدیده پرونده را بررسی میکنند. تنها در صورتی که آنها تایید کنند وضعیت به خطر جدی خودآسیبی اشاره دارد، اوپنایآی اعلان را ارسال میکند.
آن اعلان میتواند از طریق ایمیل، پیامک یا داخل اپ برسد. شامل لاگهای چت، نقلقول یا خلاصهای از گفتگو نیست. در عوض، صرفاً به مخاطب اطلاع داده میشود که خودآسیبی در زمینهای نگرانکننده مطرح شده و از او خواسته میشود پیگیر شود. اوپنایآی میگوید هدفش انجام بازبینی انسانی در کمتر از یک ساعت است.
این ابزار کجای تلاشهای ایمنی گستردهٔ اوپنایآی قرار دارد
این موضوع بهصورت مجزا ظاهر نشده است. اوپنایآی پیشتر قابلیتهای ایمنی مرتبط با حساب نوجوانان را معرفی کرده، از جمله هشدار برای والدین زمانی که حسابهای مرتبط نشانههایی از پریشانی نشان دهند. مخاطب قابلاعتماد این ایده را به بزرگسالان تعمیم میدهد و این موضوع چیز زیادی دربارهٔ نحوهٔ استفادهٔ فعلی از چتجیپیتی میگوید. این چتبات دیگر تنها یک دستیار بهرهوری نیست؛ برای بسیاری از کاربران به محلی برای گفتگوهای بسیار شخصی و پُر بار عاطفی تبدیل شده است.
به گفتهٔ اوپنایآی، این ویژگی با مشورت پزشکان، پژوهشگران و گروههای سلامت روان از جمله انجمن روانشناسی آمریکا توسعه یافته است. این مشارکتهای خارجی اهمیت دارند. هر ابزاری که با خطر خودآسیبی، حریم خصوصی و پاسخ به بحران سروکار دارد در فضایی حساس قرار میگیرد که تصمیمهای طراحی پیامدهای واقعی دارند.
محدودیتهای روشنی نیز وجود دارد. مخاطب قابلاعتماد جایگزین خط بحران، خدمات اورژانسی یا حمایت حرفهای سلامت روان نیست. اوپنایآی میگوید چتجیپیتی در صورت نیاز کاربران را به آن منابع هدایت خواهد کرد. کاربران میتوانند هر زمان مخاطب انتخابشده را حذف یا تغییر دهند و آن مخاطب هر زمان خواست میتواند انصراف دهد.
یک پیام آرامتر در پشت این عرضه وجود دارد. اوپنایآی پذیرفته است چیزی را که صنعت فناوری مدتی است از آن اجتناب کرده: مردم در حال حاضر آسیبپذیرترین لحظات خود را به چتباتهای هوش مصنوعی میآورند. اینکه شرکتها قصد این رفتار را داشتند یا نه دیگر چندان اهمیت ندارد. خود رفتار اینجا است. ویژگیهایی مثل مخاطب قابلاعتماد تلاش میکنند به آن واقعیت با احتیاط بیشتر، انسانیت بیشتر و این شناخت پاسخ دهند که حتی پیشرفتهترین چتبات هم نباید تنها صدا در اتاق باشد وقتی اوضاع تیره میشود.
ارسال نظر