اطلاع والدین هنگام تعلیق حساب نوجوانان در چت جی پی تی

نوع جدیدی از اطلاع‌رسانی به‌طور آرام در صندوق ورودی والدین فرود آمده است: وقتی حساب چت‌جی‌پی‌تی یک نوجوان به‌خاطر تهدید یا رفتار خشونت‌آمیز تعلیق می‌شود، اکنون ممکن است والد یا سرپرست او مطلع شود. این تغییر ایمنی هوش مصنوعی را کمتر مانند تنظیمات یک محصول و بیشتر مانند یک سیگنال ایمنی عمومی می‌بیند.

این تغییر پس از انتقادهای تند پس از تیراندازی جمعی سال ۲۰۲۵ در تامبلر ریج، کانادا رخ داد، جایی که محققان پی بردند متهم پیش از حمله از چت‌جی‌پی‌تی استفاده کرده بود. مقام‌های کانادایی پرسیدند چرا اوپن‌ای‌آی وقتی حساب غیرفعال شد کسی را مطلع نکرد. سم آلتمن، مدیرعامل اوپن‌ای‌آی، بابت این قصور عذرخواهی کرد و شرکت به بازنگری در نحوه علامت‌گذاری رفتارهای پرخطر پرداخت.

اوپن‌ای‌آی سیستم اطلاع‌رسانی را با همکاری گروه مون‌شات ایجاد کرد، مجموعه‌ای که روی آسیب‌های آنلاین و مداخله زودهنگام تمرکز دارد. ویدیا رامالینگهام، بنیان‌گذار مون‌شات، این قابلیت را به‌عنوان گامی عملی اولیه توصیف می‌کند: خانواده‌ها را سریعاً از ظهور یک نگرانی جدی آگاه کند و آن‌ها را به منابع و گام‌های بعدی هدایت نماید. او استدلال می‌کند هشدار زودهنگام، امکان دریافت کمک سریع‌تر را فراهم می‌سازد.

چطور کار می‌کند؟ والدینی که به حساب نوجوان مرتبط شده‌اند پیامی با عنوان «تغییرات مهم در حساب فرزند شما» دریافت می‌کنند. کلیک روی «اطلاعات بیشتر» توضیح می‌دهد که حساب به‌دلیل نقض سیاست‌ها در زمینه تهدیدها یا اعمال خشونت‌آمیز غیرفعال شده است. هشدار به‌قصد شفافیت طراحی شده است تا ابهام را حذف کند و واکنش خانواده را تسریع نماید.

این به‌روزرسانی به ابزارهای والدینی دیگری که اوپن‌ای‌آی پیش از این ارائه کرده اضافه می‌شود: محدودیت‌های ساعتی استفاده، کاهش مواجهه با محتوای حساس و حالت‌های آموزشی که دانش‌آموزان را قدم‌به‌قدم در حل مسئله راهنمایی می‌کنند پیش از آنکه پاسخ نهایی نمایش داده شود. چت‌جی‌پی‌تی همچنین کاربران جوان‌تر را به برداشتن وقفه‌های منظم تشویق می‌کند، حرکتی کوچک به‌سوی عادات سالم‌تر صفحه‌نمایش و ارتقای ایمنی آنلاین نوجوانان.

معادله‌ای از مزایا و معایب وجود دارد. برخی استدلال خواهند کرد که این موضوع می‌تواند به حریم خصوصی نوجوانان و نظارت والدینی نزدیک شود. دیگران می‌گویند این یک لایه مسئولانه نظارت است که می‌تواند از تشدید رفتارهای خطرناک جلوگیری کند. آزمون واقعی این خواهد بود که خانواده‌ها و نهادها چگونه از این هشدارها استفاده می‌کنند، آیا به مداخله حمایتی منجر می‌شوند یا به واکنش‌های تنبیهی بیش از حد.

در نهایت، اوپن‌ای‌آی شرط می‌بندد که سیگنال‌های شفاف، که به خانواده‌ها ارسال می‌شوند و با منابع پشتیبان همراه‌اند، می‌توانند رفتارهای خطرناک را زودتر شناسایی کنند تا پیش از وقوع یک تراژدی.

اینکه آیا این رویکرد به کاهش آسیب در دنیای واقعی خواهد انجامید بستگی به هماهنگی میان پلتفرم‌ها، خانواده‌ها و مقامات محلی دارد. یک کلیک می‌تواند گفت‌وگو را آغاز کند. آیا آن کلیک انتخاب درستی خواهد بود؟