هشدار سیگنال درباره ربات های گفتگو و حریم خصوصی

یک چت‌بات را مانند یک محرم اسرار نپندارید. جمله‌ای کوتاه. واقعیتی صریح.

مریدیت ویت‌تاکر، که اپ پیام‌رسان امن سیگنال را اداره می‌کند، به طور قاطع به بلومبرگ گفت که ابزارهایی مانند چت‌جی‌پی‌تی و کلود همراهان خودآگاه نیستند. آن‌ها گفتگو را تقلید می‌کنند. آن‌ها احساس ندارند. آن‌ها شما را به شکلی که یک انسان دیگر درک می‌کند، نمی‌فهمند. این تمایز بیش از همیشه اهمیت دارد، به‌ویژه وقتی مرز بین دستیار مفید و حضوری نفوذی هر ماه باریک‌تر می‌شود.

ویت‌تاکر می‌پذیرد که گاهی از هوش مصنوعی برای کارهای روزمره استفاده می‌کند؛ مثلاً شکل کلی یک سند را مرتب می‌کند، اما از پرسیدن سؤالاتی که تفکر او را شکل می‌دهند، پرهیز می‌کند. او از کار خلاقانه و فکری که از ذهن انسان برمی‌آید محافظت می‌کند. چرا باید به سیستمی که آنچه قبلاً وجود دارد را جمع‌آوری و میانگین‌گیری می‌کند، قدرت هدایت نحوهٔ فکر کردن یا نوشتن ما را بدهیم؟

این هشدار هنگامی جدی‌تر شد که او به پیش‌بینی اخیر مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، واکنش نشان داد: اینکه دستیارهایی مانند کوپایلوت می‌توانند خرید کریسمس امسال را برای کاربران انجام دهند. به نظر راحت می‌آید. اما برای انجام چنین کاری، دستیار نیاز به دیدی بسیار خصوصی از زندگی شما دارد: چت‌های گروهی خانوادگی، تاریخچهٔ مرور، کارت‌های اعتباری، آدرس‌ها، تقویم‌ها و توانایی ارسال پیام به اعضای خانواده به نمایندگی از شما. آیا همهٔ این‌ها را به یک سرویس واحد واگذار می‌کنید؟

ویت‌تاکر این نوع دسترسی را همان‌طور که هست می‌نامد: درِ پشتی به حریم خصوصی شخصی. در چارچوب یک پیام‌رسان امن، چنین دسترسی همه‌جانبه‌ای تضمین‌هایی را که کاربران می‌خواهند زیر سؤال می‌برد. سیگنال به سیستم‌های هوش مصنوعی اجازهٔ دسترسی سراسری و نفوذی درون برنامه‌اش را نخواهد داد.

این بحث دیگر نظری نیست. با نفوذ ویژگی‌های هوش مصنوعی به پلتفرم‌های بیشتر، هر تسهیلات جدید یک معامله را به همراه دارد: سرعت در ازای کنترل، کارایی در ازای صمیمیت. جایی که شما حد را می‌گذارید، نه تنها صندوق ورودی شما را تعریف می‌کند، بلکه تعیین می‌کند چه کسی می‌تواند توجه و انتخاب‌های شما را شکل دهد.