اشتباهات جستجوی هوش مصنوعی و انتشار اخبار کاملا نادرست

تصور کنید از دستیار جستجوی خود یک واقعیت سریع می‌پرسید و در جواب شایعه‌ای هولناک دریافت می‌کنید: گفته‌اند دونالد ترامپ امسال بر اثر هاری درگذشته است. غیرمنطقی. تکان‌دهنده. دروغ.

این تیتر را برخی کاربران پس از تعامل با هوش مصنوعی DuckDuckGo مشاهده کردند، سیستمی که ادعا کرد ترامپ بر اثر هاری جان‌باخته و حتی به یک مقاله به‌ظاهر محلی از WKNA News به‌عنوان مدرک اشاره کرد. این داستان ساختگی فراتر رفت: ادعا شد جی.دی. ونس به دنبال توصیه رابرت اف. کندی جونیور ترامپ را گزیده، که ظاهراً می‌گفت هاری قدرت‌های فوق‌العاده‌ای به فرد می‌دهد. دستیار همچنین به گزارشی از ABC News درباره مرگ بر اثر هاری در اوهایو اشاره کرد، داستانی واقعی اما بی‌ارتباط با ترامپ.

هیچ‌کدام از این‌ها صحت ندارد. ترامپ و ونس زنده‌اند. رابرت اف. کندی جونیور قبلاً ادعاهای جنجالی درباره سلامت مطرح کرده، اما هرگز به کسی توصیه نکرده که برای تقویت سلامتی به دنبال ابتلاء به هاری باشد. مطلب WKNA که هوش مصنوعی به آن استناد کرد به نظر جعل‌شده یا به‌طور گسترده دستکاری‌شده و در وب پخش شده است. تا زمان نگارش این مقاله، DuckDuckGo توضیح عمومی ارائه نداده است.

پس چگونه یک ابزار جستجوی پشتیبانی‌شده توسط هوش مصنوعی این عناصر را به روایتی قانع‌کننده اما کاملاً نادرست پیوند زد؟ پاسخ به هم پیچیده و انسانی است. بازیگران بدخواه و ترول‌های اینترنتی پست‌های تخیلی می‌سازند، آن‌ها را در سایت‌ها و انجمن‌های ناشناخته پخش می‌کنند و اجازه می‌دهند نمایه‌های جستجو آن‌ها را پیدا کنند. مدل‌های بازیابی که به هوش‌های جستجو نیرو می‌دهند می‌توانند آن قطعات را بیابند، کنار هم بگذارند و پاسخی با لحن مطمئن تولید کنند بدون زمینه یا راستی‌آزمایی که یک ویراستار انسانی طلب می‌کند.

یک عامل دیگر هم هست: مجموعه داده‌های آموزشی و بازیابی بسیاری از سیستم‌های گفتگویی شامل مقدار زیادی محتوای تولیدشده توسط کاربران است. ردیت، بخش نظرات و وبلاگ‌های حاشیه‌ای اغلب مطالب زودهنگام و بدون بررسی را مطرح می‌کنند. وقتی گروه‌ها هماهنگ عمل می‌کنند، چه از سر بازی و چه از سر بدخواهی، با ایجاد ردپاهایی که به چشم یک یافتگر خودکار معتبر می‌آیند می‌توانند مدل‌ها را به سمت نادرستی‌ها سوق دهند.

این سیستم‌ها طوری طراحی شده‌اند که مفید باشند و سریع پاسخ دهند. این سرعت یک ویژگی است. همچنین یک نقطه ضعف است. مدل‌ها شکاکیت ندارند. آن‌ها بررسی نمی‌کنند که آیا یک رسانه محلی جعل شده یا یک گردآورنده سرخط را اشتباه نسبت داده است یا خیر. آن‌ها ترکیب می‌کنند. گاهی آن ترکیب به هالوسینیشن تبدیل می‌شود: ادعایی شنیدنی و محتمل اما بدون بنیان واقعی.

این رخداد یک حقیقت ساده را برجسته می‌کند: ابزارهای جستجوی هوش مصنوعی قبل از آنکه خروجی‌هایشان به‌عنوان واقعیت تلقی شوند به ردیابی منبع، نشانگرهای اعتماد و نظارت انسانی نیاز دارند.

برای خوانندگان، تدابیر حفاظتی آشنا اما ارزش تکرار دارند. به دنبال تایید در رسانه‌های معتبر بگردید. لینک‌های منابع را تا گزارش اصلی دنبال کنید. مراقب ادعاهای جنجالی باشید که در سایت‌های کوچک یا تازه‌تاسیس ظاهر می‌شوند. و اگر یک دستیار جستجو استنادی ارائه کرد، آن را باز کنید؛ فرض نکنید دستیار بررسی‌های لازم را برای شما انجام داده است.

برای تیم‌های پلتفرم، مسیر پیش رو هم فنی و هم سازمانی است. فیلترهای بازیابی را بهبود دهید تا دامنه‌های کم‌کیفیت اولویت کمتری پیدا کنند. منبع را نمایش دهید تا کاربران بدانند هوش مصنوعی از کدام مرجع استفاده کرده است. بررسی‌های خودکار اضافه کنید که ادعاهای نامحتمل را علامت بزنند و آن‌ها را برای بازبینی انسانی ارسال کنند. و در نهایت، در سازوکارهای اصلاح سریع سرمایه‌گذاری کنید وقتی چیزی که به‌وضوح غلط است منتشر می‌شود.

هوش مصنوعی همچنان هوشمندتر خواهد شد. کسانی که سعی در فریب آن دارند نیز همین‌طور. برنده شدن کمتر به مدل‌ها بستگی دارد و بیشتر به سیستم‌ها و روش‌هایی که پیرامون آن‌ها می‌سازیم و به این که آیا کاربران همچنان یک سؤال اساسی را می‌پرسند: این مطلب از کجا آمده است؟