4 دقیقه
کسی روی پیوندی کلیک کرد که ظاهراً رسمی به نظر میرسید. قیمت آن بسیار خوب بود تا جایی که باورکردنی نبود. بسته هرگز نرسید. حساب بانکی خالی شد. این یک رمان تکنولوژیک نیست. این الگویی است که محققان امنیتی اکنون زمانی که هوش مصنوعی گفتگوئی با کلاهبرداری آنلاین تلاقی میکند، مشاهده میکنند.
تحقیقات اخیر سرویس بررسی کلاهبرداری «اسک سیلور» نشان داد که چتجیپیتی میتواند فروشگاههای آنلاین قانعکننده اما جعلی را هنگام پرسش کاربران دربارهٔ محصولات برندهای آشنای بریتانیایی مانند راسل و برمبلی یا دانلم نشان دهد. تخفیفهای جذاب. ویترینهای فروش قابلباور. پیوندهایی که خریداران را به وبسایتهای کپیشده هدایت میکنند که برای سرقت پول و اطلاعات پرداخت طراحی شدهاند.
وقتی دادههای آموزشی به نقطهضعف تبدیل میشوند
مهاجمان صفحات مخرب را در سراسر وب قرار میدهند. آن صفحات خزیده، فهرستبندی و، زمانی که شرایط فراهم باشد، در منابعی که به مدلهای زبانی بزرگ تغذیه میکنند جذب میشوند. نتیجه چیزی است که کارشناسان آن را «مسمومسازی داده» مینامند: مدل از صفحات تقلبی میآموزد و سپس همان راهنماییهای نادرست را به کاربران عادی بازتولید میکند.
آنا جونز از اسک سیلور میگوید گاهی مجرمان از لحظات نامعمول در چرخهٔ زندگی یک برند سوءاستفاده میکنند، مانند تغییر مالکیت یا عدم دسترسی به سایت رسمی، تا به هوش مصنوعی مراجع جعلی بدهند و سایتهای خود را مشروع جلوه دهند. حقه ساده است. یک صفحه قابلباور بسازید. آن را شبیه فروشگاه واقعی نشان دهید. سپس اجازه دهید مدل آن را استخراج و توصیه کند.
لوئیس باکستر، رئیس تیم مبارزه با کلاهبرداری در ادارهٔ ملی استانداردهای تجاری بریتانیا، هشدار میدهد که تنها حضور یک وبسایت در پاسخ یک هوش مصنوعی مهر تأیید اصالت نیست. مردم برای مشاوره سریع خرید به چتباتها مراجعه میکنند. کلاهبرداران نیز به همان سرعت سازگار شدهاند. دیدن یک پیوند قانعکننده در پاسخ چتبات میتواند خریدار را وادار کند از انجام بررسیهای پایهای صرفنظر کند.
ویترینهای جعلی که در گزارشها توصیف شدهاند اغلب نگرانکننده و حرفهای ساخته شدهاند. آنها از نامهای دامنهای استفاده میکنند که به برندهای واقعی نزدیک است، با افزودن واژههایی مانند «آنلاینیوکی» یا «آفیشال» کنار یک نام آشنا، و تخفیفهای سنگینی تبلیغ میکنند، گاهی تا ۸۰٪، تا خریداران را به اقدام بیتفکر ترغیب کنند. بسیاری از این سایتها فقط حوالهٔ بانکی را میپذیرند که یکی دیگر از هشدارهاست.
همیشه فروشنده را مستقیماً تأیید کنید: با نام فروشگاه جستوجو کنید، سایت رسمی را بررسی کنید و هرگز با حوالهٔ بانکی پرداخت نکنید مگر اینکه مطمئن باشید فروشنده مشروع است.
پس کاربران الان چه کاری میتوانند انجام دهند؟ آهستهتر عمل کنید. آدرس URL را دقیق بخوانید. مراقب واژههای اضافی، پسوندهای عجیب و اشتباهات املایی باشید. از کارتها یا روشهای پرداختی که حفاظت خریدار دارند استفاده کنید. اگر سایتی بر حوالهٔ بانکی اصرار دارد، آن را بهعنوان علامت قوی برای کنار کشیدن در نظر بگیرید. هر وقت ممکن است، نام خردهفروش را در موتور جستوجو تایپ کنید یا از نشانکهای مورداعتماد استفاده کنید تا روی پیوند ارائهشده توسط چتبات کلیک نکنید.
- نام دامنه را از نظر وجود واژههای اضافی یا پسوندهای ناآشنا دقیق بررسی کنید.
- به جزئیات تماس و شواهد اجتماعی قابلاستناد توجه کنید.
- از گزینههای پرداختی که فقط حوالهٔ بانکی میپذیرند پرهیز کنید.
- از کارتهای اعتباری یا خدمات پرداختی با حفاظت خریدار استفاده کنید.
اوپنایآی میگوید سایتهای جعلی شناساییشده را از خروجیهای جستوجوی مدل حذف کرده و راهی برای گزارش پیوندهای مشکلساز توسط کاربران فراهم کرده است. مفید است. لازم است. اما یک راهحل کامل نیست. مدلها از بخشهای وسیعی از وب میآموزند و مهاجمان تنها به چند صفحهٔ قانعکننده نیاز دارند تا آسيب وارد کنند.
در نهایت، مسئولیت مشترک است. تیمهای فناوری باید خط لولههای مدل را تقویت و مسمومیت داده را شناسایی کنند. پلتفرمها باید فرآیند بررسی پیوندها را بهبود بخشند. و خریداران باید پیشنهادهای هوش مصنوعی را نقطهٔ شروع بدانند، نه تأییدیه. کنجکاوی را حفظ کنید. احتیاط را نزدیکتر نگه دارید.
منبع: smarti
ارسال نظر