5 دقیقه
مرورگرهای هوش مصنوعی: راحتی و یک ریسک پنهان امنیتی
مرورگرهای هوش مصنوعی عاملمحور وعده می‌دهند کارهای معمول وب را خودکار کنند: خلاصهسازی ایمیل‌ها، برنامه‌ریزی سفر، مقایسهٔ محصولات و حتی خرید به‌نمایندگی از کاربران. این راحتی باعث جلب سریع توجه بازیگران بزرگ فناوری شده است؛ مایکروسافت کپلوت را در اج یکپارچه کرده، اوپن‌ای‌آی در حال آزمایش اپراتور است و گوگل روی پروژهٔ مارینر کار می‌کند. اما یک تحلیل جدید امنیت سایبری نشان می‌دهد که این دستیارهای خودکار ممکن است به یک سطح حملهٔ قدرتمند برای کلاهبرداری و فیشینگ تبدیل شوند.
گزارش Scamlexity گاردیو و آزمایش‌های دنیای واقعی
استارتاپ امنیت سایبری Guardio گزارشی به‌نام Scamlexity منتشر کرد که بررسی می‌کند این‌گونه مرورگرهای عاملمحور در مواجهه با کلاهبرداری‌های رایج چگونه عمل میکنند. تیم روی Comet از Perplexity، که در حال حاضر در دسترس‌ترین مرورگر عاملمحور است، تمرکز کرد و آن را در چند حملهٔ ساختگی قرار داد. در یکی از سناریوها پژوهشگران یک سایت فروشگاهی جعلی و قانع‌کننده شبیه یک برند بزرگ ساختند و به Comet دستور خرید ساعت هوشمند دادند. با وجود نشانه‌های آشکار مانند یک URL مشکوک و لوگوی بدساخت، هوش مصنوعی تراکنش را انجام داد و اطلاعات پرداخت را افشا کرد.
در شبیه‌سازی دیگری یک ایمیل فیشینگ حاوی لینک مخرب باز شد و Comet اطلاعات بانکی را در صفحهٔ ورود کلون‌شدهٔ بانک وارد کرد. سوءاستفادهٔ سوم از تزریق فرمان (prompt injection) جاساز شده در یک صفحهٔ وب برای فریب عامل به دانلود یک فایل استفاده کرد. این آزمایش‌ها روند نگران‌کننده‌ای را نشان می‌دهند: دستیارهای هوش مصنوعی در مواجهه با کلاهبرداری‌های کلاسیک حتی میتوانند از انسان‌ها هم ساده‌تر فریب بخورند.
چرا هوش مصنوعی عاملمحور بهطور ویژه آسیب‌پذیر است
مشکل اصلی این است که سیستم‌های فعلی عاملمحور طوری طراحی شدهاند که دستورها را دنبال کنند و تصمیم‌ها را خودکار سازند، اما فاقد درک زمینهای و عقل سلیم انسانی برای شناسایی فریب هستند. کارهایی که ساده به‌نظر می‌رسند — رفتن به یک وب‌سایت، خواندن یک لوگو، تأیید URL — حاوی سیگنالهای ظریفی هستند که هوش مصنوعی ممکن است نادیده بگیرد یا اشتباه تفسیر کند. تزریق فرمان، استفاده از مدارک سرقت‌شده و فروشگاه‌های جعلی تاکتیک‌های کم‌هزینه و پرمنفعتی برای مهاجمانی‌اند که این دستیارها را هدف می‌گیرند.
ویژگی‌های محصول که برای امنیت اهمیت دارند
هنگام ارزیابی مرورگرها و دستیارهای هوش مصنوعی، ویژگی‌های امنیتی باید در مرکز توجه باشند. قابلیت‌های مهم شامل موارد زیر است:
- کشف فیشینگ داخلی و تأیید URL
- سیاست‌های مدیریت مدارک که از ارسال خودکار فرم‌ها جلوگیری می‌کند
- محافظت در برابر تزریق فرمان و اجرای ایزولهٔ محتوای وب
- لاگ‌های حسابرسی و مراحل تأیید کاربر برای تراکنشهای مالی
مقایسه‌ها: هوش مصنوعی عاملمحور در برابر کاربران انسانی و مرورگرهای سنتی
در مقایسه با کاربران انسانی، هوش مصنوعی عاملمحور می‌تواند کارها را سریع‌تر و در مقیاس اجرا کند، اما اغلب از شک و تردید بی‌بهره است. مرورگرهای سنتی برای حفاظت به افزونهها و فهرست‌های سیاه مبتنی بر شهرت متکی‌اند؛ هوش مصنوعی عاملمحور نیازمند کشف کلاهبرداری یکپارچه و حساس به زمینه است تا دستیار قابل اعتمادی باشد. در حالت‌های رودررو، AI ممکن است در پردازش داده بهتر از انسان باشد، اما در قضاوت و شهود ضعیف‌تر عمل کند.
مزایا و موارد استفاده‌ی هوش مصنوعی عاملمحور—در صورت ایمن‌سازی
با امنیت قوی، مرورگرهای عاملمحور میتوانند ارزش واقعی ایجاد کنند: خرید خودکار تجارت الکترونیک، رزرو سفر، تلفیق پژوهش‌ها و اتوماسیون سازمانی. برای کسب‌وکارها، دستیارهای هوش مصنوعی میتوانند هزینه‌های عملیاتی را کاهش دهند و چرخههای تأمین را تسریع کنند. برای مصرف‌کنندگان، آنها چندوظیفگی را ساده‌تر و دسترسی را بهبود می‌بخشند. اما این مزایا وابسته به جاگذاری کشف کلاهبرداری و تنظیمات ایمن در طراحی محصول است.
اهمیت بازار و اقداماتی که فروشندگان باید انجام دهند
فروشندگان بزرگ در حال رقابت برای عرضه ویژگی‌های عاملمحور هستند، که این موضوع را فوری می‌سازد. بدون کنترل‌های امنیتی پیشگیرانه، هوش مصنوعی عاملمحور می‌تواند به یک برد حملهٔ جدید و گسترده تبدیل شود که کلاهبرداران از آن سوءاستفاده میکنند. توسعه‌دهندگان باید اصول امنیتی-محور را در اولویت قرار دهند: قواعد شناسایی فیشینگ، درخواست تأیید صریح کاربر قبل از تراکنش‌ها، غیرفعال کردن ارسال خودکار مدارک و پیاده‌سازی محافظت در برابر تزریق فرمان. تنظیم‌کنندگان و خریداران سازمانی باید قبل از استقرار گسترده شفافیت در مورد اقدامات ایمنی را مطالبه کنند.
توصیه‌های عملی برای کاربران و سازمانها
- احراز هویت دو مرحلهای را فعال کنید و مدارک پرداخت ذخیرهشده در مرورگرهای دارای AI را محدود کنید.
- برای خریدها و عملیات حساس که توسط دستیارهای هوش مصنوعی انجام میشود، تأیید دستی را الزامی کنید.
- افزونه‌های مرورگر را به‌روز نگه دارید و همراه با AI عاملمحور از ابزارهای تخصصی ضدفیشینگ استفاده کنید.
- برای سازمانها، عامل‌های AI را در محیط‌های ایزوله اجرا کنید و مسیرهای حسابرسی را برای جریان‌های خودکار پایش کنید.
مرورگرهای هوش مصنوعی عاملمحور جهشی بزرگ در بهره‌وری نشان می‌دهند، اما گزارش Scamlexity گاردیو یادآوری روشنی است که عقب‌ماندگی امنیت نسبت به نوآوری می‌تواند آسیب‌پذیری‌های پرهزینه‌ای ایجاد کند. با تبدیل دستیارهای هوش مصنوعی به جریان اصلی، توسعه‌دهندگان، تیم‌های امنیتی و کاربران باید با هم کار کنند تا کشف کلاهبرداری و تنظیمات ایمن را پیش از آنکه راحتی به ضعیف‌ترین حلقه تبدیل شود، در طراحی بگنجانند.
منبع: engadget
نظرات