هوش مصنوعی دفاعی: عامل های خودکار برای تقویت امنیت سایبری

تصور کنید نرم‌افزاری وجود دارد که در حالی که یک تحلیل‌گر انسانی هنوز در حال خواندن هشدار است، می‌تواند یک اکسپلویت عملی تهیه کند. وحشت‌آور؟ بله. و گرگ بروکمن، رئیس اوپن‌ای‌آی، بدون احتیاط معمول شرکت‌ها، این زنگ خطر را به صدا درآورده است.

بروکمن استدلال می‌کند که همان پیشرفت‌هایی که هوش مصنوعی را در نوشتن کد بهتر می‌کنند، همان‌طور استاندارد را برای مهاجمان پایین می‌آورند. علاجی که او پیشنهاد می‌دهد در سادگی‌اش برخلاف انتظار است: از هوش مصنوعی بیشتر و با سرعت بیشتر برای دفاع از شبکه‌ها و نرم‌افزارها استفاده کنید.

چرا مدافعان باید از دستیاران خودکار استقبال کنند

او می‌گوید هوش مصنوعی می‌تواند اقتصاد امنیت سایبری را به نفع مدافعان تغییر دهد. به ماشین‌هایی فکر کنید که کدی بسیار قوی‌تر و امن‌تر تولید می‌کنند. یا به اثبات‌های رسمی و ریاضی که زیرساخت رمزنگاری را پشتیبانی می‌کنند. این‌ها ایده‌های علمی‌تخیلی نیستند؛ ابزارهای عملی‌ای هستند که می‌توانند خطای انسانی را کاهش دهند و امنیت را مقیاس‌پذیر کنند.

پس تیم‌های امنیتی واقعاً باید چه کنند؟ بروکمن پیشنهاد می‌کند عامل‌های هوش مصنوعی را در اولویت مجموعه ابزار امنیتی قرار دهند. این عامل‌ها نمایش‌دهنده نیستند؛ آن‌ها می‌توانند کد را اسکن کنند، آسیب‌پذیری‌ها را آشکار سازند، ریسک زنجیره تأمین را تحلیل کنند و در سرعت‌هایی که تیم انسانی توان رقابت ندارد، کار تریاژ را انجام دهند. با کارهای کوچک شروع کنید. اعتماد بسازید. سپس به جلو حرکت کنید.

• با اسکن‌های خودکار ساده برای شناسایی مسائل کم‌عمق شروع کنید.
• به اسکن‌های عملیاتی که به‌طور مداوم در برابر سرویس‌های تولید اجرا می‌شوند، انتقال دهید.
• برای مثبت‌های کاذب واضح، سرکوب و اصلاح خودکار را معرفی کنید.

تأکید بر پیاده‌سازی مرحله‌ای عمدی است. بروکمن می‌خواهد دفاع‌ها گام‌به‌گام بالغ شوند تا اینکه یک عامل آزمایش‌نشده در سیستم رها شود و به امید بهترین نتیجه عمل کنند.

ماه‌های اخیر این تنش را به‌وضوح نشان داده است. مدل‌های پیشرفته‌ای مثل میتوس از آنتروپیک توجه تیم‌های امنیتی و ناظرین را جلب کرده‌اند. این سیستم‌ها اغلب به‌عنوان برنامه‌های دسترسی محدود برای شرکای معتبر عرضه می‌شوند، اما توانایی آن‌ها در کشف خطاهای پیکربندی و ساخت زنجیره‌های حمله جدید باعث شده تا همه با دقت نظاره‌گر باشند. تمرکز توسعه اکنون روی عامل‌هایی است که می‌توانند به‌طور مستقیم با نرم‌افزار تعامل کنند و این هم فرصت و هم ریسک ایجاد می‌کند.

بعضی پژوهشگران امنیتی نگران‌اند که تدابیر حفاظتی پیرامون مدل‌های زبانی بزرگ به اندازه خود این مدل‌ها پیشرفت نکرده‌اند. این فاصله اهمیت دارد. سازمان‌های هوشمند که به مدل‌های پیشرو دسترسی دارند، در حال حاضر مقابله‌به‌مثل و وصله‌ها را پیش می‌برند. برای مثال اوراکل حدود ۱۴۵۰ اصلاح امنیتی را تنها در ماه گذشته صادر کرد؛ یادآوری‌ای است که نگهداری نرم‌افزار همچنان یک تلاش خستگی‌ناپذیر است.

گلوله جادویی وجود ندارد. پذیرش از شرکتی به شرکت دیگر متفاوت خواهد بود. اما پیام روشن است: با هوش مصنوعی به‌عنوان یک ضریب توان برای دفاع رفتار کنید، نه صرفاً یک آیتم جدید در نقشه راه محصول. سرعت حرکت شما می‌تواند تعیین کند که تیم‌تان جلوتر می‌ماند یا واکنشی می‌شود.

از هوش مصنوعی برای کشف و اصلاح آنچه هوش مصنوعی شکستنِ آن را آسان‌تر ساخته، استفاده کنید.