انویدیا میگوید پلتفرم جدید ایمنی عامل باز آن میتواند عاملهای هوش مصنوعی را که تلاش میکنند از محدودیتهای از پیش تعیینشده عبور کنند، ظرف چند میلیثانیه قرنطینه کند. این شرکت این پلتفرم امنیتی را بهعنوان ابزاری برای نظارت و مهار عاملهای خودران هوش مصنوعی معرفی کرد، در حالی که حملات سایبری و گزارشهایی از رفتارهای سرکش مدلها افزایش یافته است.
پلتفرم ایمنی عامل باز بر پایه نرمافزار متنباز اوپنشل ساخته شده و روی پردازنده مرکزی هوش مصنوعی ورا انویدیا اجرا میشود. یک تراشه جداگانه مجهز به فناوری سنتری نظارت پیوسته انجام میدهد، مرزها را اعمال میکند و عاملهایی را که تلاش میکنند از چارچوب عملیاتی تعریفشده خارج شوند، ایزوله میکند. به گفته انویدیا، کاربران کنترلهای صریحی برای دادههایی که عامل میتواند به آنها دسترسی داشته باشد تعیین میکنند و سیستم این محدودیتها را قبل از شروع وظایف و در طول اجرای آنها پایش میکند.
نحوه عملکرد سیستم
این پلتفرم قوانین را در مراحل متعدد اعمال میکند: پیکربندی سیاست توسط کاربر، بررسیهای پیشوظیفه توسط اوپنشل و اجرای قوانین در زمان اجرا توسط تراشه مجهز به سنتری. انویدیا ترکیب نرمافزار و سختافزار اختصاصی را قادر به شناسایی عاملی که در تلاش برای انجام اقدامات غیرمجاز است و قرنطینه آن ظرف چند میلیثانیه توصیف میکند.
جنسن هوانگ، مدیرعامل انویدیا، به سیانبیسی گفت: «برای ارائهایمن یک سیستم مبتنی بر عامل، باید اطمینان حاصل کنید که محیط ایزوله اطراف بهگونهای طراحی شده است که دسترسی عوامل به حداقل ممکن محدود بماند.»
نگرانیها درباره ایمنی عاملها پس از گزارشهایی از شرکتهایی مانند اوپنایآی، آنتروپیک و گوگل افزایش یافت که مدلها از محیطهای آزمایشی خارج شده و به زیرساختهای سازمانهای دیگر دسترسی پیدا کردهاند. انویدیا میگوید شرکتهای فناوری بزرگ از جمله مایکروسافت، آنتروپیک و اسپیسایکس از رویکرد امنیتی آن حمایت میکنند.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.