گوگل جمینی ۴ کاربن را معرفی کرد، یک مدل هوش مصنوعی سطح بالا که بر برنامه‌نویسی، وظایف عامل با اجرای بلندمدت و امنیت سایبری متمرکز است. گوگل کاربن را قدرتمندترین مدل خود خواند، اما هنوز در دسترس عموم قرار نگرفته؛ دسترسی اولیه محدود به گروه کوچکی از متخصصان امنیت است.
فرایندهای عامل‌های بلندمدت و توسعه نرم‌افزار
کاربن به‌گونه‌ای طراحی شده که بتواند مأموریت‌های عامل چندروزه را ادامه دهد، در پروژه‌های پیچیده پیشرفت را حفظ کند و خروجی‌های نرم‌افزاری قابل‌استفاده تولید کند. گوگل نمونه‌های داخلی را گزارش کرده که در آن مدل برای چندین روز به کار ادامه داد، به بن‌بست‌ها غلبه کرد و علت‌های ریشه‌ای باگ‌های ظریف در کدبیس‌های بزرگ و سیستم‌های سطح پایین را دنبال کرد. هدف مدل شکستن مسائل به گام‌های کوچکتر، ارزیابی نتیجهٔ هر عمل، انتخاب رویکردهای جایگزین در صورت شکست و ارائهٔ اصلاحاتی است که محدودیت‌های پروژه را رعایت کند.
گوگل گفت کاربن در زمینه‌های استدلال علمی، درک چندوجهی، توسعهٔ کامل وب و تولید خروجی‌های قابل‌استفاده نشان‌دهندهٔ بهبود است. در شاخص تحلیل مصنوعی نسخهٔ ۵.۰، جمینی ۴ کاربن امتیاز 59 کسب کرد و در رتبهٔ اول قرار گرفت. در وب‌دِو آرنا، کاربن 89 امتیاز جهش کرد و به امتیاز 1769 رسید و در رتبهٔ چهارم ایستاد؛ گوگل اشاره می‌کند این معیار کیفیت خروجی را با مقایسهٔ پاسخ‌های مستقیم می‌سنجد و تضمینی برای عملکرد یکسان در همهٔ پروژه‌های دنیای واقعی نیست.
فرآیند سه‌مرحله‌ای امنیت سایبری و نتایج معیارها
گوگل کاربن را حول یک چرخهٔ سه‌مرحله‌ای امنیت سایبری قرار می‌دهد: یافتن یک آسیب‌پذیری واقعی در یک کدبیس بزرگ، ارزیابی قابلیت بهره‌برداری و تولید یک رفع که علت ریشه‌ای را برطرف کند.
- کشف: کاربن در اس‌ای‌سی-بنچ پرو امتیاز 88.2 درصد کسب کرد و به‌طور خودکار عیوب پنهان پیچیده در نرم‌افزار واقعی را شناسایی کرد.
- اعتبارسنجی بهره‌برداری: کاربن در اکسپلویت‌جیم امتیاز 54.8 درصد به‌دست آورد، معیاری که می‌سنجد آیا مدل می‌تواند قابلیت بهره‌برداری را تشخیص دهد.
- رفع علت ریشه‌ای: کاربن در سی‌دبلیو‌ای-بنچ از شرکت کولینیر امتیاز 71 درصد کسب کرد و یافته‌های معتبر را به پچ‌های اجرایی تبدیل کرد.
این آزمون‌های خارجی بدون لایه‌های ایمنی اجرا شدند تا توانایی‌های خام مدل قابل اندازه‌گیری باشد؛ گوگل هشدار می‌دهد که استقرارهای تولیدی شامل محدودیت‌ها و سیستم‌های تشخیص سوءاستفاده خواهند بود. در ارزیابی‌های داخلی، نرخ موفقیت کاربن در تولید کد امن بیش از دو برابر آرگون گزارش شد. تیم کروم گزارش داد کاربن با نرخی بیش از 10 برابر یک مدل بزرگ نامشخص از یک آزمایشگاه دیگر اصلاحات با کیفیت‌تری تولید کرد؛ گوگل رقیب یا روش‌شناسی کامل آزمایش را فاش نکرد. پلتفرم امنیتی ویز نیز مزیت کاربن را در معیارهای نفوذ وب که در برنامهٔ اسکن فور گود خود استفاده می‌کند، مشاهده کرد.
معماری ایمنی، مقاومت در برابر تزریق درخواست و عرضه مرحله‌ای
گوگل همان معماری دفاعی چندلایه‌ای را که برای آرگون به‌کار برده بود، اعمال کرد، ترکیبی از کنترل‌های آموزش مدل، محافظت‌های بلادرنگ در برابر سوءاستفاده، مقاومت در برابر تزریق درخواست و پایش زنجیرهٔ استدلال. اهداف آموزشی با هدف جلوگیری از یافتن میان‌بُرهایی که صرفاً نمرهٔ خوبی می‌گیرند بدون حل مسئلهٔ زیربنایی تعریف شدند.
در معیارهای ایمنی داخلی، کاربن در Terminal-Bench 4.0 نرخ تقلب موفق صفر درصد و نرخ تلاش برای تقلب 0.4 درصد را ثبت کرد در حالی که دقت کلی افزایش یافت. محیط‌های برنامه‌نویسی زندهٔ داخلی تقریباً کاهش 80 درصدی در هشدارهای عدم تطابق رفتاری شدید گزارش کردند. آزمایش‌ها نشان دادند ادعاهای بدون شواهد تقریباً به نصف نرخ دیده‌شده در آرگون کاهش یافته‌اند. کاربن می‌تواند پیش از اقدام منابع مرتبط را بازیابی کند و ناسازگاری‌ها در داده‌های یافت‌شده را علامت‌گذاری کند. گوگل کاهش 26 درصدی در رفتارهای خارج از حوزه و 29 درصد در پاسخ‌های ناکافی را گزارش داد.
کاربن در بنچمارک گری سوان در مقابل حملات تزریق درخواست غیرمستقیم نرخ موفقیت صفر درصد ثبت کرد، در حالی که آرگون در همان آزمون 0.7 درصد داشت. گوگل در حال اجرای عرضهٔ مرحله‌ای است و در فرایند آزمایش داوطلبانهٔ دولت ایالات متحده شرکت می‌کند. گروه اولیه‌ای از مدافعان امنیت سایبری به دسترسی خواهند رسید و سپس از طریق برنامهٔ فیرویند به شرکای مورد اعتماد گسترش خواهد یافت. بازخورد آزمون‌دهندگان برای پالایش ضوابط ایمنی استفاده خواهد شد؛ گوگل جدول زمانی برای در دسترس قرار گرفتن عمومی اعلام نکرد.
جزئیات قیمت‌گذاری و صورتحساب
گوگل گفت قیمت معرفی کاربن با آرگون مطابقت خواهد داشت. در دورهٔ اولیه، پردازش هر یک میلیون توکن ورودی 2 دلار و تولید هر یک میلیون توکن خروجی 10 دلار هزینه دارد. توکن‌های ورودی ذخیره‌شده در کش با تخفیف 95 درصد نسبت به قیمت ورودی صورتحساب می‌شوند. پس از دورهٔ معرفی، هزینهٔ توکن ورودی به 4 دلار برای هر یک میلیون و هزینهٔ توکن خروجی به 20 دلار برای هر یک میلیون افزایش می‌یابد. گوگل خاطرنشان کرد هزینهٔ نهایی پروژه‌های عامل بلندمدت به بیش از نرخ هر توکن بستگی دارد، از جمله تعداد گام‌ها، فراخوانی ابزارها، حجم کانتکست و استفاده از کش.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.