اوپن‌ای‌آی می‌گوید سیستم متمرکز تازه‌استقرار شده‌اش، Control Room، می‌تواند مدل را حداکثر ظرف ۳۵ ثانیه پس از فرمان مداخله از تولید خروجی‌های بیشتر بازدارد.
شرکت Control Room را لایه‌ای ایمنی توصیف می‌کند که بارهای کاری تحقیق، موتورهای استنتاج و یک سرویس مجوزدهی مرکزی را به هم پیوند می‌دهد تا فرایندهای تحقیقاتی جاری که ممکن است ریسک داشته باشند متوقف شوند. اوپن‌ای‌آی می‌گوید این سیستم اکنون در سراسر زیرساخت‌های تحقیقاتی آن پیاده‌سازی شده است.
چگونه مکانیزم توقف و ابطال کار می‌کند
Control Room سه مؤلفه اصلی را به هم متصل می‌کند: بار کاری تحقیق، موتور استنتاج و سرویس مرکزی Control Room. به تعبیر اوپن‌ای‌آی، یک بار کاری، یک وظیفه تحقیقاتی مانند آزمایش‌های یادگیری تقویتی، ارزیابی‌ها یا پردازش‌های بزرگ داده است که نیاز به استنتاج مبتنی بر عامل دارد.
هر وظیفه‌ای که به استنتاج مبتنی بر عامل نیاز دارد باید به یک پرونده ایمنی تایید شده الصاق شود. وقتی یک پژوهشگر فرایند را آغاز می‌کند، کد وظیفه یک شناسه شغلی یکتا (Job ID) از Control Room درخواست می‌کند. آن شناسه شغلی به هر درخواستی که به موتورهای استنتاج فرستاده می‌شود افزوده می‌شود؛ این موتورها مدل‌ها را مستقیماً روی GPUها اجرا کرده و خروجی تولید می‌کنند.
پیش از آنکه یک موتور استنتاج پاسخ بازگرداند، از Control Room استعلام می‌گیرد تا تایید کند وظیفه همچنان مجاز است. اگر یک پژوهشگر یا سیستم نظارتی خودکار دستور توقف صادر کند، سرویس Control Room درخواست بعدی را رد خواهد کرد و موتور استنتاج از تولید خروجی‌های بیشتر جلوگیری می‌کند. اوپن‌ای‌آی اشاره می‌کند که کد برنامه لزوماً خاتمه یا بسته نمی‌شود؛ بلکه ظرفیت مدل برای تولید خروجی مسدود می‌گردد. این طراحی لایه حیاتی اعتبارسنجی را به سمت موتور استنتاج منتقل کرده و وابستگی به بررسی‌های امنیتی مختص هر پژوهشگر در کدهای جداگانه را کاهش می‌دهد.
اوپن‌ای‌آی می‌گوید Control Room بر پایه اصل «بستن پیش‌فرض در صورت خطا» طراحی شده است. اگر سرویس متمرکز با اختلال مواجه شود، دست‌کاری شود یا به صورت آفلاین درآید، موتورهای استنتاج تا زمان بازیابی سیستم درخواست‌ها را پردازش نخواهند کرد.
شرکت تأخیر حداکثر تا ۳۵ ثانیه بین صدور دستور توقف و مسدود شدن واقعی خروجی‌ها را به لایه‌ای از کش نسبت می‌دهد که برای مدیریت حجم بالای درخواست‌ها استفاده می‌شود. اوپن‌ای‌آی می‌گوید در تلاش است آن بازه را به سمت صفر کاهش دهد.
اوپن‌ای‌آی می‌گوید Control Room اکنون در تمام زیرساخت‌های تحقیقاتی این شرکت مستقر شده است.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.