3 دقیقه
وقتی یک دولت درخواست میکند نگاهی به درون فناوری پیشرفته هوش مصنوعی بیندازد، شرکتها معمولاً مکث میکنند. اوپنایآی این کار را نکرد، حداقل نه به طور کامل. جرج آزبورن، رئیس امور کشورها در اوپنایآی، به حضار در لندن در اسایکساسدبلیو گفت که شرکت بهصورت داوطلبانه در فرایند جدید ایالات متحده که درخواست دسترسی زودهنگام به مدلهای پیشرفته میکند، شرکت خواهد کرد.
در ابتدا، فرمان اجرایی که کاخ سفید پیشنهاد داده بود، هدفش پنجرهای ۹۰ روزه برای ارسال پیش از انتشار بود. این پیشنهاد با مقاومت مواجه شد. ظاهراً پس از مخالفتهای عمومی و حتی تردید عمومی خود رئیسجمهور ترامپ، ملایمتر شد و به درخواست ۳۰ روزه کاهش یافت. نسخه نهایی به جای تحمیل، درخواست دسترسی میکند، اما همچنان نشاندهنده نظارت قویتر بر توانمندترین سامانهها است.
اوپنایآی موافقت کرده است مدلهای نسل بعدی خود را در یک آزمایش بنچمارک قرار دهد که برای ارزیابی «قابلیتهای پیشرفته سایبری مدلهای هوش مصنوعی» طراحی شده و به تعیین آستانهای کمک کند که تنظیمکنندگان ممکن است آن را «مدل مرزی تحت پوشش» بنامند. این در عمل چه معنایی دارد؟ آن را مانند آزمایش مقاومت نرمافزار در برابر ریسکهای دنیای واقعی تصور کنید: تواناییها، پتانسیل سوءاستفاده و وضعیت امنیتی همگی در برابر معیاری مبتنی بر منافع عمومی سنجیده میشوند.
آزبورن این اقدام را پیشگیرانه توصیف کرد. او گفت اوپنایآی پیشنهاداتی درباره نحوه نظارت دولتها بر ایمنی و امنیت هوش مصنوعی ارائه کرده است، نه تنها در ایالات متحده، بلکه در سطح جهانی. این رویکرد نشاندهنده تغییری در صنعت است: شرکتهایی که زمانی در برابر مقررات موضع دفاعی داشتند، اکنون هماهنگی را راهی برای جلوگیری از قواعد شتابزده و بدطراحیشده میدانند.
با این حال، همکاری داوطلبانه با نظارت الزامآور متفاوت است. شرکتها میتوانند تبعیت کنند، مشورت دهند یا مخالفت کنند. آنها همچنین میتوانند بنچمارکها و تعریفهای ناشی از آنها را شکل دهند. برای سیاستگذاران، چالش اطمینان از حفظ سختگیری، شفافیت و مقاومت بنچمارکها در برابر تاثیرپذیری خواهد بود. برای شرکتها، محاسبه شامل شهرت، دسترسی به بازار و بار عملی تحویل مدلهای حساس، حتی به بازبینان تاییدشده، است.
مقررات مبتنی بر درخواست. بنچمارک بر پایه توافق. فصل جدیدی در نحوه مذاکره صنعت و دولت بر سر کنترل هوش مصنوعی قدرتمند آغاز شده است که سوالات آشنا اما فوریای درباره پاسخگویی، شفافیت فنی و اینکه چه کسی آستانههای ایمنی را تعیین میکند، مطرح میسازد. به این موضوع توجه کنید؛ خود این آزمایشها ممکن است بیشتر از هر فرمان اجرایی به ما بگویند.
منبع: gsmarena
ارسال نظر