4 دقیقه
برای پانزده روز یک مدل مطرح هوش مصنوعی از دید عموم ناپدید شد. مردم متوجه شدند. مهندسان متوجه شدند. شرکتهایی که روی آن شروع به ساخت کرده بودند احساس کردند زیر پایشان جابجا شده است. فیبل ۵، مدل پیشرفته استدلال و برنامهنویسی آنتروپیک، پس از آنکه مقامات ایالات متحده نگرانیهای امنیتی مطرح کردند، غیرفعال شد و حالا منابع میگویند که ممنوعیت در شرف برداشته شدن است.
این توقف بیسابقه بود. مدلهای بزرگ معمولاً بهروزرسانی، محدود یا تنظیم میشوند. بندرت پیش میآید که بهخاطر مداخله دولت، در میانه عرضه از دسترس خارج شوند. این موضوع بود که این رخداد را شاخص کرد: کشمکش بین استارتاپهای سریعالتحول هوش مصنوعی و فرایندهای بازبینی امنیت ملی کندتر را برملا ساخت. مذاکرات بین آنتروپیک و مقامات ایالات متحده فشرده اما خصوصی بوده است، و منابع به اکسیوس و دیگر رسانهها گفتهاند که یک توافق میتواند طی چند روز دسترسی گستردهتری به فیبل ۵ را بازگرداند.
در همین حال، وزارت بازرگانی گامی کوچکتر برداشت: اجازه داد آنتروپیک میثوس ۵، قویترین مدل امنیت سایبری شرکت، را برای جمع محدودی از کاربران بررسیشده دوباره فعال کند. این اقدام نشاندهنده چارچوبی مبتنی بر مصالحه است. معرفیهای محدود و کنترلشده. انتشارهای تحت نظارت. مسیری میانی بین ممنوعیت کامل و انتشار بدون محدودیت.
موضوعات کاربردی بودند. توسعهدهندگان و شرکتها بهخاطر توانمندیهای استثنایی استدلالی و برنامهنویسی فیبل ۵ هیجانزده شده بودند. یک شرکت، استریپ، گفت استفاده از این مدل به تیمهایش اجازه داد یک پایگاهکد پنجاهمیلیونخطی را در یک روز بررسی کنند، کاری که در غیر این صورت ماهها زمان میبرد. تصور کنید چنین سطحی از خودکارسازی چه تاثیری بر بهرهوری و کاهش ریسک دارد. اما پتانسیل سوءاستفاده را نیز در نظر بگیرید. همین تنش دقیقاً دلیلی بود که ناظران دخالت کردند.
طبق نامهای از وزارت بازرگانی، آنتروپیک در تلاشها برای کاهش ریسکهای مرتبط با هر دو مدل فیبل ۵ و میثوس ۵ همکاری کرده و متعهد شده با نهادهای دولتی در زمینه استانداردها، پروتکلهای انتشار و تضمینهای فنی همکاری کند. این همکاری توسط نهادهای دفاعی و اطلاعاتی بهدقت رصد میشود؛ بازگرداندن کامل عمومی فیبل ۵ هنوز نیازمند تایید نهایی پنتاگون و آژانس امنیت ملی است.
آنتروپیک و اوپنایآی مسیر متفاوتی را پیشنهاد کردهاند: بهجای مداخله موردی، آنها خواهان معیارهای فنی روشن و فرایند بازبینی شفاف و قابل پیشبینی برای مدلهای پیشرفته هستند. این خواسته از نظر لحن ساده است اما در عمل دشوار. چه کسی معیار ایمنی را تعریف میکند؟ کدام شاخصها اهمیت دارند؟ چگونه میتوان بین نوآوری و نظارت تعادل برقرار کرد بدون اینکه توسعه متوقف شود؟
آنچه اکنون در حال رخدادن است کمتر درباره یک مدل خاص و بیشتر درباره چگونگی حکمرانی دولتها و شرکتها بر هوش مصنوعی قدرتمند در آینده است. انتظار انتشارهای تنظیمشده بیشتر، تدوین مقررات مشترک بیشتر و بحثهای گسترده را داشته باشید. چند هفته آینده نشان خواهد داد که آیا ناظران میتوانند به اندازه فناوری که قصد نظارت بر آن را دارند چابک عمل کنند یا اینکه استارتاپها همچنان با محدودیتهایی که به نام امنیت ملی اعمال میشود مواجه خواهند شد.
به اطلاعیههای رسمی و پورتالهای توسعهدهندگان توجه کنید؛ بازگشت فیبل ۵ ممکن است پیشنمایشی از قوانین باشد که هوش مصنوعی را در سالهای آینده شکل خواهند داد.
منبع: smarti
ارسال نظر