رئیس امور بین‌الملل آنتروپیک استدلال کرد که به لحاظ تعریف، مدل‌های هوش مصنوعی متن‌باز ذاتاً خطرات بیشتری نسبت به سامانه‌های مالکیتی شرکت دارند، اظهاراتی که او در یک اجلاس تحت نظارت اتحادیه اروپا در دوبلین مطرح کرد.
هشدار گویوم پرنسن و زمینه آنتروپیک
گویوم پرنسن این اظهارات را در یک اجلاس هوش مصنوعی به رهبری دولت در دوبلین بیان کرد و گفت که دسته متن‌باز (مدل‌هایی که کد، معماری و فایل‌های وزن آنها منتشر شده تا هر کاربری بتواند آنها را دانلود، اجرا یا تغییر دهد) به لحاظ تعریف خطرات بسیار بیشتری ایجاد می‌کند. پرنسن این موضع را با اظهارات پیشین مدیرعامل آنتروپیک داریو آمودی مقایسه کرد، کسی که گفته بود مدل‌هایی با وزن‌های باز که فاقد قابلیت‌های خطرناک هستند باید به عنوان کالای عمومی تلقی شوند.
انتشارهای اخیر متن‌باز و آزمایش‌های ایمنی
این اظهارات در میان تشدید رقابت و ارزیابی‌های اخیر ایمنی مطرح شدند. هفته گذشته شرکت اروپایی میسترال مدل «لارج 4» با نام «لو چونک» را معرفی کرد، مدلی که شرکت می‌گوید دارای یک تریلیون پارامتر است، در اروپا آموزش دیده و بر حاکمیت داده تأکید دارد. میسترال هنوز فایل‌های وزن این مدل را منتشر نکرده است؛ دسترسی در حال حاضر فقط از طریق رابط برنامه‌نویسی میسترال امکان‌پذیر است و شرکت زمان‌بندی انتشار وزن‌ها را برای ۲۷ اکتبر تعیین کرده است.
ارزیابی‌های مستقل و نهادی که در طول اجلاس به آنها اشاره شد، رفتار ایمنی متفاوتی در میان مدل‌های متن‌باز نشان دادند. یک ارزیابی از سوی سیفر‌ای‌آی نشان داد که مدل چینی «جی‌ال‌ام-۵.۲» هیچیک از وظایف مرتبط با حملات سایبری مخرب یا درخواست‌های دوکاره زیستی را رد نکرد. در مقابل، مدل «کلود» آنتروپیک گزارش شده که تعداد زیادی درخواست را به دلایل ایمنی رد کرد به‌طوری که تکمیل معیارهای بنچمارک ممکن نشد. پژوهش تیم قرمز مرزی آنتروپیک نیز نشان داد که مدل‌های کوچکتر می‌توانند روی جعبه‌های تلویزیون اندرویدی کم‌هزینه تکثیر شوند؛ همه مدل‌های موجود در آن آزمایش، از جمله «جما4» و «جی‌ال‌ام-۵.۲»، متن‌باز بودند.
یادداشت قیمت‌گذاری و منافع منطقه‌ای در دوبلین
پرنسن همچنین تغییر قیمت برای «کلود» را اعلام کرد: هزینه معمول برای «کلود اوپوس ۵.۵» در مقایسه با نسخه قبلی ۴۰ درصد کاهش یافته است. او این کاهش را ناشی از یک کاهش رسمی ۲۰ درصدی قیمت همراه با کاهش مصرف توکن در نسخه جدید دانست.
اظهارات پرنسن در دوبلین، ایرلند ایراد شد. چندین نشریه و گروه جامعه مدنی دوبلین را محل بحث و جدل خوانده‌اند زیرا نرخ‌های پایین مالیاتی شرکتی در ایرلند مدت‌هاست که شرکت‌های بزرگ فناوری را جذب کرده و درآمد قابل‌توجهی برای دولت ایجاد کرده است؛ این گروه‌ها استدلال می‌کنند که منافع مالی ممکن است بی‌طرفی ایرلند در تنظیمات هوش مصنوعی را پیچیده سازد. آنتروپیک منافع تجاری قابل‌توجهی در اروپا دارد: این شرکت اروپا را سریع‌ترین بازار روبه‌رشد خود توصیف می‌کند، دفتر نخست اروپایی خود را در دوبلین گشوده است، و گزارش شده که برای عرضه اولیه سهام آماده می‌شود با ارزش‌گذاری ادعا شده ۹۶۵ میلیارد دلار.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.