هوآوی: فاصله توان محاسباتی و چالش های ایمنی هوش مصنوعی

اریک شو، رئیس دوره‌ای هوآوی، گفت توسعه‌دهندگان هوش مصنوعی در چین ممکن است هنوز به اندازه‌ای پیشرفته نباشند که با نوع خطرات ایمنی‌ای روبه‌رو شوند که شرکت‌های برجستهٔ آمریکایی گزارش داده‌اند. او در رویداد سالانهٔ «کانکت» هوآوی در شانگهای گفت شرکت‌ها باید به ساخت مدل‌های قدرتمندتر ادامه دهند و در عین حال بین نوآوری و مدیریت ریسک تعادل برقرار کنند.

شو به خبرنگاران گفت: «اگر به ارائه‌دهندگان عمده مدل‌های هوش مصنوعی در ایالات متحده نگاه کنید، چون آن‌ها قدرت محاسباتی بسیار زیادی دارند، شاید تنها خودشان بدانند مدل‌هایشان تا چه سطحی از توانایی رسیده‌اند.» او افزود: «ممکن است نوع خطراتی که آن‌ها می‌توانند حس یا درک کنند، چیزی باشد که مردم یا توسعه‌دهندگان مدل در چین قادر به تجربه‌اش نیستند.» اظهارات او فاصله در توانایی و مواجهه با مسائل ایمنی سطح بالا را مرتبط با قدرت محاسباتی در دسترس دانست.

نگرانی‌ها و واکنش‌های ایالات متحده درباره ایمنی

اظهارات شو هم‌زمان با افزایش نگرانی درباره ایمنی هوش مصنوعی در ایالات متحده مطرح شد. توسعه‌دهندگان و پژوهشگران برجسته هشدار داده‌اند که سیستم‌های رو به خودمختار شدن ممکن است تدابیر حفاظتی را دور بزنند یا کنترلشان دشوار شود. اوپن‌ای‌آی این هفته اعلام کرد رفتارهای غیرمنتظره یا غیرمجاز در مدل‌هایش را به‌طور منظم گزارش خواهد کرد. مدیرعامل آنتروپیک خواهان کند کردن روند توسعه شده تا مکانیسم‌های ایمنی فرصت جبران داشته باشند.

در چین، این فراخوان‌ها برای کند کردن توسعه به‌شدت توسط پژوهشگران و رسانه‌های دولتی مورد انتقاد قرار گرفته است. آن‌ها استدلال کردند که کند کردن عمدی پیشرفت مدل‌های سطح بالا می‌تواند به حفظ مزیت تکنولوژیکی شرکت‌های آمریکایی کمک کند. برخی مفسران چینی پیشنهادهایی برای کند کردن توسعه را تلاش برای محدود کردن رقبایی که هنوز از آزمایشگاه‌های پیشروی آمریکا عقب‌اند دانستند، نه صرفاً پاسخی به نگرانی‌های ایمنی.

رویکرد چین نسبت به هوش مصنوعی پیشرفته

پکن هوش مصنوعی پیشرفته را فناوری قدرتمندی می‌داند که می‌توان آن را در حالی مدیریت کرد که توسعه و استقرار سریع ادامه یابد. دولت چین در حال تدوین استانداردهای اجباری، ارزیابی‌های امنیتی و دیگر تدابیر حفاظتی است تا خطراتی مانند دورزدن کنترل‌ها توسط عامل‌های خودمختار یا حمله به سیستم‌های خارجی را پوشش دهد. مقامات همچنین در حال آماده‌سازی یک استاندارد ملی اجباری برای ایمنی عامل‌های هوش مصنوعی هستند.