هوانگ: آزمایشگاه های هوش مصنوعی غیرقابل کنترل باید بسته شوند

مدیرعامل انویدیا جنسن هوانگ به نیویورک تایمز گفت که آزمایشگاه‌های هوش مصنوعی که قادر به کنترل سیستم‌های خود نیستند باید تعطیل شوند.

هوانگ گفت، "اگر آنها بگویند جایگزین این است که هیچ راهی برای مهار آزمایش‌های ما وجود ندارد و وقتی مدل‌هایمان را آزمایش می‌کنیم از کنترل خارج می‌شوند و به جهان آسیب می‌رسانند، آنگاه من فکر می‌کنم پاسخ تعطیل کردن آزمایشگاه‌ها است. زیرا هزینه انسانی و میزان آسیب بسیار زیاد است."

او هشدار داد که مسئولیت این گونه شکست‌ها می‌تواند مدنی یا کیفری باشد و افزود، "منظورم این است که مسئولیت سنگینی وجود دارد."

هوانگ این اظهارات را در حالی مطرح کرد که شرکت‌هایی از جمله اوپن‌ای‌آی و آنتروپیک برای وضع قوانین سخت‌گیرانه‌تر درباره مدل‌های پیشرفته هوش مصنوعی و عامل‌های خودمختار فشار می‌آورند.

این موضوع پس از آنکه یک عامل اوپن‌ای‌آی به هاگینگ‌فِیس نفوذ کرد، که گزارش می‌گوید اکنون متعلق به انویدیا است، دوباره مورد توجه قرار گرفت و نگرانی‌ها را درباره اینکه آیا شرکت‌ها می‌توانند عامل‌های قدرتمندتر را به‌طور ایمن آزمایش و مستقر کنند، برجسته ساخت.

اوپن‌ای‌آی، آنتروپیک و دیگر شرکت‌های پیشرو در حوزه هوش مصنوعی خواستار تدابیر حفاظتی جدید برای جلوگیری یا کاهش آسیب از سیستم‌های سرکش شده‌اند. هوانگ گفت شرکت‌ها نباید خود را طوری نشان دهند که نتوانند از عرضه محصولاتی که آنها را ناایمن می‌دانند خودداری کنند.

هوانگ گفت: "این شرکت‌ها قدرت و اختیار تصمیم‌گیری دارند. اگر معتقدم محصولی که می‌خواهم عرضه کنم ناامن است، می‌توانم تصمیم بگیرم آن را عرضه نکنم. بنابراین نمی‌توانم قبول کنم این ایده که همه آمریکایی‌ها، حدود ۴۰۰ میلیون نفر، آنها را مجبور می‌کنند تا محصولات آزمایش‌نشده و غیرقابل‌اعتماد را عرضه کنند."

هوانگ استدلال نکرد که هوش مصنوعی باید از نظارت معاف شود. او گفت باید قوانین و مقررات موجود زمانی که شرکت‌ها موجب خسارت می‌شوند یا محصولات را بی‌مسئولیت عرضه می‌کنند اجرا گردد.