شاه چارلز سوم: هوش مصنوعی ممکن است به جان انسان ها آسیب برساند

شاه چارلز سوم روز پنج‌شنبه به مدیران ارشد شرکت‌های فعال در زمینه هوش مصنوعی گفت که ممکن است هوش مصنوعی «توانایی‌های تاریک‌تری، شاید حتی توانایی گرفتن جان انسان‌ها» را به‌دست آورد و تأکید کرد که باید پیش از آنکه دیر شود، اقدامات حفاظتی اجرا شوند.

این هشدار در جریان جلسه‌ای خصوصی که او با برخی از چهره‌های برجسته این حوزه و مقامات ارشد بریتانیا برگزار کرده بود، مطرح شد. شاه به رؤسای فناوری حاضر گفت که «افرادی که این فناوری‌ها را ایجاد کرده‌اند، اکنون بیش از هر زمان دیگری هشدار می‌دهند که هوش مصنوعی در خطر توسعه توانایی‌های تاریک‌تر است؛ شاید حتی توانایی گرفتن جان انسان‌ها.» او افزود «در این زمینه، اگر اجازه داشته باشم بگویم، به‌نظر می‌رسد فوریت دارد که خطرات وجودی ناشی از افتادن این فناوری‌ها به دست افراد نادرست و استفاده از آنها به شیوه‌هایی که می‌تواند فاجعه‌بار باشد، به‌طور دقیق بررسی شود.»

حاضرین و زمینه برگزاری جلسه

حاضرین شامل جنسن هوانگ، مدیرعامل انویدیا؛ چندین مدیر از اوپن‌ای‌آی و آنتروپیک؛ کانیشکا نارایان، وزیر جدید بریتانیا در امور هوش مصنوعی؛ و رئیس سرویس اطلاعات خارجی این کشور بودند. پائولو بنانتی، مشاور پاپ در زمینه هوش مصنوعی، نیز حضور داشت. این جلسه خصوصی بود و روز پنج‌شنبه برگزار شد.

این اظهارات قابل توجه است زیرا خاندان سلطنتی بریتانیا به‌طور سنتی از ورود عمیق به بحث‌های سیاسی به خاطر ملاحظات قانون اساسی خودداری می‌کند، در حالی که هوش مصنوعی امروز یکی از جنجالی‌ترین مسائل جهانی باقی مانده است. شاه رشد سریع هوش مصنوعی را هم جذاب و هم عمیقاً نگران‌کننده توصیف کرد.

نگرانی‌های ایمنی و استعفای اخیر

اظهارات شاه پس از استعفای یکی از پژوهشگران آنتروپیک مطرح شد که نگرانی‌های امنیتی را دلیل اعلام کرد. در یک پست آنلاین، آن پژوهشگر نوشت که شرکت‌های فعال در حوزه هوش مصنوعی «در رقابت برای ساخت ماشین‌هایی بسیار باهوش‌تر از هر انسان» هستند و هشدار داد که «ممکن است بشریت از این وضعیت جان سالم به در نبرد.»

شاه چارلز نتیجه‌گیری کرد و رهبران را به یافتن راه‌هایی برای بهره‌گیری از جنبه‌های مثبت هوش مصنوعی و ایجاد همکاری و اجماع بین‌المللی برای نیل به این هدف فراخواند.