بیل گیتس: الزامات حفاظتی، نظارت و ارزیابی مستقل هوش مصنوعی

بیل گیتس، از مؤسسین شرکت مایکروسافت، به برنامه «مصاحبه با مطبوعات» شبکه ان‌بی‌سی گفت که «کاملاً غیرمسئولانه» است اگر برای سامانه‌های هوش مصنوعی الزام به وجود سازوکارهای حفاظتی و پایش وجود نداشته باشد، و هشدار داد که خطر فوری‌تر از آن است که افراد بدقصد از هوش مصنوعی استفاده کنند. گیتس همچنین از مشارکت قانون‌گذاری و ارزیابی توسط شخص ثالث حمایت کرد.

حفاظت‌های اجباری و نظارت بر صنعت

در این مصاحبه گیتس گفت، «کاملاً غیرمسئولانه است که برای هر سامانه هوش مصنوعی الزام به داشتن این سازوکارهای حفاظتی و قابلیت‌های پایش وجود نداشته باشد.» او استدلال کرد که مجریان قانون و مقامات منتخب باید در بحث‌ها درباره اینکه شرکت‌های هوش مصنوعی چه سازوکارها و فرایندهای پایشی باید به کار گیرند شرکت کنند. گیتس گفت ورود ناظران به این گفتگو ممکن است بار مدیریتی‌ای بر صنعت اضافه کند اما باعث «کندی چشمگیر در فعالیت آنها» نخواهد شد.

پیشنهاد کلید توقف و تهدید از سوی عاملان بدقصد

گوین نیوسام، فرماندار کالیفرنیا، پیشنهادی شامل چیزی شبیه به «کلید توقف» در میان اقدامات دیگر برای مقابله با توسعه سریع هوش مصنوعی مطرح کرده است. وقتی درباره این رویکرد از گیتس پرسیده شد، او گفت، «هرگز نمی‌خواهم بگویم که با کلید توقف مخالفم»، اما افزود که چنین مکانیسمی خطر نزدیک‌تر و فوری‌تر را مرتفع نمی‌کند. او تأکید کرد که نگرانی اصلی در کوتاه‌مدت «افرادی با نیت بد هستند که از هوش مصنوعی استفاده می‌کنند.» گیتس هشدار داد: «هرگز سلاحی به قدرتمندی ترکیب افراد بدقصد با استفاده از جدیدترین ابزارهای هوش مصنوعی وجود نداشته است»، و به‌طور مشخص به خطراتی مانند زیست‌تروریسم و کلاهبرداری مالی گسترده که با کمک هوش مصنوعی تسهیل می‌شود اشاره کرد.

ارزیابی شخص ثالث و تحرکات اخیر صنعت

این اظهارات در پی دوره‌ای مطرح شد که چندین مدیرعامل شرکت‌های هوش مصنوعی از تمایل به کاهش سرعت توسعه حمایت کرده‌اند. جدا از این، شرکت آنتروپیک اخیراً شرکت اکسِنچر را برای ایفای نقش ارزیاب شخص ثالث برای مدل‌های جدید هوش مصنوعی خود به‌کار گرفته است، گامی که با درخواست گیتس برای پایش و نظارت خارجی همراستا است.