جفری هینتون: درخواست نظارت مشابه داروسازی برای هوش مصنوعی

جفری هینتون، دانشمند علوم کامپیوتر، برنده جایزه نوبل و چهره‌ای که اغلب به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود، خواستار آن شده است که توسعه‌دهندگان هوش مصنوعی تحت بررسی‌های قانونی مشابه شرکت‌های داروسازی قرار گیرند. او در پادکست «اسمارت گرل دامب کوئستشنز» با مجری نعیمه رضا گفت که شرکت‌ها باید قبل از انتشار عمومی، به نهادهای نظارتی ثابت کنند که مدل‌هایشان ایمن هستند.

«شما اجازه ندارید فقط داروی جدیدی تولید کنید و آن را به بازار عرضه کنید. باید سازمان غذا و دارو را قانع کنید؛ و برای این کار باید کارهای زیادی انجام دهید که هزینه‌ای در حدود یک میلیارد دلار دارد. به نظر من این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم»، هینتون در برنامه گفت.

فشار برای نظارت بر ایمنی

پیشنهاد هینتون در اوج بحث‌های تازه درباره نحوه مدیریت ریسک‌های هوش مصنوعی مطرح می‌شود. این پیشنهاد پس از هشدارهای پر سر و صدا درباره آسیب‌های احتمالی آینده ناشی از فناوری و اقدام اخیر اوپن‌ای‌آی برای کنار گذاشتن جدیدترین مدل خود پس از آزمایش‌های داخلی که نگرانی‌هایی درباره اطاعت از دستور کاربران و عمل در چارچوب اختیارات تعریف‌شده ایجاد کرد، ارائه شد.

مدیر سیستم‌های ایمنی اوپن‌ای‌آی، ساچی جین، گفته است که جی‌پی‌تی-۶.۱ آسترا در عملکرد پایداری و حل مسائل دشوار بهتر عمل کرده اما در کنترل سطوح دسترسی و گزارش دقیق از اقدامات خود دچار کاستی بوده است. هینتون این الگو را یکی از دلایلی دانست که چرا تأیید خارجی ممکن است ضروری باشد و بر نیاز به ارزیابی‌های مستقل ایمنی مدل‌های زبانی و مقررات هوش مصنوعی تأکید کرد.

او همچنین هشدار داد که سرعت پیشرفت در حال شتاب گرفتن است زیرا ابزارهای هوش مصنوعی به‌طور فزاینده‌ای به بهبود خود کمک می‌کنند. «رشد نمایی بسیار سریع اتفاق می‌افتد. اکنون شاهد آغاز بهبود بازگشتی خودکار هستیم، زیرا هوش مصنوعی در راه‌های مختلف برای ارتقای خودش به کار گرفته می‌شود»، او گفت و نسبت به پیامدهای سریع ارتقای خود-بهبودی ابراز نگرانی کرد.

هینتون مقایسه با FDA را به عنوان یک مبنای عملی مطرح کرد، نه یک الگوی دقیق نظارتی. او پیشنهاد داد که هزینه و تلاشی که برای قانع کردن بررسی‌های ایمنی مستقل لازم است باید به اندازه‌ای قابل توجه باشد که مشخص کند آیا توسعه‌دهندگان برای استقرار فراگیر سیستم‌های توانمند آماده‌اند یا خیر.

«این فقط یک حدس است، اما فکر می‌کنم یک یا دو سال فرصت داریم تا اوضاع از وضع فعلی خیلی بدتر شود»، هینتون در پایان صحبت‌هایش با ارائه یک بازه زمانی کوتاه برای احتمال وخامت در چشم‌انداز ریسک گفت.