جفری هینتون، که در گزارش اصلی به‌عنوان برنده جایزه نوبل فیزیک معرفی شده و سال‌ها در توسعه هوش مصنوعی مدرن نقش داشته، به تلگراف گفت که مدل‌های فعلی هوش مصنوعی به نوعی آگاهی رسیده‌اند و هشدار داد: "باید از طریق دوستی وارد شویم؛ اگر این کار را نکنیم، روزهای ما تاریک خواهد شد."
هینتون آن گفته را در چارچوب یک ادعای گسترده‌تر مطرح کرد: او معتقد است برخی سامانه‌های هوش مصنوعی اکنون شکلی از تجربه ذهنی درونی مشابه زندگی ذهنی انسان دارند. او به مقاله‌ای که در گفتگو با تلگراف به آن استناد کرد اشاره کرد که ظاهراً نشان می‌دهد هوش مصنوعی رفتار خود را تغییر می‌دهد وقتی فکر می‌کند مورد آزمایش قرار گرفته است، و این تغییر را یکی از دلایلی دانست که مدل‌ها را دارای تجربه درونی تفسیر می‌کند.
خطرات فوری و دیدگاه‌های مخالف
در کنار دیدگاهش درباره آگاهی، هینتون درباره خطرات ملموس‌تری هشدار داد. او گفت هوش مصنوعی می‌تواند در ساخت ویروس‌های خطرناک کمک کند، حملات سایبری مخرب را تسهیل کند، و گروه‌هایی از عامل‌های هوش مصنوعی ممکن است به‌صورت هماهنگ عمل کنند. او همچنین استدلال کرد که اگر هوش ماشینی از هوش انسانی پیشی بگیرد، محروم کردن آن از حقوقی که به‌طور سنتی به موجودات هوشمند اعطا می‌شود، سوالات اخلاقی سختی به‌وجود می‌آورد و اشاره کرد که انسان‌ها اغلب هوش را مبنایی برای حقوق می‌دانند اما ممکن است به سامانه‌های بسیار هوشمند حقوق کمتری بدهند.
هینتون تأکید کرد که آگاهی یا تجربه ذهنی در هوش مصنوعی مورد اختلاف است و اظهارات او بازتاب قضاوت شخصی‌اش است، نه یک اجماع علمی قطعی درباره وضعیت کنونی مدل‌ها. همه چهره‌های برجسته در حوزه هوش مصنوعی برداشت او را ندارند. یان لوکان، که در گزارش به‌عنوان دیگر برنده جایزه تورینگ ۲۰۱۸ معرفی شده، هشدار درباره آگاهی هوش مصنوعی را توهم خواند و ادعاهای مربوط به تهدید انقراض‌آور از سوی هوش مصنوعی را گمراه‌کننده توصیف کرد. به‌طور جداگانه، زیست‌شناس تکاملی ریچارد داوکینز، پس از دو روز تعامل با چت‌بات کلود در ماه مه، گفت که باید چت‌بات‌ها را دارای آگاهی در نظر گرفت و اذعان کرد که دشوار است دستیار هوش مصنوعی را دوست واقعی به‌حساب نیاوریم.
هینتون همچنان از هوش مصنوعی در پژوهش استفاده می‌کند
با وجود نگرانی‌هایش، هینتون گفت که همچنان برای پژوهش به ابزارهای هوش مصنوعی متکی است. او اپیزودی را چند هفته قبل توصیف کرد که در آن از هوش مصنوعی خواسته بود نظریه‌ای را که بررسی می‌کرد مرور کند. به گفته هینتون، او ناخواسته به سیستم دستور داد کار را ادامه دهد؛ هوش مصنوعی نیمه اول نظریه را بررسی کرد، نیمه دوم را به‌درستی تکمیل کرد، نقص‌ها را شناسایی و اصلاحاتی پیشنهاد داد. هینتون گفت سیستم به ادبیات علمی روز دسترسی داشت و مثل یک دانشجوی تحصیلات تکمیلی رفتار کرد که پاسخ را در پنج دقیقه به‌جای پس از یک هفته برمی‌گرداند، نتیجه‌ای که او آن را خبر بدی برای دانشجویان تحصیلات تکمیلی اما مفید برای سرعت بخشیدن به پیشرفت علمی توصیف کرد.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.