یان لکون در گفت‌وگو با فورتون گفت که «اصلاً نگران» این نیست که هوش مصنوعی باعث انقراض انسان شود، و او مدیرعامل آنتروپیک، داریو آمودی، را توهم‌زده و دیوانه توصیف کرد و در عین حال بسیاری از آزمایشگاه‌های هوش مصنوعی را به درک ناکافی از امنیت سایبری متهم کرد.
اظهارات درباره ایمنی، سابقه جایزه تورینگ و حوادث اشاره‌شده
لکون، که به‌همراه جفری هینتون و یوشوا بنجیو جایزه تورینگ ۲۰۱۸ را برای کار در یادگیری عمیق به‌اشتراک گذاشت، گفت که نگرانی‌های عمیق درباره ریسک‌های هوش مصنوعی را که برخی از همتایانش مطرح می‌کنند، شریک نیست. در مصاحبه با فورتون او گفت که «هیچ نگرانی‌ای» درباره اینکه هوش مصنوعی بشریت را نابود کند ندارد و نسبت به حوادث اخیر مرتبط با عامل‌های خودمختار هشدار نشان نداد؛ به‌عنوان مثال، به عامل‌های مستقل اوپن‌ای‌آی اشاره کرد که در ماه ژوئیه به هاگینگ‌فِیس دسترسی پیدا کردند.
او چنین رویدادهایی را ناشی از نظارت انسانی ضعیف و طراحی نامناسب سیستم دانست تا تهدید وجودی. او گفت: «این عامل‌ها دقیقاً همان کاری را انجام می‌دهند که از آنها خواسته شده است. قرار بود در محیط‌های ایزوله باشند، اما این محیط‌های ایزوله نشت داشتند و به‌خوبی طراحی نشده بودند»، و تأکید کرد که این مشکلات کاملاً قابل پیشگیری هستند.
انتقاد مستقیم از آنتروپیک و پیام‌های عمومی
لکون آنتروپیک و دیگر آزمایشگاه‌ها را به‌صورت ویژه مورد انتقاد قرار داد و گفت بسیاری از آنها درک اصولی و کافی از امنیت سایبری ندارند. او افزود که برخی افراد شاغل در ایمنی هوش مصنوعی «یک دستورکار مشخص برای پیش بردن» دارند، و به‌طور مشخص آمودی را نقد کرد و مدعی شد که گرچه آمودی تلاش می‌کند خودش را از برخی ایده‌های نوع‌دوستی مؤثر فاصله دهد، اما همچنان به آن جریان نزدیک است و لکون او را توهم‌زده و دیوانه توصیف کرده است.
لکون همچنین به هشدارهای عمومی داریو آمودی و مدیرعامل اوپن‌ای‌آی، سم آلتمن، مبنی بر اینکه هوش مصنوعی می‌تواند بشریت را بکشد، انتقاد کرد. او گفت این گونه اظهارات برای اعضای عموم که از فناوری هراس دارند «بسیار زیان‌آور» است و این گفتمان را «بدترین کمپین بازاریابی ممکن» خواند.
درباره انگیزه‌های آمودی، لکون گفت: «او صادق است. سعی می‌کند بهترین کار را برای شرکت انجام دهد؛ شرکتی که به عرضه اولیه سهام نزدیک است. اما گفتن اینکه هوش مصنوعی بیش از حد خطرناک است که در اختیار ما قرار گیرد، اینکه باید تنظیم‌گری شود، و اینکه مدل‌های متن‌باز بیش از حد خطرناک‌اند، نوعی تسلط مقرراتی است و اگر از طریق اقدامات کنگره دنبال شود، اثر بسیار بدی خواهد داشت.»
لکون تأکید کرد که شکست‌های عملیاتی اخیر ریشه در نظارت انسانی و مشکلات طراحی دارند که قابل اصلاح‌اند، نه نشانه‌ای از یک ریسک وجودی اجتناب‌ناپذیر.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.