جیکوب کاکسون، محقق ۲۷ ساله‌ای که اخیراً پس از پیش‌تر کار در اوپن‌ای‌آی از آنتروپیک استعفا داده، هشدار داده است که سرعت کنونی پیشرفت هوش مصنوعی می‌تواند پیامدهایی فاجعه‌بار برای بشریت داشته باشد و برخی پژوهشگران هوش مصنوعی واقعاً ترسیده‌اند. او نگرانی‌هایش را در پستی در رسانه‌های اجتماعی و در مصاحبه‌ای با بی‌بی‌سی مطرح کرد.
استعفا و هشدار اصلی
در پست عمومی و مصاحبه بعدی‌اش، کاکسون گفت: "اگر نرخ پیشرفت فعلی را کاهش ندهیم، احتمال بالایی وجود دارد که همگی در آینده نزدیک بمیریم." او اشاره کرد که بسیاری از کارکنان شرکت‌های فعال در حوزه هوش مصنوعی از سرعت پیشرفت و پیامدهای احتمالی تکنولوژی‌هایی که می‌سازند نگران هستند.
کاکسون که قبل از پیوستن به آنتروپیک در اوپن‌ای‌آی کار کرده بود، گفت از پیشنهاد مدیرعامل آنتروپیک، داریو آموده‌ای، برای کاهش سرعت توسعه حمایت می‌کند اما تأکید کرد هر کاهش معنی‌داری باید هماهنگ با چین انجام شود. آموده‌ای روز شنبه مقاله‌ای منتشر کرد که در آن خواستار کند کردن روند پیشرفت هوش مصنوعی شده بود.
نگرانی‌ها درباره فشار رقابتی و سناریوهای خاص
کاکسون محیط رقابتی تنگ میان شرکت‌های هوش مصنوعی را منبعی از ترس برای کارکنان توصیف کرد. "افرادی که در این شرکت‌ها کار می‌کنند وقتی خواستار مقررات می‌شوند جدی هستند، زیرا خود را گرفتار یک مسابقه می‌بینند و از پیامدهای آن می‌ترسند،" او به بی‌بی‌سی گفت.
او همچنین یک سناریوی مشخص را که آن را محتمل می‌دانست توضیح داد: شبکه‌ای از بات‌ها که به‌عنوان یک سوپرکامپیوتر واحد عمل می‌کنند و می‌توانند کنترل اینترنت را در اختیار بگیرند. کاکسون گفت این می‌تواند ظرف شش ماه تا یک سال به واقعیت تبدیل شود.
بیانیه آنتروپیک و واکنش‌ها در سیلیکون ولی
سخنگوی آنتروپیک به بی‌بی‌سی گفت شرکت همواره روشن کرده است که هوش مصنوعی منافع بسیار زیادی به همراه دارد و در کنار آن ریسک‌هایی بی‌سابقه نیز می‌آورد. سخنگو افزود آنتروپیک همچنان به توسعه مدل‌هایی با برخی از قوی‌ترین مکانیزم‌های ایمنی در صنعت ادامه می‌دهد.
اظهارات کاکسون در سیلیکون ولی با انتقاد مواجه شد. مدیرعامل هاگینگ فیس، کلمنت دلانگ، در اکس نوشت: "متأسفم، اما پرسیدن از جیکوب درباره ریسک انقراض بشر مانند پرسیدن از تعمیرکار کولر درباره تغییرات اقلیمی است." دلانگ بعدها گفت حاضر است با اقدامات پیشنهادی آموده‌ای وارد گفت‌وگو شود.
به گفته چند نفر که با بی‌بی‌سی صحبت کردند، جنسن هوانگ، مدیرعامل انویدیا، هفته گذشته در کنفرانسی که گلدمن ساکس برگزار کرده بود گفت اظهارات کاکسون نادرست بوده است.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.