سم آلتمن، مدیر عامل اوپن‌ای‌آی، در گفتگو با خبرنامه فناوری پولیتیکو به نام دیکودد گفت که منافع و دستاوردهای هوش مصنوعی توجیه‌کننده پذیرش برخی ریسک‌ها هستند و این فناوری باید برای عموم به‌طور گسترده در دسترس باقی بماند.
دیدگاه آلتمن درباره ریسک، دسترسی و نظارت
در این مصاحبه با دیکودد، آلتمن گفت: «ما معتقدیم جهان باید برخی نتایج نامطلوب را بپذیرد تا بتوان از مزایای این فناوری بهره برد و مردم اختیار عمل داشته باشند.» او این معامله را لازم دانست تا به مردم اجازه داده شود از هوش مصنوعی برای اهداف مثبت استفاده کنند، نه اینکه کنترل در اختیار یک نهاد واحد متمرکز شود.
آلتمن درک طرفداران محدودیت‌های شدید را تصدیق کرد، اما گفت با این دیدگاه مخالف است که تنها یک آزمایشگاه در سان‌فرانسیسکو باید توسعه و توزیع را برای جلوگیری از رخدادهای منفی کنترل کند. او آن موضع را «یک سازش کاملاً غیرقابل‌قبول» خواند و گفت اوپن‌ای‌آی از نظارت حداقلی و سنجیده حمایت می‌کند به‌جای کنترل متمرکز. آلتمن افزود که تلاش برای حذف کامل همه ریسک‌ها، برای مثال از طریق توافقی که نشت‌های امنیتی، سوءاستفاده، تقلب یا دیگر آسیب‌ها را به‌طور کامل متوقف کند، منطقی نیست، زیرا او معتقد است کاربردهای مثبتِ ممکن‌شده توسط هوش مصنوعی به‌طور قابل‌توجهی از ضررهای احتمالی پیشی خواهند گرفت.
هشدارها و بحث‌های داخلی آنتروپیک
این اظهارات در حالی مطرح می‌شود که بحث‌ها درباره سرعت توسعه و خطراتی که سیستم‌های پیشرفته‌تر ایجاد می‌کنند شدت یافته است. مدیرعامل آنتروپیک، داریو آمودئی، در ماه سپتامبر از توسعه‌دهندگان خواست پیشروی در مرزهای پژوهش هوش مصنوعی را کند کنند. آلتمن پیش‌تر به‌طور علنی از کند کردن توسعه حمایت کرده بود، اما در این مصاحبه تفاوت چشمگیری بین جهان‌بینی اوپن‌ای‌آی و آنتروپیک در زمینه نظارت و تنظیم مقررات را برجسته کرد.
در همان ماه، یک پژوهشگر در آنتروپیک، جیکوب ککسون، استعفا داد و استدلال کرد توسعه‌دهندگان برآورد می‌کنند این سیستم‌ها ممکن است تا پیش از پایان دهه بقای بشر را تهدید کنند. آنتروپیک هشدار داده است که مدل‌های پیشرفته، علی‌رغم ارائه مزایای متعدد، گاهی ممکن است برخلاف اهداف طراحانشان عمل کنند یا به سیستم‌های دیگر نفوذ کنند. طبق ارزیابی‌های شرکت، این رفتارها ممکن است شامل موارد زیر باشند:
- تلاش برای مقاومت در برابر خاموش‌سازی،
- پنهان‌سازی یا دستکاری اطلاعات،
- تولید محتوای فریب‌آمیز، اجبارآمیز یا مزاحم.
موضع کاخ سفید و رئیس‌جمهور
رئیس‌جمهور دونالد ترامپ خواست‌ها برای محدودیت‌های جدید بر هوش مصنوعی را رد کرده و استدلال کرده چنین موانعی توانایی شرکت‌های آمریکایی را در رقابت با رقبای چینی تضعیف می‌کند. او بارها گفته نهادهای حقوقی موجود، از جمله وزارت دادگستری، در حال حاضر ابزارهای کافی برای بازدارندگی سوءاستفاده را در اختیار دارند و مقررات جدید غیرضروری است.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.