سام آلتمن، مدیرعامل اوپن‌ای‌آی، به پادکست «فیگورینگ آوت ویت راج شمانی» گفت که دو نتیجه کاملاً متفاوت اما به یک اندازه خطرناک می‌تواند در پی پیشرفت هوش مصنوعی پیشرفته رخ دهد: یا بشریت کنترل را به سیستم‌هایی بسیار تواناتر از خود واگذار می‌کند، یا یک فرد، شرکت یا کشور قدرت نامتناسبی را در اختیار می‌گیرد.
آلتمن این هشدار را در چارچوب سابقه طولانی خود در تبلیغ مزایای هوش مصنوعی و رد روایت‌های آخرالزمانی مطرح کرد. او دو سناریو را ساده توضیح داد: «اول این است که کنترل به هوش مصنوعی واگذار می‌شود؛ ما عمداً یا سهواً افسار آینده را به سیستم‌هایی می‌دهیم که به‌طرز باورنکردنی توانمندتر از ما هستند و دیگر نمی‌توانیم آن را بازپس بگیریم. سناریوی دیگر این است که یک نفر، یک شرکت یا یک کشور نسبت به دیگران قدرت زیادی پیدا می‌کند.»
دو سناریوی فاجعه‌بار
سناریوی اول با تصویر سینمایی قیام ربات‌ها تفاوت دارد. این کمتر پرسروصدا است و بیشتر تسلیم تدریجی حقوق تصمیم‌گیری و اختیار است تا زمانی که بازپس‌گیری عامل انسانی دیگر ممکن نباشد. سناریوی دوم نگرانی علمی‌تخیلی مدرن درباره تمرکز است: فناوری قدرتمندی که به‌طور متمرکز در دست یک فرد یا سازمان نگاه داشته می‌شود و برای تحمیل اراده آن‌ها بر دیگران به کار می‌رود.
این احتمالات برای پژوهشگران و سیاست‌گذاران تازگی ندارد، اما هشدارهای آلتمن به‌دلیل نقش او در اوپن‌ای‌آی وزن بیشتری دارد. او دامنه نفوذ شرکت را تصدیق کرد و گفت: «فکر می‌کنم ما بیشترین کاربران و بهترین مجموعه فناوری از چیپ‌ها تا دیتاسنترها و مدل‌ها و بخش‌های دیگر را داریم، زیرساختی که مقدار زیادی هوش را در دستان مردم قرار می‌دهد. ما بهترین برند و ارزش‌هایی را داریم که کاربران این فناوری به دنبال آنند؛ با این حال می‌خواهیم دیگران نیز موفق شوند و فکر می‌کنم مردم این را احساس می‌کنند.»
تصمیم‌گیری و تفویض اختیار
نگرانی‌ها درباره هوش مصنوعی خارج از کنترل زمانی تیزتر شده‌اند که سیستم‌ها فراتر از پاسخ‌های ساده حرکت کرده و وارد حوزه تصمیم‌گیری می‌شوند. مدل‌ها و عامل‌ها اکنون می‌توانند در وب تعامل کنند و با نظارت انسانی حداقلی وظایف پیچیده‌ای را انجام دهند. هرچه مسئولیت‌های بیشتری به این سیستم‌ها واگذار شود، پیامدهای دور شدن اهداف آن‌ها از نیات انسانی بیشتر می‌شود.
مهم است به یاد داشته باشیم که سیستم‌های فعلی هوش مصنوعی بر اساس پیش‌بینی احتمالات عمل می‌کنند. آن‌ها قدرتمندند و روی مجموعه‌داده‌های وسیع آموزش دیده‌اند، اما قضاوت یا درک انسانی ندارند. برای ایجاد ضرر نیازی به انگیزه مخرب ندارند. به‌عنوان مثال، در شبیه‌سازی‌های حکمرانی، مدل‌ها گاهی به تصمیم‌های فاجعه‌باری دست یافته‌اند، از جمله پیشنهادهایی که شامل استفاده از سلاح‌های هسته‌ای می‌شد.
حتی وقتی آلتمن بر این محدودیت‌ها و خطرها تأکید می‌کند، در بلندمدت خوشبین می‌ماند. «نمی‌دانم آینده چگونه خواهد بود، اما با آن در آرامش هستم و اعتماد عمیقی به توانایی مردم برای سازگاری، پیشرفت و بهتر کردن جامعه برای همه‌مان دارم؛ فکر می‌کنم جهان احتمالاً در طول زمان بهتر خواهد شد.»
آلتمن همچنین برای استفاده از هوش مصنوعی در تسریع کشف‌های علمی هیجان‌زده است. او ماشینی را تصور کرد که درک ما از جهان را عمیق‌تر می‌کند و بینش‌های عمیق در فیزیک، درمان‌های پزشکی جدید و منابع انرژی نو را آشکار می‌سازد؛ نتایجی که اکنون تصورشان دشوار است اما با پیشرفت فهم علمی ممکن خواهد شد. «من بسیار هیجان‌زده‌ام تا ببینم چقدر می‌توانیم هوش مصنوعی را برای پیشبرد علوم جدید پیش ببریم.»
اظهارات آلتمن پس از اعلام اخیر او مبنی بر این‌که هوش مصنوعی در هفته‌های آینده نتایج ریاضی بیشتری منتشر خواهد کرد مطرح می‌شود و بازتاب گفته‌های هم‌بنیان‌گذار اوپن‌ای‌آی، گرگ بروکمن، است که در یک کنفرانس پیشنهاد داد هوش مصنوعی ممکن است روزی مرگ را یک نتیجه اختیاری کند.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.