بیل گیتس به نیلای پاتل گفت که ظرف دو تا سه سال هوش مصنوعی آسیب‌های قابل اندازه‌گیری در حملات سایبری و بازار کار ایجاد خواهد کرد.
این پیش‌بینی در شرایطی مطرح شد که لحن گیتس به‌طور چشمگیری تغییر کرده است. او زمانی نسبت به هوش مصنوعی از منظر عمومی خوشبین بود، اما پس از هشدارهایی اوایل تابستان و در یک مصاحبه جداگانه با نیویورک تایمز که هوش مصنوعی را «خطرناک‌ترین چیزی که تاکنون بشر با آن مواجه شده» خواند، اکنون معتقد است پیشروی سریع مدل‌ها نیازمند مداخله مستقیم دولت برای مدیریت ریسک‌ها و حفظ اشتغال انسانی است.
در گفتگویی مفصل با نیلای پاتل، سردبیر ارشد در The Verge و مجری پادکست Decoder، گیتس توضیح داد چرا جهش یک‌ساله اخیر در توانمندی مدل‌ها باعث نگرانی فوری شده، چرا اجازه دادن به اجرای مدل‌های بدون فیلتر روی رایانه‌های شخصی غیرمسئولانه است، و چرا حتی در محتمل‌ترین سناریو، بیست سال آینده از پرآشوب‌ترین دوره‌های تاریخ بشر خواهد بود. او بارها مسئولیت را بر دوش نهادهای عمومی گذاشت و نه بر شرکت‌ها برای خودنظارتی.
رقابت، نظارت و محدوده‌های خودمحدودسازی داوطلبانه
گیتس گفت آزمایشگاه‌هایی مانند اوپن‌ای‌آی، آنتروپیک و گوگل دیپ‌مایند با وعده‌های حاکمرانی و شعارهایی مبتنی بر ایمنی آغاز کردند، اما به‌سرعت وارد مسابقه‌ای تجاری‌سازی سریع شدند. او به مدیران اجرایی از جمله سم آلتمن، داریو آمودئی، ساتیا نادلا و سندار پیچای اشاره کرد و گفت این رهبران صنعتی از هشدارهای داخلی آگاهند، اما استدلال کرد که وقتی چند شرکت رقیب وارد میدان شوند، ترمزهای داوطلبانه به‌ندرت دوام خواهند یافت.
او ساختار اولیه اوپن‌ای‌آی و تعهد خیریه‌ای آن را عملی دانست فقط زمانی که یک سازمان واحد پیشگام بود. گیتس گفت زمانی که رقبا تکثیر شوند، دولت‌ها باید مانند سایر فناوری‌های خطرناک وارد عمل شوند. او از اینکه هنوز فرایند اجباری دولتی برای ارزیابی و آزمون مدل‌ها پیش از انتشار عمومی وجود ندارد، شگفت‌زده بود و این موضوع را به استانداردهای مقرراتی برای هواپیماها و خودروها تشبیه کرد.
او گفت دولت‌ها باید ارزیابی و آزمون اجباری پیش از استقرار برای مدل‌های هوش مصنوعی ایجاد کنند.
مدل‌های محلی، کنترل پلتفرم‌ها و ریسک زیستی
گیتس تمایز روشنی میان مدل‌های میزبانی‌شده در ابر که تحت نظارت‌اند و وزن‌های قابل دانلود ایجاد کرد. آزمایشگاه‌های بزرگ که مدل‌ها را در ابر میزبانی می‌کنند، محافظ‌های ایمنی را حفظ کرده و می‌توانند استفاده را برای کاهش ریسک کوتاه‌مدت پایش کنند. خطر، به گفته او، در مدل‌هایی است که می‌توان محافظ‌های ایمنی آن‌ها را حذف کرد و روی سخت‌افزار مصرف‌کننده به‌صورت محلی اجراشان کرد.
او استدلال کرد که پس از عبور مدل‌ها از یک آستانه توانمندی مشخص، توزیع وزن‌های خام برای اجرا روی رایانه‌های شخصی مسئولانه نیست. به جای آن، آن مدل‌ها باید فقط روی پلتفرم‌های تأییدشده اجرا شوند که از دست‌برد به مکانیزم‌های ایمنی جلوگیری می‌کنند. گیتس این استدلال را به پلتفرم‌های توزیع تعمیم داد: او خواستار قواعد متفاوت برای انتشار مدل‌های قدرتمند و کنترل‌هایی برای پلتفرم‌هایی مانند گیت‌هاب شد که امروز محدودیت اندکی در انتشار کد اعمال می‌کنند. او گفت پلتفرم باید پیش از اجازه دادن به انتشار مدلی که قابلیت حمله سایبری یا زیستی فراگیر دارد، موافقت دولت ایالات متحده را طلب کند اگر آن مدل به شکلی منتشر شود که کاربران بتوانند حفاظت‌ها را حذف کنند.
گیتس هشدار داد که هوش مصنوعی بدون محافظ می‌تواند قدرت مخرب را به‌گونه‌ای دموکراتیزه کند که حتی محدودیت‌های دوران هسته‌ای نیز نتوانستند: در عصر اتمی، فقط دولت‌های بزرگ می‌توانستند سلاح‌های تلفات‌جمعی بسازند، اما هوش مصنوعی محافظت‌نشده می‌تواند قابلیت‌های سایبری و زیستی ویرانگر را به گروه‌های کوچک تسلیم کند.
در بحث اینکه سیاست باید روی تراشه‌ها تمرکز کند یا پلتفرم‌ها، گیتس کنترل توزیع و اجرای در سطح پلتفرم را نقطه حیاتی برای نظارت دانست. او گفت اگر مقامات تأخیر کنند، مدل‌های قدرتمند در دسترس بازیگرانی قرار خواهند گرفت که خارج از دامنه نظارت و اجرای قانون‌اند.
گیتس همچنین به اختلاف میان توسعه‌دهندگان درباره خودآگاهی مدل‌ها پرداخت. او گفت مباحث مربوط به هوش مصنوعی عمومی یا خودآگاهی عمدتاً برای ایمنی نامربوط‌اند: سؤال اصلی عملی و دوحالتی است که آیا یک سیستم می‌تواند سامانه بانکی یا شبکه برق را از کار بیندازد یا نه. او افزود که باور ندارد مدل‌های فعلی دارای خودآگاهی شبیه انسان باشند و با مصطفی سلیمان در مایکروسافت موافق بود که نباید با مدل‌ها مانند موجودات دارای احساس رفتار کرد.
در مورد رویکردهای فنی برای کنترل، گیتس سه مسیر مجزا را تشریح کرد. یکی ناظر خارجی با قوانین نمادین صریح است که اقدامات مدل را خارج از خود مدل بررسی می‌کند. دوم تغییر اهداف آموزشی است، زیرا در رویکردهای کنونی یادگیری تقویتی هر چیزی که صراحتاً در تابع پاداش کدگذاری نشده باشد می‌تواند مورد بهره‌برداری یا دورزدن قرار گیرد. سوم شفافیت داخلی بهبود یافته است تا مهندسان بتوانند مدل را بررسی کرده و منبع خطا یا رفتارهای نامتعارف را درون شبکه ردیابی کنند.
گیتس گفت روش کنونی آموزش مدل‌ها و سپس مشاهده رفتارشان قابل حل است اما نیازمند کار هماهنگ روی این سه جبهه است.
او همچنین درباره عواقب اقتصادی و یک آزمایش خصوصی که با کلود آنتروپیک انجام داد صحبت کرد. گیتس گفت هوش مصنوعی به‌تدریج بسیاری از مشاغل کارکنان دفتر سفید را خواهد گرفت، از پشتیبانی مشتری، فروش تلفنی و حسابداری تا وظایف پیچیده‌تر مانند برنامه‌نویسی، پژوهش‌های ریاضی و تشخیص پزشکی، و پیشرفت مداوم بعدها ربات‌های فیزیکی را وارد کارهای کارگری خواهد کرد.
چون کار درآمد و حس معنا می‌دهد، گیتس گفت جوامع ممکن است عمداً نقش‌هایی را برای انسان‌ها حفظ کنند حتی در جاهایی که هوش مصنوعی می‌تواند بهتر عمل کند. او تعاملاتی با کلود درباره نگه داشتن سهمی انسانی از مشاغل داشت و گفت تلاش کرد هدفی حدوداً 40 درصد از اشتغال را انسانی نگه دارد؛ کلود مداوماً پاسخ داد که چنین محدودیتی تقیید مصنوعی بر توانایی هوش مصنوعی خواهد بود.
گیتس هشدار داد که بدون محدودیت‌های هدف‌مند، حتی 40 درصد مشاغل ممکن است انسانی باقی نماند. او پیش‌بینی کرد اختلالی که در ریاضیدانان مشاهده می‌شود به حوزه‌های دیگر سرایت کند، و در حالی که فواید در پزشکی و کاهش هزینه‌های زندگی زمان می‌برد، آسیب‌های امنیتی و بازار کار احتمالاً ظرف دو تا سه سال پدیدار خواهند شد.
او سخنان خود را با این نکته به پایان رساند که حتی اگر هوش مصنوعی به‌خوبی مدیریت شود، دو دهه آینده به طرز بی‌سابقه‌ای آشفته خواهد بود: برخی مردم فناوری را خواهند پذیرفت و برخی در جوامعی شبیه امیش‌ها ممکن است از آن کناره‌گیری کنند. او گفت دوره‌ای از وفور ممکن است در نهایت حاصل شود، اما خواستار هشدارهای صادقانه عمومی و تصمیم‌گیری فعال سیاستی برای شکل‌دهی به نحوه توزیع آن آینده شد.
گیتس گفت دوست ندارد پیش‌بینی‌های هشداردهنده ارائه دهد، اما اصرار ورزید که اطلاع‌رسانی به عموم ضروری است و بشر هنوز اختیار دارد تعیین کند چگونه این فناوری‌ها را حاکم کند.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.