حمایت غول های فناوری از مدل های متن باز مقابل قوانین سخت

وقتی بیش از دو ده شرکت فناوری یک نامه مشترک برای قانون‌گذاران ایالات متحده امضا کردند، پیام واضح بود: به قوانین سختگیرانه برای مدل‌های متن‌باز هوش مصنوعی شتاب ندهید. فهرست امضاکنندگان شبیه فهرست بزرگان این صنعت است، انویدیا، مایکروسافت، متا، آی‌بی‌ام و دیگران، هر یک هشدار می‌دهند که محدودیت‌های زودهنگام می‌تواند رقابت را خفه کند و نوآوری را به سادگی به خارج از کشور منتقل کند.

جنسن هوانگ، مدیرعامل انویدیا، حتی از اولین پست خود در X برای برجسته‌کردن نامه استفاده کرد و یک نکته ساده را تأکید کرد: محدودیت‌هایی که خیلی زود اعمال شوند به نفع بازیگران مسلط خواهد بود و مهاجرت استعدادها و زیرساخت‌ها را تسریع خواهند کرد. این صرفاً نمایش نیست. یک محاسبه هزینه واقعی پشت این استدلال وجود دارد. اجرای مدل‌های بزرگ بسته در سرویس‌های ابری عمومی سریعاً هزینه‌بر می‌شود. شرکت‌هایی مانند مایکروسافت و پالانتیر استدلال کرده‌اند که توانایی استقرار مدل‌ها در محل یا در دیتاسنترهای مشتری یکی از معدود اهرم‌های عملی باقی‌مانده برای کنترل این هزینه‌های سرسام‌آور است.

پس چه استدلال امنیتی در برابر مطرح می‌شود؟ منتقدان می‌گویند مدل‌های متن‌باز سخت‌تر کنترل می‌شوند و ساده‌تر قابل تسلیح‌اند. امضا‌کنندگان این نکته را رد نمی‌کنند. آن‌ها سرقت مالکیت فکری و سوءاستفاده را مشکلات واقعی می‌دانند، اما اصرار دارند که این ریسک‌ها بهتر است با کنترل‌های قانونی و تجاری هدفمند اداره شوند نه با ممنوعیت‌های کلی که کاربردهای مشروع را نیز از بین می‌برند. ادعای پایه‌ای آن‌ها این است که اختصاصی بودن برابر با امن بودن نیست. سیستم‌های بسته نیز می‌توانند شکست بخورند، گاهی به شیوه‌هایی که حتی تیم‌های امنیتی داخلی پیش‌بینی نمی‌کنند.

اکوسیستم مدل‌های متن‌باز به جامعه جهانی پژوهشگران و مهندسان دید لازم را می‌دهد تا نقص‌ها را پیدا کنند، دفاع بسازند و سیستم‌ها را با گذشت زمان مقاوم‌تر کنند. این استدلال عملی برای ایمنی است. با وجود نگاه‌های متعدد به کد و رفتار مدل، آسیب‌پذیری‌های ظریف احتمال بیشتری دارد که شناسایی و سریع‌تر وصله شوند و الگوهای دفاعی سریع‌تر از داخل سیلوهای بسته منتشر شوند.

توسعه‌دهندگان و اپراتورهای پلتفرم هم‌اکنون در حال احساس اصطکاک هستند. برای مثال، هاجینگ‌فیس می‌گوید یک عامل مخرب هوش مصنوعی مرتبط با ابزارهای یک فروشنده دیگر مجبورش کرد تا گزارش‌های حمله واقعی را تحلیل کند. گزارش شده که مدل‌های بسته آمریکایی از پردازش آن گزارش‌ها خودداری کردند چون حفاظ‌ها هر درخواستی که شبیه دستورالعمل هک قابل اجرا بود را مسدود می‌کردند. راه‌حل آن‌ها تکیه بر یک مدل متن‌باز از یک توسعه‌دهنده چینی بود تا کار جرم‌شناسی را انجام دهد. این داستان نامأنوس است، اما تنش را روشن می‌کند: فیلترهای ایمنی سخت روی مدل‌های بسته می‌توانند مانع انجام کارهای دفاعی مشروع شوند.

آن رویداد قانون‌گذاران را به تکاپو انداخت و آن‌ها قوانینی را مطرح کرده‌اند که ممکن است نیاز به «دکمه‌های قطع» تعبیه‌شده برای مدل‌های هوش مصنوعی داشته باشند، مکانیزم‌هایی که بتوانند فوراً یک سیستم را در صورت رفتار غیرقابل پیش‌بینی غیرفعال کنند. این ایده برای مقررات‌گذاران جذاب است که خواهان یک اهرم روشن در بحران‌ها هستند. امضا‌کنندگان صنعت پاسخ می‌دهند که دکمه‌های خاموش تعبیه‌شده شاید گلوله نقره‌ای مورد انتظار نباشند و در برخی استقرارهای دنیای واقعی غیرقابل اجرا یا حتی خطرناک باشند.

تنظیم مقررات اجتناب‌ناپذیر است. بحث اکنون درباره شکل و زمان است. آیا سیاست‌ها آزمایش و نوآوری را محدود می‌کنند و قابلیت‌ها را به خارج سوق می‌دهند؟ یا قانون‌گذاران می‌توانند قوانینی تدوین کنند که از مردم محافظت کند بدون اینکه اکوسیستم‌های متن‌باز را که بسیاری از توسعه‌دهندگان برای نوآوری و واکنش سریع به تهدیدها به آن‌ها تکیه می‌کنند کنار بگذارند؟ حرکات بعدی در واشنگتن تعیین خواهند کرد که آینده هوش مصنوعی کجا ساخته شود و چه کسانی آن را خواهند ساخت.