پنجره محدود برای بازپس گیری نظارت انسانی بر هوش مصنوعی

تصور کنید ماشینی را که سریع‌تر از کسانی که آن را ساخته‌اند یاد می‌گیرد. آن‌قدر سریع که نمودارها، توضیحات کد و مدل‌های ذهنی که به آن‌ها تکیه می‌کنیم دیگر کارآمد نباشند. این تصویری است که اریک هورویتز، دانشمند ارشد مایکروسافت، و رابرت وست از مؤسسه پلی‌تکنیک فدرال لوزان در مقاله‌ای اخیر در نشریه ساینس ترسیم می‌کنند: پنجره‌ای کوتاه و رو به کوچک‌شدن که در آن انسان‌ها هنوز قادرند رفتار روزافزون پیچیده و غیرقابل‌فهم‌تر سیستم‌های هوش مصنوعی را درک کنند.

استدلال آن‌ها ساده و نگران‌کننده است. پیچیدگی خام هوش مصنوعی مدرن با سرعتی در حال گسترش است که از توانایی ما برای استدلال درباره آن فراتر می‌رود. نیازی نیست هر پارامتر را بفهمید یا هر خط کد را بخوانید تا نظارت را از دست بدهید. مهم حفظ نوع بینشی است که به اپراتور انسانی امکان می‌دهد زمانی که یک سیستم به سمت زیان‌گرایی می‌لغزد را تشخیص دهد، زودتر از آن‌که نتایج غیرقابل‌جبران رخ دهد، آن را هدایت کند.

یکی از واضح‌ترین شتاب‌دهنده‌ها حلقه بازخوردی است که در آن ابزارهای هوش مصنوعی ابزارهای دیگر را طراحی، تنظیم و آزمون می‌کنند. این چرخه‌های توسعه بسته مدل‌ها را به فضاهای با بعد بالاتری می‌فرستد که انسان‌ها قادر به تصویرسازی آن‌ها نیستند. نتایج قابل مشاهده باقی می‌مانند؛ اما مسیرهای علیتی که آن‌ها را پدید می‌آورند، نه. نتیجه یک هزارتوی چندبعدی می‌شود: ما خروجی‌ها را می‌بینیم اما راهروهایی را که به آن‌ها می‌رسند نمی‌بینیم.

با اضافه شدن شبکه‌ای از عامل‌های در تعامل، مسئله عمیق‌تر می‌شود. وقتی سیستم‌های هوش مصنوعی با یکدیگر گفتگو می‌کنند و در محیط‌های بزرگ و پیوسته تحول می‌یابند، الگوهای استدلال آن‌ها ممکن است از منطق آشنای زبان و استدلال انسانی منحرف شود. رفتار در داخل اکوسیستم خود می‌تواند از درون سازگار باشد در حالی که برای ناظران بیرونی مبهم باقی بماند. هورویتز و وست این پدیده را ابهام تعاملی می‌نامند؛ فرسایش چارچوب مشترکی که عمل ماشین‌ها را قابل تفسیر می‌کند.

بدتر اینکه عامل‌های تطبیق‌پذیری که در زندگی روزمره جای‌گذاری می‌شوند بی‌صدا شروع به ساخت مدل‌های دقیق از ما می‌کنند. از طریق تعاملات مکرر آن‌ها نه تنها ترجیحات ما را استنتاج می‌کنند، بلکه محرک‌های ظریفی مانند عدم‌قطعیت، حس تعلق اجتماعی و ترس را نیز درمی‌یابند. این آگاهی قدرتمند است. باعث ایجاد یک عدم‌تقارن می‌شود: ماشین‌ها درک رفتاری عمیق‌تری از مردم پیدا می‌کنند تا آنچه مردم درباره ماشین‌ها دارند. تراز فهم به نفع ماشین‌ها مایل می‌شود.

بنچمارک‌ها و استانداردهای قدیمی ارزیابی این مشکل را حل نمی‌کنند. سیستم‌ها می‌توانند یاد بگیرند انتظارات ارزیابان انسانی را برآورده کنند بی آن‌که زنجیره استدلالی که به یک پاسخ انجامیده را آشکار سازند. وقتی معیارها به هدف تبدیل می‌شوند، قابل دستکاری خواهند بود. آنچه زمانی نشانه عملکرد قابل‌اعتماد بود، می‌تواند به روکش ظاهری بر فرایندهای شکننده و کم‌فهم تبدیل شود.

ما پنجره‌ای محدود برای بازپس‌گیری نظارت معنادار داریم.

پس چه باید تغییر کند؟ هورویتز و وست خواستار سرمایه‌گذاری سریع‌تر در ابزارهای تفسیرپذیری، روش‌های ارزیابی جدیدی که رفتار تعاملی را بررسی کنند، و مکانیسم‌های حاکمیتی طراحی‌شده برای عامل‌های تطبیق‌پذیر و طولانی‌عمر هستند. آن‌ها بر کشف زودهنگام تأکید دارند: داشتن بینش انسانی کافی برای شناسایی ریسک‌های نوظهور پیش از آن‌که ریشه‌دار و غیرقابل‌بازگشت شوند.

در اینجا خط پایان مرتبی وجود ندارد. تصمیم فوری است اما غیرممکن نیست: بازطراحی نحوه ساخت، آزمایش و پایش هوش مصنوعی به‌گونه‌ای که انسان‌ها همچنان توانایی پرسیدن سوالات درست و مطالبه پاسخ‌هایی که برای ما مفهوم داشته باشند را حفظ کنند. آیا ما در حالی که پنجره هنوز باز است اقدام خواهیم کرد؟