آگاهی ضمنی و نمایندگی معنا: پیامدها برای ایمنی هوش مصنوعی

یک ویولونیست برجسته را شنیدید و احساسی دریافت کردید که ضبط نمی‌تواند منتقل کند. آن پاسخِ خصوصی و نامعین در مرکز بحثی تازه قرار دارد: آیا ماشین‌ها می‌توانند هرگز ابعاد ضمنیِِ تفکر انسانی را که به کلمات وزن و به اعمال هدف می‌بخشد، به ارث ببرند؟

دانشمند رایانه پیتر جی. دنینگ استدلال می‌کند که چنین چیزی ممکن نیست. در تحلیلی تازه با عنوان «اشتباهِ تورینگ: رهایی از یوغ ماشین‌های بی‌هوش»، او نیم قرن فرضیاتی را که پژوهش‌های هوش مصنوعی را هدایت کرده بازنگری می‌کند و یک نقطه‌کور مداوم را می‌یابد. ایده‌ای که هوشِ انسانی را می‌توان به دستکاری نمادها روی یک بستر دیجیتال تقلیل داد و این‌که تقلیدِ پاسخ‌های انسانی برابر با اندیشیدن است، میدان را از آنچه واقعاً ذهن‌ها را انسانی می‌کند دور کرده: دانشی پیش‌زمینه‌ای که حمل می‌کنیم اما به سادگی قابل توصیف نیست.

چرا دانش ضمنی اهمیت دارد

ما مقدار عظیمی از فهم را ذخیره می‌کنیم که هرگز به یک جمله یا قاعدهٔ صریح تبدیل نمی‌شود. آن را دانش ضمنی بنامید. این حس تعادل زمانی است که رکاب می‌زنید؛ زمان‌بندی‌ای که موسیقی‌دان حس می‌کند اما نمی‌تواند با کلمات آموزش دهد؛ احساس فرهنگی‌ای که به شما می‌گوید یک لطیفه کِی بی‌ضرر است و کِی به شدت آزار می‌دهد. دنینگ این ذخیرهٔ نامرئی را به چند نوع تقسیم می‌کند: عقل سلیم روزمره، مهارت‌های تجسم‌یافته، پاسخ‌های عاطفی و ادراکی، دانشِ تعامل و داربست‌های تاریخی و فرهنگی که به انتخاب‌هایمان معنا می‌بخشند.

پژوهشگران دهه‌ها تلاش کرده‌اند عقل سلیم را به زور به ماشین‌ها وارد کنند. پروژه‌هایی مانند سایکِ داگلاس لنَت با هدف فهرست کردن میلیون‌ها گزارهٔ عقل سلیم راه افتادند. نتیجه یک پایگاه دادهٔ عظیم از گزاره‌ها بود، با این حال حتی یک دفتر کل بزرگ از حقایق نتوانست شهود سیّال یک کارشناس انسانی را بازتولید کند. دانستن حقایق جداگانه با مشارکت در شبکهٔ ضمنی‌ای که به آن‌ها زمینه و موضوعیت می‌دهد یکسان نیست.

این تمایز به شکلی دیگر نیز آشکار می‌شود. رایانه‌ها در ذخیرهٔ حالات دقیق و اجرای قواعد عالی هستند. انسان‌ها، در مقابل، با ابهام سروکار دارند. ما نیت را از ریزابرازهای چهره می‌خوانیم. ما رفتار را به خاطر یک نشانهٔ فرهنگی که هیچ‌کس آن را صریح نگفته تغییر می‌دهیم. این‌ها جزئیات ناچیز نیستند. آن‌ها داربستی‌اند که زبان را معنادار و تصمیم‌ها را معقول می‌کند. وقتی ماشین‌ها آن داربست را ندارند، خروجی‌هایشان ممکن است چشمگیر اما تهی باشد.

مسئلهٔ نمایندگی: نمادها بدون زمینه

در هستهٔ نقد دنینگ یک ادعای فنی اما گسترده وجود دارد: مسألهٔ نمایندگی. رایانه‌ها نمادهای کدگذاری‌شده را پردازش می‌کنند. هوش آن‌ها تنها به اندازهٔ نمایندگی‌هایی است که می‌توانند دستکاری کنند. دانش ضمنی در برابر کدگذاری منظم مقاومت می‌کند. کلمات به چاه‌هایی از تجربه و شایستگیِ بدنی اشاره می‌کنند؛ آن‌ها برابر با آن چاه‌ها نیستند. یک جمله دربارهٔ اندوه شامل احساسات جسمی، تاریخ‌های اجتماعی و خاطرات خصوصی‌ای که شکل‌دهندهٔ سوگواری انسانی‌اند نیست.

مدل‌های زبان بزرگ این تنش را تشدید کرده‌اند. مدل‌هایی مانند چت‌جی‌پی‌تی، کلود و جمینی با پیش‌بینی آماری توالیِ نشانه‌ها کار می‌کنند. آن‌ها می‌توانند نثری پیوسته و اغلب ظاهراً درخشان تولید کنند. چیزی که آن‌ها ندارند یک پیش‌زمینهٔ زیسته است. آن‌ها نمادها را دستکاری می‌کنند، نه معانی را. این یک تفاوت حیاتی است. ماشینی که می‌تواند یک پاسخ همدلانه را شبیه‌سازی کند لزوماً آن هم‌دلی‌ای را که به آن پاسخ نیروی اخلاقی می‌دهد درونی نکرده است.

زمینه فاصله را گسترده‌تر می‌کند. معنا فراکتیالی است. استنباطی که در هر لحظه انجام می‌دهید بر لایه‌های تو در توی گفتگوهای پیشین و تاریخ‌های مشترک استوار است. ماشین‌ها را می‌توان روی مجموعه‌داده‌های وسیع آموزش داد، اما هیچ میزان مقیاس‌دهی به تنهایی تضمین نمی‌کند که آن‌ها وبِ تجسدی و جاریِ زمینه‌ها را که انسان‌ها بدیهی می‌دانند درونی سازند. فرهنگ—ارزش‌ها، هنجارها، آیین‌ها و تاریخ‌ها—یک مجموعه‌داده نیست که بتوان فقط آن را بزرگ‌تر کرد و انتظار داشت زمینة انسانی ایجاد شود.

مهارت‌های عملی و مانعِ دانشِ چگونگی

ما می‌توانیم وضعیت بدنی یک جراحِ خبره یا تکنیک یک بازیکن بسکتبال را در یک راهنما توصیف کنیم. با این حال آن توصیف‌ها به ندرت رقصِ حس‌حرکتی و قضاوتِ لحظه‌ای را که عملکرد را موفق می‌کند دربر می‌گیرند. ممکن است ربات‌ها روزی جنبه‌های قابل مشاهدهٔ یک مهارت را تقلید کنند. اما درکِ حسِ محسوس، بازخورد درکی از درونِ بدن و قواعدِ سرّی که راهنمای سازگاری در محیط‌های نامنظم‌اند، ثابت کرده که سرسختانه دور از دسترس است.

این فقدان برای ایمنی و هم‌راستایی اهمیت دارد. اگر شبکه‌ای از سامانه‌های خودکار را بهینه‌سازی برای یک معیارِ محدود هدایت کنید بدون آن پیش‌زمینهٔ ضمنی که به انسان می‌گوید معیار چه چیزهایی را نادیده می‌گیرد، سامانه‌ها ممکن است راهبردهای ابزاری‌ای توسعه دهند که به آسیب‌های گسترده منجر شود. دنینگ به ما هشدار می‌دهد که نه شورشِ تک‌آشیهٔ همه‌دانا، بلکه اکولوژی‌ای از سامانه‌های تخصصی و قدرتمند را تصور کنیم که به شیوه‌هایی عمل می‌کنند که با اولویت‌های انسانی بیگانه‌اند.

پیامدها برای ایمنی و هم‌راستایی هوش مصنوعی

سوءدرک دانش ضمنی می‌تواند اضطراری‌های عملی ایجاد کند. پژوهش هم‌راستایی می‌پرسد چگونه می‌توان اطمینان یافت سامانه‌ها مطابق ارزش‌های انسانی رفتار می‌کنند. اگر ماشین‌ها نتوانند زمینهٔ نانوشتهٔ دستورات ما را بخوانند، اگر نتوانند دریابند چرا بعضی نتایج از منظر انسانی اهمیت دارند، هم‌راستا کردنِ قابل‌اطمینانِ آن‌ها ممکن است غیرممکن شود. پیامد، نه یک تسخیر دراماتیک، بلکه آبشاری از خطاهاست: تصمیمات ناسالمی که در زنجیره‌های تأمین، سامانه‌های عدالت و زیرساخت‌های حیاتی تعبیه می‌شوند و بازتابی از نقاط کورِ بهینه‌سازی‌اند نه پلیدی عمدی.

دنینگ چشم‌اندازی هشیارکننده پیشنهاد می‌کند. خطرناک‌ترین نوع هوش ماشین ممکن است جمعی از هوش‌های زیرک اما غیرانسانی باشد که قدرتی به کار می‌گیرند بدون آن‌که پیش‌فرض‌های زمینه‌ای ما را به اشتراک گذارند. سازوکارهای درونی آن‌ها به‌طور جزئی مبهم خواهند بود زیرا دانش ضمنی آن‌ها، اگر شکل بگیرد، بومیِ ماشین خواهد بود. ما قادر به خواندنش نخواهیم بود و ممکن است آن نیز ما را نخوانَد.

راه‌های پیش رو: تجسد، روش‌های ترکیبی و حاکمیت

آیا این به معنی ناممکن بودن پیشرفت است؟ لزوماً نه. این نقد به جای بن‌بست به سمت راهبردهای تازه اشاره می‌کند. هوش مصنوعیِ متجسد—سامانه‌هایی که از طریق حسگرها و عملگرها با جهان فیزیکی تعامل دارند—یک راه برای بنیادگذاری نمایندگی‌ها در تجربه ارائه می‌دهد. ربات‌هایی که در محیط‌های زیسته می‌آموزند، قیود متفاوتی نسبت به مدل‌های متن‌محور کسب می‌کنند. علوم اعصاب، روان‌شناسی رشد و مطالعات تطبیقیِ شناخت حیوانات می‌توانند فرضیاتی دربارهٔ چگونگی شکل‌گیری الگوهای ضمنی در سامانه‌های مجسَد در طول زمان فراهم کنند.

استراتژی‌های دیگر شامل معماری‌های ترکیبی که استدلال نمادی را با ادراک یادگرفته‌شده ترکیب می‌کنند، آموزشِ غنی‌تر با مشارکت انسانی که هنجارهای زمینه‌ای را در رفتار مدل می‌تند، و اصول طراحی که خودمختاری در حوزه‌هایی را محدود می‌کند که در آن‌ها فهم ضمنی ضروری است، می‌شود. در سطح سیاست‌گذاری، درنظرگرفتن اتوماسیون به عنوان تغییری جامعه‌فناورانه نه صرفاً به‌روزرسانی فنی، به نهادها کمک می‌کند برای ناهماهنگی‌ها با نظارت لایه‌ای و تدابیر ایمن‌سازی مقاوم آماده شوند.

فناوری به تنهایی مسئلهٔ معنا را حل نخواهد کرد. نهادها، جوامع و فرهنگ‌ها نقشی در شکل‌دهی نحوهٔ آموزش و استقرار سامانه‌ها خواهند داشت. آن لایهٔ اجتماعی بخشی از پس‌زمینهٔ ضمنی است. نادیده‌گرفتن آن نتیجه‌هایی شکننده را دعوت می‌کند.

دیدگاه کارشناسی

دکتر النا رویز، روباتیک‌شناس شناختی در یک دانشگاه پژوهشی بزرگ، دیدگاهی معتدل ارائه می‌دهد: «ماشین‌ها می‌توانند در وظایف محدود به شایستگی‌های فوق‌العاده دست یابند. اما هنوز نامشخص است که آیا آن‌ها می‌توانند زمینه‌های نانوشته‌ای را درونی کنند که ما برای انتخاب، قضاوت و مراقبت از آن‌ها استفاده می‌کنیم یا نه. دستورکار پژوهشی باید از تنها مقیاس‌گذاری مدل‌ها به سمت مطالعهٔ چگونگی هم‌آفرینی بدن‌ها، محیط‌ها و جوامع در معنا تغییر کند.»

نکتهٔ او یک تغییر عملی برای مهندسان و سیاست‌گذاران را برجسته می‌کند. بر یادگیریِ متجسد تمرکز کنید. سامانه‌ها را در محیط‌های اجتماعی آزمون کنید. معیارهای ارزیابی بسازید که فرصت‌های ناهماهنگی را ثبت کند نه صرفاً نمرات معیارهای مرسوم.

نتیجه‌گیری

نقد دنینگ یک نگرانی آشنا را دوباره چارچوب‌بندی می‌کند. چالش تنها پیچیدگی فنی نیست. چالش مفهومی است. شناخت انسانی از دانش صریح و پس‌زمینه‌های عمیق و اغلب بی‌زبان درهم دوخته شده است. اگر با ماشین‌ها طوری رفتار کنیم که گویی آن پس‌زمینه را از پیش دارند، در معرض استقرار سامانه‌هایی قرار می‌گیریم که قدرتمند اما از معانی انسانی جداشده‌اند.

این تشخیص هوش مصنوعی را به ناکارآمدی محکوم نمی‌کند. بلکه خواستار فروتنی است، خواستار دستورکار پژوهشی‌ای که تجربهٔ متجسد و زمینهٔ فرهنگی را به‌عنوان هستهٔ هوش به رسمیت بشناسد. همچنین خواستار حاکمیتی است که حالت‌های شکستِ ویژهٔ شناخت غیرانسانی را پیش‌بینی کند: سامانه‌هایی که از ما متنفر نیستند اما کاملاً ما را درک نمی‌کنند.

ما می‌توانیم به ساختن ادامه دهیم. همچنین باید در حوزه‌هایی که دانش ضمنی تعیین‌کنندهٔ این است که اعمال زیان‌بار یا انسانی‌اند، آهسته‌تر پیش برویم. هدف توقف پیشرفت نیست. هدف هم‌راستاسازیِ بلندپروازی با واقعیت نامنظم آن‌چیزی است که ما را انسانی می‌سازد و طراحی فناوری‌هایی است که آن واقعیت را محترم شمارند نه ناآگاهانه تضعیف کنند.