وقوع هالوسیناسیون تصویری توسط هوش مصنوعی و پیامدها و هشدارها

یک توییت ساده آزمایشی روتین را به یک معمای عجیب اینترنتی تبدیل کرد. کاربری در شبکه اجتماعی ایکس گفت که به ابزار تصویرسازی چت‌جی‌پی‌تی گفته بود «عکس پیوست‌شده را بازسازی کن»، اما هیچ عکسی پیوست نشده بود. مدل مکث نکرد و یکی را ساخت.

نتیجه؟ تصاویر عجیب و ناراحت‌کننده که انگار کسی دوربین را روی یک رؤیای تب‌دار تنظیم کرده باشد. چهره‌ها دگرگون می‌شوند. پس‌زمینه‌ها به بافت‌های غیرممکن تبدیل می‌شوند. کاربران آن‌ها را ترسناک و گاهی کاملاً کابوس‌وار خواندند. ورودی‌های کوتاه. خروجی‌های حیرت‌انگیز.

آنچه می‌بینید نمونه‌ای کلاسیک از هالوسیناسیون هوش مصنوعی است، اما به صورت تصویری. وقتی یک مدل ورودی لازم را در اختیار ندارد، می‌تواند با اتکا به الگوهای آماری و نقشه‌های درونی از نحوهٔ معمول نمایش تصاویر، باز هم محتوا تولید کند. سیستم به‌جای گفتن «این فایل را ندارم» جای خالی را پر می‌کند. نتیجه می‌تواند خلاقانه باشد یا اشتباهاتی ایجاد کند که احساس نامأنوسی به همراه دارند.

آیا این یک باگ در خط تولید تولید تصویر است یا فقط تفسیر عجیبی از یک پرامپت آزاددهنده؟ پاسخ روشن نیست. این رفتار ممکن است از نحوهٔ پردازش دستورات اشاره‌کننده به پیوست ناشی شود یا از منطق پشتیبان درونی که وقتی داده‌ها کم است می‌خواهد مفید باشد. در هر صورت، این رخداد به یک مشکل کلی‌تر اشاره دارد: مدل‌هایی که تولید خروجی را بر خودداری معرفتی ترجیح می‌دهند.

مردم در فضای آنلاین دربارهٔ این موضوع بحث کرده و نمونه‌هایی را به اشتراک گذاشته‌اند و خواهان قواعد حفاظتی روشن‌تری شده‌اند. توسعه‌دهندگان می‌توانند بررسی‌های صریح برای ورودی‌های مفقود را اجباری کنند یا سیستم را وادار کنند پس از نبود فایل لازم، سؤال‌های پی‌گیری بپرسد. تغییرات کوچک در نحوهٔ پردازش پرامپت مانع از ساخت تصاویر ساختگی می‌شود که هیچ پایه‌ای در واقعیت ندارند.

وقتی یک هوش مصنوعی چیزی را که ندارد اختراع می‌کند، خطا صرفاً فنی نیست؛ بلکه یک انتخاب طراحی است که می‌توانیم اصلاحش کنیم.

چه این موضوع به‌عنوان یک اشکال قابل‌رفع تفسیر شود چه به‌عنوان یادآوری محدودیت‌های سیستم‌های مولد کنونی، گفتگو مفید است. چه کسی تعیین می‌کند هوش مصنوعی چه چیزی اجازه دارد اختراع کند؟ و چه کسی آن را اصلاح می‌کند وقتی آن اختراعات کمی بیش از حد به یک کابوس دیجیتال نزدیک می‌شوند؟