سام آلتمن: حوادث در هوش مصنوعی اجتناب ناپذیر است؛ گزارش و ایمنی

در کنفرانس دریم‌فورس شرکت سیلزفورس در ۱۷ سپتامبر ۲۰۲۶، مدیرعامل اوپن‌ای‌آی، سام آلتمن گفت: «من فکر می‌کنم تا حدی وقوع حوادث در فناوری‌های نو اجتناب‌ناپذیر است.»

نویسنده: دباسیش، ۱۷ سپتامبر ۲۰۲۶. آلتمن این اظهارنظر را در چارچوب واکنش شرکت‌ها و فرآیند یادگیری مطرح کرد و تأکید داشت که آنچه بیش از همه اهمیت دارد، نحوه برخورد صنعت با حوادث هنگام رخدادن آنهاست. او گفت: «آنچه برایم واقعاً مهم است، داشتن فرهنگی قوی برای گزارش‌دهی حوادث و یادگیری است.» او سازمان هوانوردی فدرال و هیئت ملی ایمنی حمل‌ونقل را مثال‌هایی نام برد که هر حادثه را بررسی کرده و از آن درس می‌گیرند تا ایمنی را بهبود بخشند.

آلتمن اضطراب عمومی درباره سیستم‌های خارج از کنترل و تمرکز قدرت در چند آزمایشگاه را پذیرفت و گفت که این نگرانی‌ها قابل درک است و افزود: «جهان حق دارد از این موضوع بترسد.» او تأکید کرد که شرکت‌ها باید کار روی هم‌راستایی، ایمنی و نظارت را بسیار جلوتر از پیشرفت توانایی‌های مدل‌ها قرار دهند. اگر نتوانند آن تعادل را حفظ کنند، باید آماده باشند تحقیق را کند کنند یا حتی متوقف سازند. او هدف را بررسی صادقانه حوادث و بهبود مستمر توصیف کرد، نه پذیرش منفعلانه آسیب.

مناقشه بر سر سرعت پیشرفت و اختیار

این اظهارات در زمانی مطرح شد که نظارت بر آزمایشگاه‌های مطرح هوش مصنوعی تشدید شده است، به‌ویژه با نزدیک‌تر شدن سیستم‌ها به سطوح بالاتر خودمختاری. اظهارنظرهای اخیر جیکوب کاکسون، پژوهشگری که اخیراً پس از کار قبلی در اوپن‌ای‌آی از آنتروپیک جدا شده است، بر این بحث افزود و هشدار داد که شرکت‌ها در مسیر دستیابی به ابرهوشی که خودش را بهبود می‌دهد شتاب می‌گیرند.

این گفته‌ها در قالب یک گفت‌وگوی گسترده‌تر درباره سرعت حرکت هوش مصنوعی مرزی قرار می‌گیرند. برخی از فعالان صنعت خواستار احتیاط بیشتر بوده‌اند، در حالی که سیاست‌های کنونی ایالات متحده بر حفظ برتری فناورانه تمرکز داشته‌اند.

تأکید آلتمن رویکردی رویه‌ای بود تا دستوری: پذیرفتن احتمال وقوع حوادث، اما تعهد به گزارش‌دهی شفاف، بازبینی سریع و کار در زمینه هم‌راستایی که تلاش می‌کند اقدامات ایمنی را جلوتر از افزایش توانایی‌ها نگه دارد.