آسترا؛ تغییر چشمگیر در هوش مصنوعی و ریسک های سایبری

وقتی سم آلتمن می‌گوید یک مدل به‌طور بنیادین متفاوت به‌نظر می‌رسد، حرفی تبلیغاتی صرف نیست. این دعوتی است برای بازاندیشی درباره آن‌چه هوش مصنوعی مصرفی می‌تواند انجام دهد و چه پیامدی ممکن است به‌دنبال داشته باشد. آسترا، جدیدترین مدل اوپن‌ای‌آی، به‌عنوان گامی نخست و معنادار به‌سوی هوش عمومی معرفی می‌شود. تجربه کاربری، به‌گفته آلتمن، تنها سریع‌تر یا هوشمندتر نیست؛ بلکه احساس یک دسته ابزار جدید را منتقل می‌کند.

کمتر شبیه یک کتابخانه قطعات کد فکر کنید و بیشتر شبیه یک شریک که می‌تواند طرح اولیه یک ایده را به یک اپلیکیشن قابل‌کار تبدیل کند. این وعده آسترا است. کاربران عادی، نه فقط مهندسان، می‌توانند از روی یک مفهوم ساده پروژه‌های نرم‌افزاری کامل بسازند، بازی‌های کوچک نمونه‌سازی کنند یا پروژه‌های الکترونیکی خانگی انجام دهند. آسترا می‌تواند وظایف سنگین‌تر را هم بر عهده بگیرد: اجرای شبیه‌سازی‌های علمی پیچیده، جمع‌بندی مدل‌های مالی و پالایش مجموعه‌داده‌های عظیم. پیام واضح است، هدف کاهش فاصله میان ایده و نتیجه ملموس است.

اما چنین قدرتی یک سوال هشداردهنده به‌وجود می‌آورد: چه کسانی حق استفاده از آن را خواهند داشت؟ توانایی‌های آسترا در اوپن‌ای‌آی هشدار داخلی نادری را فعال کرد. مدل نشان داد که بدون هدایت انسانی قادر است آسیب‌پذیری‌های روز-صفر را کشف و توسعه دهد، موضوعی که تیم را وادار کرد آن را به‌عنوان یک خطر بحرانی سایبری طبقه‌بندی کند و عرضه عمومی کامل را به تأخیر اندازد. این وقفه صرفاً احتیاط بوروکراتیک نبود، بلکه اعترافی بود به اینکه این فناوری می‌تواند چشم‌انداز امنیت سایبری را ظرف یک شب تغییر دهد.

آلتمن معتقد است این ریسک دوطرفه است. اگر مدل‌های پیشرفته می‌توانند آسیب‌پذیری‌های جدید را پیدا و مسلح کنند، ابزارهای دفاعی نیز باید با همان سرعت تکامل یابند. پاسخ او تا حدی پارادوکسیکال است: دسترسی گسترده‌تر به مدل‌های توانمند مثل آسترا می‌تواند بخشی از دفاع جمعی باشد. اگر شرکای مورداعتماد و پژوهشگران بتوانند از این ابزارها استفاده کنند، جامعه ممکن است در برابر موجی از حملات خودکار که از سوی بازیگران مختلف در سراسر جهان می‌آید، سپرهای قوی‌تری بسازد.

دسترسی در ابتدا به‌صورت طبقه‌بندی‌شده خواهد بود. قدرتمندترین قابلیت‌های آسترا محدود به شرکای موردپذیرش قرار می‌گیرد در حالی‌که اوپن‌ای‌آی در حال توسعه راهکارهای نظارت و مهار است. این استراتژی عرضه مرحله‌ای برای دادن زمان به مدافعان جهت سازگاری طراحی شده است، نه برای رها کردن فناوری بدون کنترل.

از منظر اقتصادی، آسترا وعده محاسبات ارزان‌تر به ازای هر کار را به همراه دارد. آلتمن به بهبود چشمگیر بهره‌وری توکن اشاره کرد؛ یعنی مدل می‌تواند با توکن‌های کمتر کار بیشتری انجام دهد و هزینه‌های عملیاتی را کاهش دهد. اوپن‌ای‌آی قبلاً قیمت‌ها را برای مدل‌های کوچک‌تر مانند لونا به‌طور چشمگیری کاهش داده و آلتمن می‌گوید این روند ادامه خواهد داشت: اولویت‌دهی به بهترین نسبت کارایی به قیمت و گسترش فناوری به دست افراد بیشتری. او استدلال می‌کند که هزینه کمتر باید منجر به توانمندسازی عمومی گسترده‌تر شود نه تمرکز قدرت.

و در مورد خود شرکت چه؟ آلتمن عرضه اولیه سهام را رد نکرد. اما هر عرضه عمومی آتی را از منظر مأموریت‌محور چارچوب‌بندی کرد: اگر اوپن‌ای‌آی به یک شرکت عمومی تبدیل شود، او قصد دارد به سرمایه‌گذاران یادآوری کند که منافع بلندمدت اجتماعی بر سود کوتاه‌مدت اولویت دارد. این موضع برای اطمینان‌بخشی به منتقدان است که حاکمیت شرکت حتی تحت فشار بازار نیز بر خیر عمومی متمرکز خواهد ماند.

با این حال اعتماد عمومی آسیب دیده است. نظرسنجی‌های اخیر نشان‌دهنده حالتی قطبی شده‌اند: بخش بزرگی از مردم پیامدهای هوش مصنوعی را منفی می‌دانند، در حالی‌که تنها بخش اندکی اظهار خوش‌بینی صریح می‌کنند. آلتمن به‌صراحت روایت‌های صنعتی را که وعده معالجه‌های معجزه‌آسا یا آرمان‌شهرهای درخشان می‌دهند، نقد کرد. «درمان سرطان» تیتر قدرتمندی است. اما او می‌گوید که مسلح‌سازی این وعده برای قانع‌کردن مردم به واگذاری قدرت معامله‌ای اشتباه است. در عوض، اوپن‌ای‌آی می‌خواهد ابزارهایی بسازد که استقلال و خلاقیت مردم را گسترش دهند، نه آن را تنگ‌تر کنند.

این نقد بازتابی است از دیدگاه‌های دیگر در این حوزه که وعده‌های باشکوه را تبلیغات می‌دانند نه پیشرفت قابل‌سنجش. با این حال، هر دو جبهه، کسانی که خواهان احتیاط‌اند و کسانی که به نوآوری سریع اصرار دارند، در یک موضوع توافق دارند: شفافیت و گفت‌وگوی آزاد درباره ریسک‌ها غیرقابل‌چانه‌زنی است. عموم باید از شرکت‌ها بخواهند که به بررسی آسیب‌ها بپردازند و شرکت‌ها نیز باید تصمیم‌های تبادلی خود را بدون برانگیختن وحشت یا تمرکز قدرت توضیح دهند.

خلاصه اینکه: آسترا می‌تواند کارهای فنی پیچیده را دموکراتیزه کند، اما تنها در صورتی که عرضه همراه با کنترل‌های ایمنی دقیق و تعهد واقعی به توزیع قدرت باشد. آیا آماده‌ایم درباره چگونگی بازتعریف دانش تخصصی، مسئولیت و کنترل توسط این ابزارها مذاکره کنیم؟