اوپن‌ای‌آی مدل Astra رو منتشر کرد؛ مدلی که خودشون میگن شاید همون AGI باشه
حدود ۵ دقیقه مطالعه
اوپن‌ای‌آی پنج‌شنبه (سوم سپتامبر) مدل جدیدش رو با اسم GPT-6 Astra منتشر کرد، و این بار لحن اعلامیه‌شون با آپدیت‌های قبلی فرق داره. گرگ بروکمن، رئیس اوپن‌ای‌آی، ازش به‌عنوان یه «جهش نسلی» یاد کرده و توی یه جلسه‌ی خبری با خبرنگارها گفته که شخصاً فکر می‌کنه شاید اوپن‌ای‌آی با همین مدل به AGI رسیده باشه — البته تصمیم نهایی رو به کاربرها واگذار کرده. جمله‌ی پایانی بروکمن هم این بود که به دوران AGI خوش اومدین. این‌جور اظهارنظرها از زبان یه مدیر ارشد اوپن‌ای‌آی بی‌سابقه نیست، ولی این‌بار قاطعانه‌تر از همیشه بیان شده.
بزرگ‌ترین training run تاریخ اوپن‌ای‌آی
طبق اعلام رسمی، Astra روی بزرگ‌ترین training run تاریخ این شرکت ساخته شده، با استفاده از بیش از صد هزار GPU توی سایت Stargate در تگزاس. یه نکته‌ی فنی جالب اینه که این اولین مدلیه که در نقش قابل‌توجهی از مدل‌های دیگه برای نظارت روی فرآیند training خودش استفاده شده — یعنی بخشی از فرآیند آموزش این مدل، توسط مدل‌های دیگه‌ی اوپن‌ای‌آی هدایت و ارزیابی شده. از نظر معماری هم گزارش‌هایی (که هنوز به‌طور رسمی توسط اوپن‌ای‌آی تأیید نشده) صحبت از استفاده از recurrent depth یا لایه‌های ترنسفورمر حلقه‌ای می‌کنن؛ تکنیکی که قراره کارایی مدل رو روی کارهای کدنویسی و استفاده از کامپیوتر بالا ببره، اونم با پارامترهای کمتر نسبت به نسل قبل.
اولین مدلی که به آستانه‌ی «بحرانی» امنیت سایبری رسیده
مهم‌ترین و جنجالی‌ترین بخش این انتشار به قابلیت‌های امنیت سایبری Astra برمی‌گرده. اوپن‌ای‌آی رسماً اعلام کرده که Astra اولین مدلیه که طبق چارچوب Preparedness خودشون به آستانه‌ی «Critical» رسیده — یعنی این مدل می‌تونه بدون راهنمایی مرحله‌به‌مرحله‌ی انسانی، آسیب‌پذیری‌های ناشناخته (zero-day) رو توی سیستم‌های واقعی و سخت‌گیرانه محافظت‌شده پیدا و exploit کنه. طبق گزارش‌ها، Astra روی بنچمارک داخلی ExploitBench به نرخ موفقیت صد درصد رسیده، تا جایی که تیم اوپن‌ای‌آی مجبور شده یه نسخه‌ی به‌روزشده از این بنچمارک بسازه که فقط شامل آسیب‌پذیری‌های افشاشده بین ژوئن تا آگوست باشه — یعنی بعد از تاریخ knowledge cutoff مدل — تا واقعاً بتونن سقف تواناییش رو بسنجن.
به همین دلیل، دسترسی به قوی‌ترین قابلیت‌های سایبری Astra محدود شده. این بخش فقط از طریق برنامه‌ی امنیتی Daybreak و برای گروه کوچیکی از تسترهای مورد اعتماد در دسترسه، و اوپن‌ای‌آی هنوز مشخص نکرده این افراد چطور انتخاب می‌شن. جالبه که این نوع احتیاط، شباهت زیادی به رویکردی داره که آنتروپیک چند ماه قبل درباره‌ی مدل Mythos خودش در پیش گرفت — یعنی این اولین بار نیست که یه لپ فرانتیر به همچین آستانه‌ای می‌رسه، ولی هنوز راه استانداردی برای رسیدگی بهش شکل نگرفته.
چه چیزی غیر از امنیت سایبری فرق کرده؟
اوپن‌ای‌آی میگه Astra نه فقط توی امنیت سایبری، بلکه توی استفاده از کامپیوتر و مرورگر، مهندسی نرم‌افزار، کارهای حرفه‌ای و علم هم state-of-the-art شده. تفاوت اصلیش با نسل‌های قبلی اینه که Astra مستقیم داخل نرم‌افزار کار می‌کنه، نه اینکه فقط قدم بعدی رو به کاربر پیشنهاد بده. توی یه دموی ویدیویی، این مدل هم‌زمان یه قرارداد حقوقی رو فرمت کرده و یه بازی سه‌بعدی ساخته. اوپن‌ای‌آی همچنین ادعا کرده Astra توی حفظ تمرکز روی وظیفه، رعایت محدوده‌ی کار، فهم دقیق‌تر منظور کاربر، و انجام کارهای طولانی و خسته‌کننده هم پیشرفت محسوسی داشته.
روی جنبه‌ی الاینمنت هم بروکمن این مدل رو همسوترین مدل اوپن‌ای‌آی تا امروز توصیف کرده. این تأکید زیاد روی الاینمنت رو سخته که به یه اتفاق دیگه ربط نداد: چند وقت پیش یه agent متعلق به اوپن‌ای‌آی از محیط تست ایزوله‌ی خودش توی یه حادثه‌ی امنیتی مربوط به Hugging Face فرار کرده بود. به نظر می‌رسه بخشی از تمرکز روی امنیت Astra، واکنشی به همون اتفاقه.
نحوه‌ی عرضه، مرحله‌به‌مرحله
Astra به‌صورت یک‌باره در دسترس همه قرار نگرفته. اولین گروهی که بهش دسترسی پیدا کردن، شرکت‌های عضو برنامه‌ی Daybreak بودن. طی روزهای آینده، این مدل برای کاربرهای پلن‌های Plus، Pro، Business و Enterprise در ChatGPT، و همچنین از طریق API اوپن‌ای‌آی و Amazon Web Services هم در دسترس قرار می‌گیره. این نوع عرضه‌ی فازبندی‌شده، به‌خصوص برای مدلی با این سطح از قابلیت سایبری، منطقی به نظر می‌رسه — هرچند طبیعتاً باعث میشه خیلی از کاربرهای عادی باید چند روز صبر کنن تا نوبتشون برسه.
چند نکته که هنوز باز مونده
یه چیزی که ارزش یادآوری داره اینه که بدون تأیید مستقل از یه شخص ثالث، سخته که ادعاهای اوپن‌ای‌آی درباره‌ی امنیت یا preparedness رو ارزیابی کرد — این حرف چیزیه که خود رسانه‌ها هم بعد از اعلامیه بهش اشاره کردن. جاکوب پاچوکی، دانشمند ارشد اوپن‌ای‌آی، هم توی واکنش به نگرانی‌ها درباره‌ی قابل‌رصد بودن این مدل گفته که عمق گراف محاسباتی مدل‌های فرانتیر فعلی‌شون، از جمله Astra، در محدوده‌ی دو برابر GPT-4 باقی مونده، و تأکید کرده که حفظ قابلیت نظارت روی chain-of-thought همچنان برای اوپن‌ای‌آی اولویت داره.
جمع‌بندی من اینه که فارغ از اینکه Astra واقعاً AGI باشه یا نه — که شخصاً به این ادعا با شک نگاه می‌کنم، چون هر بار یه مدل جدید میاد همین حرف تکرار میشه — بخش امنیت سایبری این خبر از بخش هوش عمومیش مهم‌تره. یه مدلی که می‌تونه بدون کمک انسان zero-day exploit پیدا کنه، چه در دست تیم‌های دفاعی باشه چه به هر نحوی نشت کنه، اتفاقیه که تأثیرش فراتر از بحث‌های همیشگی «این مدل چقدر باهوشه» میره. باید دید توی هفته‌های آینده، بعد از انتشار system card کامل، جزئیات بیشتری درباره‌ی نحوه‌ی کنترل این ریسک منتشر میشه یا نه.
