تنسنت مدل Hy4 Preview رو منتشر و متن‌باز کرد

تنسنت امروز نسل بعدی مدل هان‌یوان خودش رو با اسم Hy4 Preview منتشر و به صورت متن‌باز عرضه کرد؛ مدلی با ۷۷۰ میلیارد پارامتر کل که فقط ۴۹ میلیاردش روی هر توکن فعال می‌شه و پنجره‌ی کانتکستش به یک میلیون توکن می‌رسه. طبق اعلام تنسنت، این افزایش در اندازه‌ی مدل، طول کانتکست و حجم داده‌ی آموزشی، همراه با پیشرفت هم‌زمان مرحله‌ی pretraining و post-training، باعث جهش محسوسی توی توانایی‌های مدل نسبت به نسل قبل شده. مدل به‌طور خاص برای کارهای واقعی و کاربردی مثل کدنویسی، امور اداری و کارهای علمی طراحی شده و با محصولاتی مثل CodeBuddy و WorkBuddy هم هماهنگ شده تا توی سناریوهای واقعی بهتر جواب بده.

تنسنت برای سنجش کیفیت مدل، یه تست کور با ۱۶۳ کارشناس داخلی روی ۲۰۳ تسک مهندسی واقعی انجام داده که توش Hy4 Preview با میانگین امتیاز ۲.۹۹ از ۴، کمی جلوتر از GLM-5.3 با ۲.۹۲ و Kimi K3 با ۲.۹۴ ظاهر شده؛ در مقایسه‌ی مستقیم با GLM-5.3 هم ۴۶.۸ درصد برد، ۱۲.۸ درصد مساوی و ۴۰.۴ درصد باخت داشته. جالب اینه که خود تنسنت هم صادقانه اعلام کرده Hy4 Preview صرفاً یه نسخه‌ی اولیه از مسیر Hy4 هست و هنوز جای پیشرفت زیادی توی pretraining و post-training داره؛ از جمله مشکلاتی مثل فکر کردن بیش از حد طولانی روی تسک‌های پیچیده و گرایش به self-verification زیاد، که قراره توی نسخه‌های بعدی روی همین‌ها کار بشه. کد و وزن‌های مدل الان روی گیت‌هاب و ModelScope در دسترسن.