مدل Jev چیه؛ مدلی که به‌جای متن نوشتن، فقط تصمیم می‌گیره

این هفته یه استارتاپ کمتر شناخته‌شده به اسم TypeSafe AI یه مدل منتشر کرد که به‌جای رقابت توی همون مسیر همیشگی «مدل بزرگ‌تر، reasoning بهتر، context طولانی‌تر»، مسیر کاملاً متفاوتی رو انتخاب کرده. اسم این مدل Jev هست، و برخلاف تقریباً هر مدل دیگه‌ای که این روزها می‌بینیم، اصلاً یه LLM به معنای رایج کلمه نیست.

چی می‌سازتش خاص؟

بنیان‌گذار TypeSafe AI، دیه‌گو آلمیدا، قبلاً توی اوپن‌ای‌آی روی RLHF کار می‌کرده — همون فرآیندی که یه مدل زبانی خام رو به چیزی مثل ChatGPT تبدیل کرد. بعد از دو سال کار مخفیانه و جذب ۴۰ میلیون دلار سرمایه، حالا اولین محصول این شرکت رو معرفی کرده. ایده‌ی اصلی TypeSafe اینه که خیلی از کاربردهای هوش مصنوعی توی نرم‌افزار، اصلاً نیازی به یه پاراگراف متن ندارن؛ فقط یه بله/خیر، یه عدد، یا یه دسته‌بندی می‌خوان. برای همین Jev رو به‌عنوان چیزی که خودشون «System 1 Model» می‌نامنش معرفی کردن — اشاره‌ای به مفهوم تفکر سریع و کند دنیل کانمن.

فرق اصلیش با یه LLM معمولی اینجاست: یه LLM معمولی به‌صورت autoregressive کار می‌کنه، یعنی یه توکن تولید می‌کنه، بعد بر اساس همون توکن، توکن بعدی رو پیش‌بینی می‌کنه، و همین‌طور ادامه میده تا جمله کامل بشه. Jev کاملاً این چرخه رو کنار گذاشته: به‌جای تولید متن توکن‌به‌توکن، در یه پاس واحد یه تصمیم ساختاریافته برمی‌گردونه — یه احتمال، یه امتیاز اطمینان، یا یه مقدار typed.

مثال عملی: state، questions، و جواب typed

برای اینکه این تفاوت رو ملموس‌تر ببینی، بیا یه سناریوی واقعی رو با هم مرور کنیم: یه تیکت پشتیبانی که باید هم‌زمان مشخص بشه فوریه یا نه، شکایته یا نه، و باید به کدوم صف بره. به Jev یه «state» (متن یا دیتای زمینه) و یه مجموعه «questions» با نوع مشخص میدی — سه نوع اصلی که پشتیبانی می‌کنه Noul (بله/خیر با احتمال)، Choice (انتخاب از بین چند گزینه)، و Score (امتیاز روی یه معیار مرتب) هستن:

import { experimental_evaluate as evaluate } from 'ai';

const result = await evaluate({
  model: 'typesafe-ai/jev',
  state: 'دیروز دو بار ازم پول کم شده، همین امروز باید حلش کنین وگرنه اکانتمو می‌بندم.',
  questions: {
    is_urgent: {
      type: 'boolean',
      instructions: 'آیا این پیام فوریه؟',
    },
    queue: {
      type: 'choice',
      options: ['billing', 'technical', 'general'],
      instructions: 'این تیکت باید به کدوم صف بره؟',
    },
    frustration_level: {
      type: 'score',
      scale: [1, 5],
      instructions: 'سطح نارضایتی مشتری رو از ۱ تا ۵ بسنج.',
    },
  },
});

خروجی این فراخوانی، به‌جای یه پاراگراف توضیحی، یه شیء ساختاریافته با احتمال کنار هر جوابه، چیزی شبیه این:

{
  "answers": {
    "is_urgent": { "value": true, "probability": 0.94 },
    "queue": { "value": "billing", "probability": 0.88 },
    "frustration_level": { "value": 4, "probability": 0.81 }
  },
  "usage": { "input_tokens": 42, "output_tokens": 3 }
}

نکته‌ی مهم اینجا اینه که هر سه تا سؤال هم‌زمان و موازی ارزیابی شدن، نه به‌صورت سه فراخوانی جدا، و کد تو مستقیم می‌تونه روی is_urgent.value یا queue.value شرط بذاره — بدون parse کردن یه متن آزاد یا امیدوار بودن به اینکه مدل فرمت JSON رو درست رعایت کرده باشه. همین چیزیه که TypeSafe بهش میگه حذف مرحله‌ی «تولید متن غیرضروری».

چرا این‌قدر سریع و ارزونه؟

TypeSafe میگه معماری Jev، همراه با یه sampler موازی جدید و یه روش آموزشی به اسم Reinforcement Learning for Calibrated Decisions، باعث شده این مدل بتونه چند تا سؤال تعریف‌شده رو هم‌زمان ارزیابی کنه. ادعاهای این شرکت درباره‌ی سرعت و هزینه واقعاً چشمگیرن: طبق گزارش‌های خودشون، Jev تا ۱۹۳.۶ برابر سریع‌تر و تا ۴۴۴.۶ برابر ارزون‌تر از LLM های معمول روی ارزیابی‌های workflow عمل کرده. قیمت‌گذاریش هم غیرمعموله: ورودی به ازای هر میلیارد توکن (نه میلیون) حدود ۴۲ دلاره، در حالی که خروجی عملاً رایگانه — چون متن طولانی‌ای تولید نمیشه که بابتش هزینه بگیرن. یه نکته‌ی مهم دیگه اینه که چون خروجی‌ها از قبل محدود به یه فرمت مشخص هستن، طبق ادعای TypeSafe این مدل عملاً نمی‌تونه دچار hallucination بشه.

کجا استفاده میشه و اکوسیستمش چقدر جدیه؟

Jev قرار نیست جای ChatGPT رو بگیره؛ نمی‌تونه ایمیل بنویسه یا مکالمه کنه. جایی که معنا پیدا می‌کنه، داخل نقاط تصمیم‌گیری یه اپلیکیشنه: انتخاب ابزار یا subagent بعدی توی یه حلقه‌ی agent، تصمیم بین ادامه‌دادن/تلاش دوباره/پرسیدن از کاربر/توقف، امتیازدهی به فوریت یا ریسک قبل از یه اقدام، و راستی‌آزمایی خروجی یه مدل دیگه برای guardrail. طبق مستندات، محدودیتش اینه که فقط ورودی متنی می‌پذیره و سقف context اون ۳۲ هزار توکنه — یعنی برای دیتای خیلی حجیم مناسب نیست.

اکوسیستم دورش هم سریع شکل گرفته: Jev همین الان از طریق AI Gateway ورسل و AI SDK (با متد آزمایشی evaluate)، پلتفرم‌هایی مثل orq.ai و LiteLLM (به‌عنوان proxy)، و ابزار observability مثل Braintrust (برای ردیابی سؤال‌ها، جواب‌ها و توزیع احتمالات) در دسترسه. کتابخونه‌های رسمی پایتون و جاوااسکریپت وجود دارن، و حتی یه SDK غیررسمی راست هم توسط کامیونیتی نوشته شده. یه ریپازیتوری کامیونیتی هم به اسم awesome-jev-by-typesafe الگوها و نمونه‌کدهای مختلف استفاده از این مدل رو جمع کرده — نشونه‌ی اینکه توسعه‌دهنده‌ها خیلی سریع دارن دنبال جای مناسبش توی stack خودشون می‌گردن.

بررسی کامل: نقاط قوت و محدودیت‌ها

نقطه‌قوت اصلی Jev اینه که یه دسته از مسائل رو که همیشه با یه LLM معمولی حل می‌کردیم — دسته‌بندی، routing، امتیازدهی — رو ارزون‌تر، سریع‌تر و قابل‌اعتمادتر (از نظر فرمت خروجی) می‌کنه؛ دیگه لازم نیست نگران parse کردن یه JSON ناقص یا یه توضیح اضافه‌ی غیرمنتظره باشی. برگردوندن احتمال کنار هر جواب هم یه مزیت عملیه: می‌تونی موارد مطمئن رو خودکار پردازش کنی و فقط موارد مبهم رو برای بررسی انسانی نگه داری، الگویی که توی خیلی از نمونه‌کدهای منتشرشده هم دیده میشه.

از طرف دیگه، چند تا محدودیت هم داره که باید در نظرشون بگیری. اول، ورودی فقط متنیه، یعنی برای تصمیم‌گیری بر پایه‌ی تصویر یا صدا اصلاً گزینه نیست. دوم، سقف context ۳۲ هزار توکنی یعنی برای state های خیلی بزرگ (مثلاً یه سند طولانی) باید اول خلاصه‌سازی یا فیلتر انجام بدی. سوم، و شاید مهم‌تر از همه، ارقام چشمگیر سرعت و هزینه‌ای که TypeSafe منتشر کرده، بر پایه‌ی benchmark و روش ارزیابی خودشونه؛ یه مقایسه‌ی مستقل که یکی از کاربرها بین Jev و Gemini برای دسته‌بندی ایمیل انجام داده بود نشون داد Gemini کمی دقیق‌تر عمل کرده، هرچند ده تا بیست برابر گرون‌تر بوده. یعنی Jev دقیقاً یه trade-off بین دقت مطلق و سرعت/هزینه‌ست، نه لزوماً برتری مطلق توی همه‌ی سناریوها.

جمع‌بندی

استقبال از Jev اونقدر زیاد بوده که TypeSafe به‌طور موقت نتونسته جواب‌گوی حجم درخواست‌های API باشه، و پشتیبانی سریعش توسط پلتفرم‌هایی مثل ورسل و LiteLLM هم نشون میده صنعت این دسته از مدل («تصمیم‌گیرنده‌ی سریع» به‌جای «مولد متن») رو جدی گرفته. برای الان، Jev تقریباً تنها بازیگر شناخته‌شده توی این دسته‌ست، ولی با توجه به استقبالی که گرفته، بعیده رقبا خیلی طول بکشه تا وارد همین میدون بشن. اگه یه بخشی از سیستمت داره برای تصمیم‌های ساده و پرتکرار، پول یه LLM کامل رو میده، الان وقت خوبیه که Jev رو امتحان کنی.