اوپن ای آی متن‌های ChatGPT و Codex رو توی اروپا واترمارک می‌کنه چی اعلام شد؟
حدود ۲ دقیقه مطالعه
اوپن ای آی اعلام کرد که متن‌های تولیدشده توسط ChatGPT و Codex رو توی اتحادیه‌ی اروپا واترمارک می‌کنه. اسم این سیستم textGrain هست و واترمارکش چیزی نیست که با چشم ببینی. هنگام تولید متن، انتخاب کلمه‌ها یه کم و به‌شکل آماری هدایت می‌شه تا یه الگوی پنهان توی متن بمونه که فقط یه detector می‌تونه پیداش کنه. این الگو با کپی و پیست هم از بین نمی‌ره. طبق گفته‌ی OpenAI، شروع اجرا توی هفته‌های آینده و برای کاربران واجد شرایط همه‌ی پلن‌هاست و فعلاً فقط توی اروپا فعال می‌شه.
API و دسترسی به detector
توسعه‌دهنده‌های API توی کل دنیا می‌تونن همین الان این قابلیت رو روی بعضی مدل‌ها فعال کنن، ولی به‌صورت پیش‌فرض خاموشه. اما ابزار تشخیص آزاده نیست. فعلاً فقط محقق‌ها و سازمان‌های متخصص تأییدشده بهش دسترسی دارن تا قابل‌اعتماد بودنش و کاربردهای مسئولانه‌ش بررسی بشه. طبق گزارش Techzine، OpenAI برنامه داره بعداً اون رو مثل Google DeepMind اوپن‌سورس کنه. دلیل این حرکت هم قوانین شفافیت AI Act اتحادیه‌ی اروپاست که از ۲ اوت ۲۰۲۶ اجرایی شده و (طبق Techzine، طبق ماده‌ی ۵۰) می‌گه محتوای تولیدشده با AI باید ماشین‌خوان و قابل ردیابی باشه.
محدودیت‌ها
خود OpenAI صادقانه گفته این واترمارک ضعف‌هایی داره. اگه ۱۰ درصد کلمه‌ها رو با مترادف عوض کنی، نرخ تشخیص از ۹۲ درصد به ۶۶ درصد میاد پایین، و با تغییر ۲۵ درصد کلمه‌ها فقط حدود ۱۷ درصد سیگنال می‌مونه. متن‌های کوتاه، جواب‌های ریاضی و متن‌های ترجمه‌شده هم سخت‌تر تشخیص داده می‌شن؛ مثلاً تشخیص روی متن ۲۰۰ توکنی حدود ۸۰ درصد و روی ۴۰۰ توکنی حدود ۹۵ درصده. نکته‌ی مهم‌تر اینه که پیدا نشدن واترمارک ثابت نمی‌کنه متن رو یه آدم نوشته، و پیدا شدنش هم نشون نمی‌ده چقدر آدم توش دست برده. پس این ابزار بیشتر برای ردیابی منشأ کاربرد داره، نه برای تشخیص قطعی «AI یا انسان».
منابع:
