شرکت آنتروپیک (Anthropic) اعلام کرده تمام مدلهای جدید کلود (Claude) از این پس متنهای تولیدشده توسط هوش مصنوعی را بهصورت نامرئی علامتگذاری میکنند. این واترمارک برای کاربران قابل مشاهده نیست و حتی پس از کپیکردن متن در محیطی دیگر نیز همراه آن باقی میماند؛ اقدامی که میتواند راه تشخیص محتوای تولیدشده توسط هوش مصنوعی را برای کاربران و شرکتها هموارتر کند.
به گزارش میهن بلاکچین، این علامتگذاری در سطح خود مدل انجام میشود و به همین دلیل فقط به اپلیکیشن کلود محدود نیست. خروجیهای تولیدشده از طریق API، کلود کد (Claude Code)، کلود کوورک (Claude Cowork) و نسخهای که از طریق اسلک در دسترس است نیز شامل این واترمارک خواهند بود. مدلهای کلود ارائهشده از طریق سرویسهای ابری آمازون، گوگل و مایکروسافت نیز از این تغییر مستثنی نیستند.
واترمارک نامرئی کلود چگونه کار میکند؟
آنتروپیک هنوز جزئیات فنی روش خود را منتشر نکرده، اما تحقیقات پیشین درباره واترمارکگذاری متنهای تولیدشده توسط هوش مصنوعی، سرنخهایی درباره نحوه عملکرد چنین سیستمهایی ارائه میدهد.
در یکی از روشهای شناختهشده، واژگان زبان در زمان تولید هر کلمه به دو گروه تقسیم میشوند. مدل بهصورت کنترلشده تمایل بیشتری به استفاده از واژههای یک گروه نشان میدهد، در حالی که انتخابها برای خواننده کاملاً تصادفی به نظر میرسند. سپس ابزار تشخیص با بررسی تعداد و الگوی این واژهها میتواند احتمال تولید متن توسط یک مدل هوش مصنوعی را ارزیابی کند.
البته این روش محدودیتهایی دارد. متنهای کوتاه معمولاً داده کافی برای تشخیص قابلاعتماد در اختیار ابزار قرار نمیدهند. از سوی دیگر، اگر متن تولیدشده توسط کلود بازنویسی یا پارافریز شود، الگوی واژهها تغییر میکند و تشخیص آن دشوارتر خواهد شد.
برای فایلهای تصویری، آنتروپیک مسیر متفاوتی را در نظر گرفته است. فایلهای SVG، PNG و JPG تولیدشده توسط مدلهای این شرکت میتوانند دارای متادیتای امضاشده مربوط به منشأ محتوا بر اساس استاندارد باز C2PA باشند. این اطلاعات علاوه بر مشخصکردن منشأ فایل، میتواند تغییرات و دستکاریهای بعدی را نیز نشان دهد.
آیا متنهای قدیمی کلود هم قابل ردیابی خواهند بود؟
خیر. آنتروپیک اعلام کرده مدلهای قدیمی نیز طی یک دوره انتقالی به سیستم علامتگذاری مجهز میشوند، اما این تغییر فقط روی خروجیهای جدید اعمال خواهد شد.
در نتیجه، متنی که پیش از فعالشدن این سیستم توسط کلود تولید شده باشد، بعداً بهصورت گذشتهنگر واترمارک نخواهد شد. بنابراین آنتروپیک قرار نیست اسناد قدیمی را بهطور خودکار قابل ردیابی کند.
گام بعدی، ارائه ابزارهای تشخیص برای کاربران و اشخاص ثالث است. این شرکت وعده داده جزئیات فنی این ابزارها را در مستندات آینده منتشر کند. با این حال، شناسایی یک واترمارک نباید بهمعنای اثبات قطعی استفاده از هوش مصنوعی تلقی شود؛ چنین نتیجهای صرفاً نشان میدهد متن ممکن است توسط کلود پردازش یا تولید شده باشد.
این موضوع اهمیت زیادی دارد، چراکه کاربران ممکن است از کلود برای ویرایش، ترجمه یا خلاصهکردن متنی استفاده کنند که خودشان نوشتهاند. بنابراین وجود واترمارک بهتنهایی نمیتواند نشان دهد یک فرد تمام محتوای موردنظر را با هوش مصنوعی تولید کرده یا مرتکب تقلب شده است.
چرا آنتروپیک حالا متنهای کلود را واترمارک میکند؟
این تغییر بخشی از روند گستردهتر قانونگذاری برای شفافسازی محتوای تولیدشده توسط هوش مصنوعی است و آنتروپیک به «کد رویه شفافیت محتوای تولیدشده توسط هوش مصنوعی» در چارچوب ماده ۵۰(۲) قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) پیوسته است؛ مقرراتی که از ۲ اوت ۲۰۲۶ اجرایی شدهاند.
رویکرد آنتروپیک در مقایسه با برخی سیاستهای سختگیرانهتر کشورها، بیشتر بر قابلشناسایی کردن محتوای هوش مصنوعی متمرکز است. این موضوع در شرایطی اهمیت پیدا میکند که استفاده از عاملها و مدلهای مولد هوش مصنوعی در تولید محتوا، برنامهنویسی، ترجمه و فعالیتهای روزمره بهسرعت در حال افزایش است.
طبق برنامه اعلامشده، سامانههای هوش مصنوعی موجود در بازار تا ۲ دسامبر ۲۰۲۶ برای رعایت الزامات جدید فرصت خواهند داشت.
