نحوه کارکرد سیستم واترمارک‌گذاری جدید کلود برای متون هوش مصنوعی

جزییات فنی درباره واترمارک‌های جدید کلود

شرکت آنتروپیک جزییات فنی بیشتری را درباره نحوه کارکرد سیستم واترمارک‌گذاری جدید خود برای متون تولیدشده توسط هوش مصنوعی کلود ارائه کرده است. این فناوری به جای استفاده از علائم بصری سنتی، بر پایه دستکاری ریاضی توکن‌ها در زمان تولید متن عمل می‌کند. این سیستم با اعمال تغییرات بسیار جزیی در احتمال انتخاب کلمات، الگوی آماری خاص و پنهانی را در متن ایجاد می‌کند که برای انسان غیرقابل تشخیص است اما ابزارهای آشکارساز ویژه به سادگی می‌توانند آن را ردیابی کنند. این اقدام گامی مهم برای افزایش شفافیت در فضای وب به شمار می‌رود. برای اطلاعات بیشتر می‌توانید گزارش کامل را در TechCrunch بخوانید.

یکی از سوالات متداول کاربران این است که آیا می‌توان این واترمارک‌ها را با ویرایش‌های جزیی دور زد؟ طبق یافته‌های منتشر شده توسط آنتروپیک، تغییرات سطحی مانند جایگزینی چند کلمه هم‌معنی، جابجا کردن جملات یا تغییر علائم نگارشی برای از بین بردن این الگوی پنهان کافی نیست. از آنجا که این امضای ریاضی در کل بافت متن توزیع شده است، تا حد زیادی در برابر ویرایش‌های معمولی مقاوم باقی می‌ماند. تنها راه موثر برای حذف کامل این نشانه، بازنویسی عمیق، دستی و تغییر جدی ساختار و جریان معنایی متن است.

در حوزه برنامه‌نویسی و توسعه نرم‌افزار، شرایط کاملاً متفاوت است. برای برنامه‌نویسانی که از کلود جهت نوشتن یا عیب‌یابی کدهای خود استفاده می‌کنند، اعمال واترمارک چالش‌های فنی زیادی به همراه دارد. از آنجا که زبان‌های برنامه‌نویسی به دقت نحوی صددرصدی نیاز دارند، دستکاری در احتمال توکن‌ها و کلمات کلیدی می‌تواند به راحتی منجر به خرابی برنامه یا بروز باگ‌های جدی شود. در نتیجه، آنتروپیک تایید کرده است که اعمال سیستم واترمارک روی کدهای برنامه‌نویسی ساختاریافته بسیار پیچیده‌تر بوده و اثربخشی بسیار کمتری نسبت به متون خلاقانه یا تحلیلی معمولی دارد.