एंथ्रोपिक अपने क्लॉड एआई मॉडल द्वारा उत्पन्न पाठ के लिए एक नया वॉटरमार्किंग सिस्टम पेश करने की तैयारी कर रहा है। यह पहल आगामी यूरोपीय संघ के नियमों का पालन करने के उद्देश्य से है, जो एआई द्वारा निर्मित सामग्री की पहचान को अनिवार्य करते हैं। वॉटरमार्किंग तकनीक में पाठ निर्माण के दौरान क्लॉड द्वारा किए गए सांख्यिकीय विकल्पों में सूक्ष्म संशोधन शामिल होंगे। हालांकि ये परिवर्तन औसत पाठक के लिए ध्यान देने योग्य नहीं होंगे, लेकिन इन्हें उचित तकनीक का उपयोग करके आसानी से पहचाना जा सकता है।
इस बात की अटकलें हैं कि वॉटरमार्किंग एआई-उत्पन्न पाठ की गुणवत्ता को प्रभावित कर सकती है। आलोचकों का तर्क है कि मॉडल की शब्द चयन प्रक्रिया को बदलने से उसके सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता बाधित हो सकती है। हालांकि, कंप्यूटर विज्ञान विशेषज्ञों का सुझाव है कि गुणवत्ता पर कोई भी प्रभाव संभवतः न्यूनतम है, क्योंकि एआई मॉडल पहले से ही अपनी शब्द चयन प्रक्रिया में अनियमितता को शामिल करते हैं। वॉटरमार्किंग सिस्टम इस अनियमितता को समाप्त नहीं करेगा; इसके बजाय, यह मॉडल के अनियमित विकल्पों को सांख्यिकीय रूप से पूर्वानुमेय बना देगा, जिससे उत्पन्न पाठ की पहचान की जा सकेगी।
यह नया सिस्टम इंटरनेट पर एआई-उत्पन्न सामग्री की बढ़ती मात्रा से संबंधित चिंताओं को भी संबोधित कर सकता है। विशेषज्ञों ने चेतावनी दी है कि यदि भविष्य के एआई मॉडल एआई-उत्पन्न सामग्री पर व्यापक रूप से प्रशिक्षित किए जाते हैं, तो वे “मॉडल पतन” का सामना कर सकते हैं, जिससे भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता में गिरावट आ सकती है।
जैसे-जैसे एआई-उत्पन्न सामग्री अधिक प्रचलित होती जा रही है, वॉटरमार्किंग मशीन-लेखित पाठ की पहचान में एक महत्वपूर्ण उपकरण के रूप में उभर सकती है। इसके अतिरिक्त, यह भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता की रक्षा करने में महत्वपूर्ण भूमिका निभा सकती है।