شرکت OpenAI در راستای پایبندی به قوانین سخت‌گیرانه هوش مصنوعی در اتحادیه اروپا (AI Act)، به‌زودی درج واترمارک‌های نامرئی روی متون تولیدشده توسط ChatGPT و ابزار برنامه‌نویسی Codex را آغاز خواهد کرد. این اقدام با هدف شفاف‌سازی محتوای تولیدشده توسط هوش مصنوعی انجام می‌شود، هرچند چالش‌هایی در زمینه ویرایش متون وجود دارد.
دنیای هوش مصنوعی مولد با سرعت سرسام‌آوری در حال پیشرفت است، اما این پیشرفت سریع، نگرانی‌های عمیقی را در رابطه با کپی‌رایت، انتشار اطلاعات نادرست و اصالت محتوا ایجاد کرده است. در پاسخ به این نگرانی‌ها، اتحادیه اروپا یکی از سخت‌گیرانه‌ترین چارچوب‌های قانونی جهان را تحت عنوان «قانون هوش مصنوعی» (AI Act) تصویب کرده است. اکنون، شرکت پیشگام OpenAI برای همگام شدن با این قوانین، تصمیم گرفته است تا فرآیند واترمارک کردن متون تولیدشده توسط هوش مصنوعی محبوب خود، یعنی ChatGPT و همچنین ابزار کدنویسی Codex را در سراسر اتحادیه اروپا آغاز کند.
بر اساس گزارش اختصاصی خبرگزاری معتبر TechCrunch، این تصمیم OpenAI مستقیماً با الزامات قانونی اتحادیه اروپا مرتبط است و گامی مهم در جهت مسئولیت‌پذیری شرکت‌های بزرگ فناوری به شمار می‌رود.
---
چرا OpenAI به سراغ واترمارک کردن متون رفته است؟
قانون هوش مصنوعی اروپا، شرکت‌های فناوری را ملزم می‌سازد تا محتوای تولیدشده توسط سیستم‌های هوش مصنوعی را به وضوح مشخص کنند تا کاربران بدانند با یک ماشین در تعامل هستند یا یک انسان. هدف اصلی از این کار، جلوگیری از انتشار اخبار جعلی، کاهش تقلب‌های آکادمیک و ایجاد شفافیت بیشتر در فضای وب است.
با این حال، پیاده‌سازی این فناوری روی «متن» بسیار دشوارتر از تصاویر یا ویدیوها است. در تصاویر، می‌توان پیکسل‌ها را به گونه‌ای تغییر داد که تغییرات با چشم غیرمسلح دیده نشوند اما توسط نرم‌افزارها قابل شناسایی باشند. اما در متن، تغییر دادن کلمات یا ساختار جملات بدون آسیب زدن به کیفیت و معنای محتوا، چالش بسیار بزرگی است که OpenAI اکنون ادعا می‌کند راهکاری برای آن یافته است.
---
واترمارک نامرئی متن چگونه کار می‌کند؟
سیستم واترمارک متنی OpenAI به صورت نامرئی عمل می‌کند. این فناوری با دستکاری جزئی و هوشمندانه در نحوه انتخاب کلمات بعدی توسط مدل زبانی کار می‌کند. به زبان ساده، هوش مصنوعی در هنگام تولید متن، کلماتی را انتخاب می‌کند که از یک الگوی آماری و ریاضی خاص پیروی می‌کنند. این الگو برای خواننده انسانی به هیچ وجه قابل تشخیص نیست و متن کاملاً طبیعی به نظر می‌رسد، اما ابزارهای آشکارساز (Detector) مخصوص OpenAI می‌توانند با بررسی متن، متوجه شوند که آیا این الگوی خاص در متن وجود دارد یا خیر.
چالش‌های شناسایی؛ آیا ویرایش متن واترمارک را پاک می‌کند؟
یکی از بزرگ‌ترین چالش‌های این فناوری، پایداری آن در برابر ویرایش است. خود شرکت OpenAI اعتراف کرده است که اگر کاربر متن تولیدشده توسط ChatGPT را به طور دستی ویرایش کند، کلمات را جابه‌جا کند، مترادف‌ها را جایگزین کند یا بخش‌هایی از آن را بازنویسی نماید، شناسایی واترمارک‌های نامرئی به شدت دشوار خواهد شد.
این موضوع نشان می‌دهد که هرچند واترمارک کردن گامی بزرگ به سوی شفافیت است، اما هنوز یک راهکار صددرصدی و بی‌نقص به شمار نمی‌رود. کاربران حرفه‌ای یا کسانی که قصد دور زدن سیستم را دارند، می‌توانند با تغییرات جزئی در لحن و ساختار جملات، این سیستم‌های حفاظتی را بی‌اثر کنند. با این حال، وجود این سیستم می‌تواند تا حد زیادی جلوی کپی‌برداری‌های انبوه و بدون تغییر را بگیرد.
---
تأثیر واترمارک بر سئو و بازاریابی دیجیتال
این اقدام OpenAI بدون شک تأثیرات گسترده‌ای بر حوزه تولید محتوا، سئو (SEO) و دیجیتال مارکتینگ خواهد داشت. موتورهای جستجو مانند گوگل همواره به دنبال محتوای باکیفیت، اصیل و کاربرپسند هستند. اگرچه گوگل بارها اعلام کرده که با محتوای هوش مصنوعی که برای پاسخ به نیاز کاربران تولید شده باشد مشکلی ندارد، اما وجود واترمارک‌های نامرئی به موتورهای جستجو این امکان را می‌دهد که با دقت بالاتری منبع تولید محتوا را شناسایی کنند.
برای متخصصان سئو و وب‌مسترها، این تغییر به این معنی است که کپی‌پیست کردن مستقیم مطالب از ChatGPT بدون ویرایش عمیق و شخصی‌سازی، ریسک بسیار بالایی خواهد داشت. برای حفظ رتبه سایت در موتورهای جستجو، محتوای تولیدی توسط هوش مصنوعی باید تنها به عنوان یک پیش‌نویس اولیه در نظر گرفته شده و سپس توسط نویسندگان انسانی بازنویسی، غنی‌سازی و بهینه‌سازی شود.
---
نتیجه‌گیری
اقدام OpenAI برای واترمارک کردن متون ChatGPT در اتحادیه اروپا، نقطه عطفی در تنظیم مقررات هوش مصنوعی و افزایش شفافیت در دنیای دیجیتال است. هرچند این فناوری هنوز در برابر ویرایش‌های انسانی آسیب‌پذیر است، اما نشان‌دهنده مسیری است که کل صنعت فناوری به سمت آن حرکت می‌کند: دنیایی که در آن مرز بین محتوای انسانی و ماشینی باید شفاف‌تر از همیشه باشد. این قانون به زودی ممکن است به سایر نقاط جهان نیز سرایت کند و استانداردهای جدیدی را