در دنیایی که غول‌های فناوری تمام توان خود را برای ایمن‌سازی و ایجاد چارچوب‌های اخلاقی در هوش مصنوعی به کار گرفته‌اند، استارتاپ جدیدی به نام Abliteration.ai مسیر کاملاً متفاوتی را در پیش گرفته است. این شرکت با تجاری‌سازی فرایند حذف «نرده‌های ایمنی» (Guardrails) از مدل‌های زبانی بزرگ، مدعی است که ارائه ابزارهای بدون سانسور به مدافعان سایبری می‌تواند امنیت دنیای دیجیتال را ارتقا دهد.
تکنیک Abliteration چیست و چگونه کار می‌کند؟
در توسعه مدل‌های هوش مصنوعی مانند GPT-4 یا Llama، متخصصان از روشی به نام «یادگیری تقویتی با بازخورد انسانی» (RLHF) استفاده می‌کنند تا مدل یاد بگیرد از پاسخ به پرسش‌های خطرناک، غیراخلاقی یا غیرقانونی امتناع کند. این امتناع‌ها در لایه‌های داخلی مدل به صورت بردارهای هدایت‌کننده یا «بردارهای امتناع» (Refusal Vectors) ذخیره می‌شوند.
تکنیک Abliteration که نام این استارتاپ نیز از آن گرفته شده، یک روش جراحی‌گونه در شبکه عصبی مدل است. در این روش، بدون نیاز به آموزش مجدد و صرف هزینه‌های سنگین رایانشی، بردارهای امتناع شناسایی و از مدل حذف می‌شوند. نتیجه کار، یک مدل هوش مصنوعی قدرتمند است که به تمامی پرسش‌ها، بدون در نظر گرفتن محدودیت‌های اخلاقی یا ایمنی پاسخ می‌دهد.
چرا حذف محدودیت‌های هوش مصنوعی به یک کسب‌وکار تبدیل شده است؟
بر اساس گزارش منتشرشده در مجله معتبر تک‌کرانچ (TechCrunch)، بنیان‌گذاران Abliteration.ai بر این باورند که ایجاد محدودیت روی مدل‌های هوش مصنوعی تنها کاربران عادی و پژوهشگران حسن‌نیت‌دار را محدود می‌کند. مجرمان سایبری و هکرهای کلاه سیاه هم‌اکنون نیز روش‌های دستکاری مدل‌ها (Jailbreaking) را بلدند و از مدل‌های بدون سانسور در وب تاریک استفاده می‌کنند.
این استارتاپ قصد دارد با فروش و ارائه خدمات مربوط به مدل‌های بازسازی‌شده و بدون سانسور، توازن قدرت را برقرار کند. مشتریان اصلی این شرکت شامل موارد زیر هستند:
۱. تیم‌های سرخ (Red Teams) و متخصصان امنیت سایبری
کارشناسان نفوذ و امنیت برای شبیه‌سازی حملات سایبری واقع‌گرایانه، نیاز دارند بدانند کدهای مخرب چگونه توسط هوش مصنوعی تولید می‌شوند. مدل‌های سانسورشده از همکاری با این متخصصان امتناع می‌کنند، در حالی که مدل‌های Abliteration امکان تست نفوذ دقیق را فراهم می‌سازند.۲. پژوهشگران حوزه هوش مصنوعی و امنیت
برای درک بهتر نحوه سوءاستفاده از هوش مصنوعی و کشف آسیب‌پذیری‌های نرم‌افزاری، دسترسی به مدل‌های بدون فیلتر یک ضرورت تحقیقاتی محسوب می‌شود.چالش‌ها و نگرانی‌های اخلاقی: شمشیر دو لبه
هرچند استدلال Abliteration.ai مبنی بر «تجهیز مدافعان در برابر مهاجمان» منطقی به نظر می‌رسد، اما منتقدان و فعالان حوزه ایمنی هوش مصنوعی ابراز نگرانی‌های شدیدی کرده‌اند.
مهم‌ترین نگرانی‌ها عبارت‌اند از:
* کاهش سطح ورود برای جرایم سایبری: افراد کم‌تجربه می‌توانند با استفاده از این مدل‌ها کدهای مخرب، ایمیل‌های فیشینگ بسیار متقاعدکننده یا راهنماهای ساخت مواد خطرناک تولید کنند.
* انتشار اطلاعات نادرست: حذف محدودیت‌ها راه را برای تولید انبوه محتوای گمراه‌کننده و نژادپرستانه هموار می‌سازد.
* عدم امکان کنترل پس از انتشار: زمانی که یک مدل بدون محدودیت در اختیار مشتری قرار می‌گیرد، تضمینی وجود ندارد که از آن سوءاستفاده نشود.
با این حال، توسعه‌دهندگان Abliteration.ai معتقدند که «امنیت از طریق پنهان‌کاری» (Security through Obscurity) هرگز استراتژی موفقی نبوده است و تنها راه مقابله با تهدیدات هوش مصنوعی مخرب، درک کامل ابعاد آن است.
آینده هوش مصنوعی و تقابل ایمنی با آزادی دسترسی
اقدام جدید Abliteration.ai نشان‌دهنده شکاف روزافزون در جامعه هوش مصنوعی است. از یک سو، شرکت‌های بزرگی مانند OpenAI، گوگل و آنتروپیک با فشارهای نهادهای قانون‌گذار برای سخت‌گیرانه‌تر کردن قوانین ایمنی مواجه هستند؛ از سوی دیگر، جامعه متن‌باز و استارتاپ‌های پیشرو معتقدند دسترسی آزاد به کدهای هوش مصنوعی حق مسلم همگان است.
تاریخ نشان داده است که ابزارهای توسعه نرم‌افزار همواره ماهیت دوگانه داشته‌اند. همان‌طور که ابزارهای تست نفوذ مانند Metasploit هم توسط هکرها و هم توسط متخصصان امنیت استفاده می‌شوند، مدل‌های هوش مصنوعی بدون سانسور نیز به بخشی اجتناب‌ناپذیر از اکوسیستم فناوری تبدیل خواهند شد.
---
خدمات هوش مصنوعی و توسعه وب با تیکینو
دنیای هوش مصنوعی با سرعتی باورنکردنی در حال تغییر است و استفاده صحیح و ایمن از این فناوری می‌تواند کسب‌وکار شما را فرسنگ‌ها از رقبا پیش بیندازد. آژانس دیجیتال مارکتینگ تیکینو با بهره‌گیری از دانش روز متخصصان خود، خدمات متنوعی را در حوزه توسعه و ادغام هوش مصنوعی در کسب‌وکارها، طراحی سایت اختصاصی، سئو و بهینه‌سازی موتورهای جستجو ارائه می‌دهد.
اگر به دنبال هوشمندسازی فرایندهای سازمان خود، پیاده‌سازی چت‌بات‌های اختصاصی یا ارتقای رتبه وب‌سایت خود در گوگل هستید، همین امروز با کارشناسان تیکینو تماس بگیرید تا بهترین راهکار متناسب با نیاز کسب‌وکار شما را طراحی و اجرا کنیم.