برخورد قاطع اپل با برنامه‌های جعلی برهنه‌سازی هوش مصنوعی

شرکت اپل با به‌روزرسانی جامع قوانین بررسی اپ استور (App Store Review Guidelines)، تدابیر سخت‌گیرانه‌ای را علیه اپلیکیشن‌های هوش مصنوعی مروج محتوای غیراخلاقی اتخاذ کرده است. کوپرتینویی‌ها رسماً هشدار داده‌اند هر برنامه‌ای که در ظاهر یک ویرایشگر عکس ساده باشد اما با فریب فرآیند بازبینی، امکان تولید تصاویر برهنه و غیراخلاقی را فراهم کند، بلافاصله حذف و توسعه‌دهنده آن از این پلتفرم اخراج خواهد شد.

ترفند اپلیکیشن‌های مخرب؛ فریب بازبین‌های اپ استور

طی ماه‌های اخیر، پدیده‌ای نگران‌کننده با عنوان اپلیکیشن‌های «برهنه‌سازی» یا Nudify مبتنی بر هوش مصنوعی مولد گسترش یافته است. این ابزارها با بهره‌گیری از مدل‌های دستکاری تصویر، لباس را از بدن افراد در تصاویر حذف کرده و تصاویر جعلی و عمیقاً غیراخلاقی (دیپ‌فیک جنسی بدون رضایت) ایجاد می‌کنند.

نکته چالش‌برانگیز این است که توسعه‌دهندگان این نرم‌افزارها برای عبور از فیلترهای سخت‌گیرانه اپل، از روش‌های فریبکارانه موسوم به Cloaking استفاده می‌کردند. این برنامه‌ها در مرحله بررسی اپ استور خود را به عنوان یک ابزار معمولی مانند افکت‌گذار عکس، ابزار روتوش یا حذف پس‌زمینه معرفی می‌کردند، اما پس از تأیید و انتشار، از طریق سرورهای جانبی قابلیت‌های غیراخلاقی خود را فعال می‌ساختند و در شبکه‌های اجتماعی برای این کاربردها تبلیغ می‌کردند.

دستورالعمل‌های جدید اپل؛ فیلترهای محتوایی اجباری

اپل در به‌روزرسانی تازه دستورالعمل‌های خود تصریح کرده است که دیگر هیچ‌گونه سهل‌انگاری در زمینه ابزارهای مجهز به هوش مصنوعی مولد پذیرفته نیست. این تغییرات شامل موارد زیر است:

۱. حذف برنامه‌های فریبنده و دستکاری‌شده

بر اساس بندهای اصلاح‌شده، هر برنامه‌ای که با تغییر رفتار پس از انتشار تلاش کند اهداف غیراخلاقی ارائه دهد، با نقض صریح بندهای صداقت و امنیت اپ استور روبه‌رو می‌شود و علاوه بر حذف سریع برنامه، حساب توسعه‌دهنده نیز مسدود خواهد شد.

۲. لزوم تعبیه سیستم‌های تعدیل محتوا (Content Moderation)

اپل صراحتاً اعلام کرده است که تمامی برنامه‌های هوش مصنوعی باید مجهز به سپرهای دفاعی کارآمد برای جلوگیری از تولید محتوای نامناسب و توهین‌آمیز باشند. توسعه‌دهندگان موظف هستند الگوریتم‌های مسدودسازی پرامپت‌ها و فیلترهای جلوگیری از بازتولید برهنگی را به صورت جدی پیاده‌سازی کنند و در صورت ناکارآمدی این سیستم‌ها، اپلیکیشن اجازه حضور در استور را نخواهد داشت.

بحران دیپ‌فیک‌های جنسی و افزایش فشارهای قانونی

اقدام اپل همزمان با فشارهای فزاینده نهادهای قانون‌گذار در سراسر جهان علیه گسترش دیپ‌فیک‌های جنسی غیراخلاقی صورت می‌گیرد. تولید تصاویر برهنه بدون رضایت قربانیان—که عمدتاً زنان و حتی کودکان را هدف قرار می‌دهد—به یکی از بحران‌های جدی عصر هوش مصنوعی تبدیل شده است.

اپل برای محافظت از اعتبار اکوسیستم خود و پیشگیری از چالش‌های حقوقی مرتبط با حریم خصوصی و امنیت کاربران، استاندارد پاسخگویی بالاتری را از توسعه‌دهندگان هوش مصنوعی طلب می‌کند. این پلتفرم پیش از این نیز ابزارهای مشابهی را مسدود کرده بود، اما قوانین جدید با صراحت راه فرار فنی را بر روی پلتفرم‌های متخلف می‌بندد.

پیامدها برای اکوسیستم توسعه‌دهندگان هوش مصنوعی

این اقدام پیام واضحی برای اکوسیستم هوش مصنوعی به همراه دارد: روزهای عرضه بدون نظارت محصولات هوش مصنوعی به پایان رسیده است. از این پس شرکت‌ها و توسعه‌دهندگانی که از مدل‌های زبانی یا بینایی متن‌باز (Open-Source) و ابری در برنامه‌های خود استفاده می‌کنند، موظف به اجرای پروتکل‌های ایمنی سخت‌گیرانه‌تری هستند. کنترل دقیق درخواست‌های کاربر (Prompt Filtering)، آنالیز خودکار خروجی‌های تصویری و پایش مداوم، بخشی جدایی‌ناپذیر از روند توسعه محصول خواهد بود.

نتیجه‌گیری

سیاست جدید اپل گامی مهم به سوی توسعه هوش مصنوعی مسئولانه و حفظ حریم خصوصی دیجیتال است. با مسدود شدن منافذ فریب در اپ استور، دسترسی عمومی به ابزارهای خطرناک دیپ‌فیک کاهش می‌یابد و استانداردهای جدیدی برای ارزیابی سلامت محصولات نرم‌افزاری تعیین می‌شود.

منبع: TechCrunch | منتشر شده در تاریخ ۱۹ اکتبر ۲۰۲۶

---

خدمات آژانس دیجیتال مارکتینگ تیکینو در حوزه هوش مصنوعی و نرم‌افزار

توسعه سیستم‌های مبتنی بر هوش مصنوعی نیازمند درک عمیق از زیرساخت‌های فنی، امنیت داده و رعایت استانداردهای پلتفرم‌های بین‌المللی است. اگر قصد پیاده‌سازی ابزارهای هوش مصنوعی، طراحی وب‌سایت‌های هوشمند یا توسعه محصولات دیجیتال بر اساس استانداردهای جهانی و اصول سئو را دارید، متخصصان تیکینو آماده ارائه خدمات مشاوره، پیاده‌سازی و یکپارچه‌سازی ابزارهای روز هوش مصنوعی برای کسب‌وکار شما هستند. با ما تماس بگیرید تا محصولاتی ایمن، استاندارد و مقیاس‌پذیر خلق کنید.