اقدام بی‌سابقه آنتروپیک؛ شفافیت و بررسی خطرات هوش مصنوعی

شرکت آنتروپیک (Anthropic)، توسعه‌دهنده خانواده مدل‌های هوش مصنوعی کلود (Claude)، در اقدامی کم‌سابقه دسترسی در سطح کارمندان خود را در اختیار پژوهشگران مستقل مؤسسه غیرانتفاعی METR قرار داد. بر اساس این توافق بنیادین، این بازرسان قادر خواهند بود گزارش‌های جامعی از خطرات، حوادث فنی و رویه‌های داخلی آنتروپیک تهیه و بدون حق وتوی این شرکت، به‌صورت کاملاً مستقل و عمومی منتشر کنند.

گامی تاریخی به‌سوی شفافیت در هوش مصنوعی پیشرو

صنعت هوش مصنوعی در سال‌های اخیر به‌دلیل رویکرد بسته و ابهام در سازوکارهای داخلی غول‌های فناوری، همواره هدف انتقاد کارشناسان ایمنی بوده است. شرکت‌های بزرگ اغلب ارزیابی‌های امنیتی مدل‌های خود را پشت درهای بسته انجام داده و تنها نتایجی را منتشر می‌کنند که به برند تجاری‌شان لطمه نزند. با این حال، تصمیم تازه آنتروپیک قواعد بازی را دگرگون کرده است.

مؤسسه METR (مخفف ارزیابی مدل‌ها و تحقیقات تهدید) یک نهاد پژوهشی مستقل و معتبر است که تمرکز اصلی آن بر شناسایی تهدیدهای فاجعه‌بار بالقوه ناشی از مدل‌های هوش مصنوعی بسیار پیشرفته (Frontier AI) قرار دارد. دسترسی در سطح کارمند (Employee-level access) به این معناست که محققان METR دیگر مانند کاربران یا محققان خارجی از طریق رابط‌های عمومی (API) به آزمایش هوش مصنوعی نخواهند پرداخت؛ بلکه آن‌ها به زیرساخت‌ها، کدها، داده‌های آموزشی، گزارش‌های داخلی و فرآیندهای توسعه در سطحی دسترسی خواهند داشت که تاکنون سابقه نداشته است.

سلب حق وتو؛ استقلال واقعی در نظارت امنیتی

شاید مهم‌ترین بخش این توافق‌نامه، سلب حق وتو از سوی آنتروپیک باشد. در پروتکل‌های معمول همکاری میان شرکت‌های فناوری و نهادهای ثالث، همواره بندی وجود دارد که به شرکت اجازه می‌دهد بخش‌هایی از گزارش نهایی را بازنویسی یا سانسور کند. اما در توافق جدید:

• انتشار بدون سانسور: METR این حق را دارد که نتایج تحلیل‌های خود درباره آسیب‌پذیری‌ها و خطرات بالقوه مدل‌های کلود را بدون نیاز به تأییدیه روابط عمومی آنتروپیک منتشر سازد.
• گزارش‌دهی شفاف حوادث: هرگونه رخداد امنیتی، باگ‌های ساختاری یا سوءرفتار در پروتکل‌های ایمنی، مستقیماً توسط این سازمان مستقل به اطلاع عموم خواهد رسید.
• حفظ حریم داده‌های حساس: تنها محدودیت اعمال‌شده، حفاظت از مالکیت فکری حساس، اطلاعات هویتی و داده‌های محرمانه تجاری است که تهدیدی برای امنیت عمومی به شمار نمی‌آیند.

چه حوزه‌هایی توسط محققان METR بررسی خواهد شد؟

ارزیابی‌های امنیتی این نهاد روی چند حوزه پرخطر متمرکز خواهد بود:

1. توانایی خودتکثیری و خودمختاری (Autonomous Replication): آیا مدل‌ها می‌توانند بدون کنترل انسانی در شبکه تکثیر شوند یا منابع مالی کسب کنند؟
2. قابلیت‌های سایبری تهاجمی: پتانسیل مدل در کشف روزصفرها و اجرای حملات سایبری پیچیده.
3. تهدیدهای بیولوژیکی و شیمیایی (CBRN): بررسی این که آیا سیستم‌ها می‌توانند اطلاعات خطرناکی درباره سلاح‌های مرگبار به عوامل مخرب ارائه دهند.

پیامدها برای رقبای بازار هوش مصنوعی

این حرکت استراتژیک، فشار مضاعفی را بر رقبای بزرگی همچون OpenAI و گوگل دیپ‌مایند وارد می‌کند. سال‌هاست که فعالان حوزه فناوری از فلسفه «به ما اعتماد کنید» در توسعه مدل‌های هوش مصنوعی انتقاد دارند. اکنون آنتروپیک استاندارد جدیدی به نام «راستی‌آزمایی مستقل» را تعریف کرده است.

در زمانی که نهادهای قانون‌گذار در سراسر جهان از جمله اتحادیه اروپا و دولت ایالات متحده به‌دنبال تدوین قوانین سفت‌وسخت نظارتی بر مدل‌های مرزی هستند، پیش‌قدم شدن شرکت‌ها برای پذیرش نظارت خارجی می‌تواند آن‌ها را از جریمه‌ها و فشارهای رگولاتوری آینده مصون نگه دارد و اعتماد عمومی را به‌شدت تقویت کند.

نتیجه‌گیری

تصمیم آنتروپیک برای باز کردن درهای سیستم داخلی‌اش به روی کارشناسان METR، نقطه عطفی در توسعه مسئولانه هوش مصنوعی محسوب می‌شود. ایمنی در سیستم‌های هوشمند نباید یک شعار تبلیغاتی باشد، بلکه به شفافیت واقعی و پذیرش ریسک نیاز دارد. این اقدام گامی ضروری است تا اطمینان حاصل شود ابزارهای قدرتمندی که ساخته می‌شوند، همگام با رشد توانایی‌ها، مهارپذیر و امن باقی خواهند ماند.

منبع خبر: TechCrunch AI

---

خدمات هوش مصنوعی و دیجیتال تیکینو

دنیای هوش مصنوعی با سرعتی سرسام‌آور در حال پیشرفت است و همگام شدن با این جریان، کلید موفقیت هر کسب‌وکار در دنیای دیجیتال به شمار می‌آید. آژانس دیجیتال مارکتینگ تیکینو با بهره‌گیری از آخرین پیشرفت‌های هوش مصنوعی، به شما کمک می‌کند تا سازمان و فروش خود را هوشمند سازید.

اگر برای رشد برندتان نیازمند طراحی سایت مدرن، سئو مبتنی بر هوش مصنوعی، تولید محتوای هوشمند یا پیاده‌سازی کمپین‌های حرفه‌ای دیجیتال مارکتینگ هستید، متخصصان ما در تیکینو راهکارهای مقیاس‌پذیر و اختصاصی در اختیار شما قرار خواهند داد. همین امروز با کارشناسان تیکینو تماس بگیرید و قدم اول را در ارتقای کسب‌وکارتان بردارید.