لایحه جنجالی آنتروپیک برای مهار خطرات مرگبار هوش مصنوعی

شرکت آنتروپیک (Anthropic)، توسعه‌دهنده برجسته هوش مصنوعی و خالق مدل‌های «کلود» (Claude)، پیش‌نویس قانونی جدیدی را برای تنظیم‌گری هوش مصنوعی ارائه کرده است. این طرح در نگاه اول انتشار مدل‌هایی را که خطر مرگ بیش از ۵۰ نفر را به دنبال دارند متوقف می‌کند، اما بررسی دقیق‌تر نشان می‌دهد که اختیارات نهادهای ناظر فدرال را بدون اجازه قاضی محدود خواهد کرد.

جزئیات پیشنهاد جدید آنتروپیک؛ مرز مرگ و زندگی کجاست؟

در ماه‌های اخیر، بحث بر سر مهار خطرات اگزیستانسیل و فاجعه‌بار هوش مصنوعی به یکی از داغ‌ترین موضوعات میان قانون‌گذاران و غول‌های فناوری در سراسر جهان تبدیل شده است. اکنون شرکت آنتروپیک گامی فراتر گذاشته و با ارائه یک پیش‌نویس قانونی، معیار عددی مشخصی را برای ارزیابی ریسک مدل‌های پیشرفته مشخص کرده است: احتمال کشته شدن بیش از ۵۰ انسان.

بر اساس این پیشنهاد، اگر توسعه یک مدل هوش مصنوعی دارای ریسک معقولی برای وقوع حوادثی باشد که به مرگ ۵۰ نفر یا بیشتر منجر شود—از جمله کمک به ساخت سلاح‌های بیولوژیکی یا هدایت حملات سایبری فلج‌کننده به زیرساخت‌های حیاتی انرژی و درمان—فرآیند آموزش، توزیع یا استقرار آن باید با مداخله قانونی روبرو شود. این نخستین بار است که یک بازیگر بزرگ صنعت هوش مصنوعی، معیاری تا این حد شفاف و در عین حال تکان‌دهنده را به عنوان آستانه خطر معرفی می‌کند.

تیغ دو لبه قانون‌گذاری؛ حفاظت عمومی یا سلب قدرت از نهادهای دولتی؟

در نگاه اول، لایحه آنتروپیک به عنوان تلاشی فداکارانه از سوی یک شرکت هوش مصنوعی برای جلوگیری از خارج شدن کنترل فناوری تلقی می‌شود. با این حال، تحلیل‌گران حقوقی و ناظران حوزه فناوری تناقض نگران‌کننده‌ای را در بندهای داخلی این پیشنهاد شناسایی کرده‌اند.

واقعیت این است که این پیش‌نویس در کنار تعیین خطوط قرمز مرگبار، دست نهادهای فدرال و سازمان‌های دولتی را به شدت می‌بندد. طبق متن این لایحه:

• نهادهای دولتی و آژانس‌های نظارتی حق ندارند به صورت مستقل از انتشار یا ادامه توسعه یک مدل هوش مصنوعی جلوگیری کنند.
• هرگونه ممنوعیت یا توقف در انتشار محصولات شرکت‌ها، نیازمند حکم مستقیم و صریح دادگاه و مجوز قاضی فدرال خواهد بود.
• بار اثبات آسیب‌پذیری و احتمال مرگ ۵۰ نفر یا بیشتر مستقیماً بر دوش رگولاتورها قرار می‌گیرد، امری که اثبات آن با توجه به ناشناخته بودن جعبه‌سیاه مدل‌های هوش مصنوعی بسیار پیچیده و زمان‌بر است.

این بندها سبب شده منتقدان ادعا کنند که آنتروپیک بیش از آنکه به فکر ایمنی شهروندان باشد، در پی ایجاد یک سپر دفاعی حقوقی در برابر تصمیمات فوری و سخت‌گیرانه نهادهای تنظیم‌گر دولتی است. کشاندن هر پرونده به دادگاه و درگیر شدن در روندهای فرسایشی قضایی عملاً می‌تواند دست شرکت‌ها را برای انتشار مدل‌ها باز بگذارد.

تقابل غول‌های هوش مصنوعی با رگولاتوری سنتی

پیشنهاد آنتروپیک در شرایطی مطرح می‌شود که ایالت کالیفرنیا و کنگره آمریکا طرح‌های سخت‌گیرانه‌ای مانند لایحه SB 1047 را برای ملزم کردن شرکت‌ها به تست‌های ایمنی پیش از عرضه آماده کرده‌اند. شرکت‌هایی مانند متا و اوپن‌ای‌آی مواضع متفاوتی را در این حوزه در پیش گرفته‌اند؛ برخی خواهان رگولاتوری در سطح فدرال به جای قوانین متناقض ایالتی هستند و برخی دیگر تلاش دارند چارچوب‌های خودتنظیم‌گری (Self-regulation) را غالب کنند.

لایحه پیشنهادی آنتروپیک بازتاب‌دهنده همان تنش کلاسیک دنیای فناوری است: آیا دولت‌ها باید پیش از وقوع فاجعه قدرت مداخله پیشگیرانه داشته باشند، یا اینکه نوآوری باید آزادانه پیش برود مگر اینکه مدرکی محکم و قضایی علیه آن در دست باشد؟

پیامدها برای مدل‌های منبع‌باز و استارتاپ‌ها

یکی دیگر از دغدغه‌های جدی این لایحه، تأثیر آن بر جامعه متن‌باز (Open Source) و استارتاپ‌های کوچک است. شرکت‌های بزرگی مانند آنتروپیک و گوگل منابع حقوقی کافی برای مدیریت فرآیندهای دادگاهی و ارزیابی‌های سنگین ریسک را دارند، اما استارتاپ‌های نوپا ممکن است به دلیل هزینه‌های بالای اثبات بی‌خطر بودن مدل‌های خود، زیر بار این نوع الزامات خرد شوند و رقابت در بازار از بین برود.

جمع‌بندی: آینده مبهم ایمنی هوش مصنوعی

حرکت اخیر آنتروپیک نشان می‌دهد که دوران توسعه بدون محدودیت هوش مصنوعی به سر آمده، اما نبرد برای شکل‌دهی به قوانین آینده به شدت داغ است. شرکت‌های پیشرو تلاش می‌کنند زمین بازی را به نحوی تعریف کنند که با تظاهر به تعهدات ایمنی سنگین، موانع اداری و نظارت مستقیم دولت‌ها را به نفع خود دور بزنند.

منبع این گزارش، پایگاه تحلیلی TechCrunch است.

---

همراهی با تحولات هوش مصنوعی به کمک آژانس تیکینو

دنیای هوش مصنوعی با سرعتی غیرقابل توقف در حال دگرگونی است و استفاده اصولی و اخلاقی از این ابزارها، مرز موفقیت و شکست کسب‌وکارهای مدرن را تعیین می‌کند. اگر می‌خواهید از قدرت هوش مصنوعی در مسیر ارتقای کسب‌وکار، اتوماسیون سازمانی، بهینه‌سازی سئو (SEO)، طراحی سایت اختصاصی و برنامه‌ریزی دیجیتال مارکتینگ هوشمند بهره‌مند شوید، کارشناسان تیکینو در کنار شما هستند. همین امروز با تیکینو تماس بگیرید تا استراتژی دیجیتال برند خود را بر پایه مدرن‌ترین فناوری‌های روز ارتقا دهید.