شرکت‌های پیشرو هوش مصنوعی، آنتروپیک و اوپن‌ای‌آی، در اقدامی بی‌سابقه تصمیم گرفته‌اند ارزیابان مستقل ایمنی را در درون آزمایشگاه‌های توسعه خود مستقر کنند. اگرچه پژوهشگران از این دسترسی عمیق استقبال کرده‌اند، اما هشدار می‌دهند که نظارت اثربخش مستلزم شفافیت کامل، استقلال ساختاری و در نهایت وضع قوانین الزام‌آور دولتی است.
ماجرای استقرار ارزیابان ایمنی در آزمایشگاه‌های هوش مصنوعی چیست؟
با پیشرفت سریع مدل‌های زبانی بزرگ و ابزارهای هوش مصنوعی مولد، نگرانی‌ها پیرامون خطرات احتمالی این فناوری‌ها ابعاد تازه‌ای به خود گرفته است. شرکت‌های «آنتروپیک» (Anthropic) و «اوپن‌ای‌آی» (OpenAI) که از پرچمداران این حوزه محسوب می‌شوند، اعلام کرده‌اند که قصد دارند به ارزیابان خارج از سازمان اجازه دهند تا به صورت مستقیم و مداوم در روند توسعه مدل‌ها حضور داشته باشند.
این تصمیم به معنای تغییری بزرگ در نحوه ارزیابی ایمنی هوش مصنوعی است. پیش از این، ارزیابی‌های ایمنی معمولاً پس از آموزش کامل مدل و در قالب «تست‌های تیم قرمز» (Red Teaming) کوتاه‌مدت انجام می‌شد. اما الگوی جدید به متخصصان ایمنی امکان می‌دهد تا پیش از انتشار عمومی، رفتارهای غیرمنتظره یا خطرناک هوش مصنوعی را در مراحل اولیه شناسایی کنند.
چرا پژوهشگران هم‌زمان خوش‌بین و نگرانند؟
جامعه علمی و متخصصان اخلاق هوش مصنوعی واکنش دوگانه‌ای به این خبر نشان داده‌اند. از یک سو، امکان بررسی کدهای پایه و فرآیند آموزش مدل‌ها گامی مثبت ارزیابی می‌شود؛ اما از سوی دیگر، علامت سؤال‌های بزرگ درباره استقلال واقعی این ناظران وجود دارد.
دسترسی بی‌سابقه به مدل‌های پیشرفته
بزرگ‌ترین مزیت این طرح، دسترسی مستقیم ارزیابان به نحوه عملکرد داخلی سیستم‌هاست. تا پیش از این، محققان مستقل تنها بر اساس خروجی‌های سطحی سیستم دست به تحلیل می‌زدند. حضور در داخل آزمایشگاه‌ها به آن‌ها اجازه می‌دهد رفتارهای پیچیده مانند «فریبکاری مدل» یا «تلاش برای دور زدن محدودیت‌ها» را در سطوح عمیق‌تر کشف کنند.خطر تعارض منافع و توافق‌نامه‌های عدم افشا (NDA)
نگرانی اصلی پژوهشگران این است که آیا این ارزیابان واقعاً مستقل باقی خواهند ماند؟ زمانی که هزینه ارزیابی یا محل استقرار ناظران توسط خود شرکت‌ها تأمین شود، خطر تعارض منافع به شدت افزایش می‌یابد.علاوه بر این، اگر ارزیابان مجبور به امضای قراردادهای سخت‌گیرانه عدم افشا (NDA) شوند، ممکن است نتوانند یافته‌های خطرناک خود را با افکار عمومی یا نهادهای قانونی در میان بگذارند. این موضوع می‌تواند فرآیند ارزیابی را به یک ابزار تبلیغاتی برای جلب اعتماد عمومی تبدیل کند.
آیا خودتنظیمی شرکت‌ها کافی است یا به قوانین دولتی نیاز داریم؟
بسیاری از کارشناسان معتقدند اقدامات داوطلبانه غول‌های فناوری، هرچند مثبت، اما به هیچ وجه جایگزین رگولاتوری و قوانین دولتی نمی‌شود. تاریخ صنعت فناوری نشان داده است که شرکت‌ها در زمان تعارض میان سودآوری و ایمنی، غالباً سرعت توسعه و سود تجاری را اولویت قرار می‌دهند.
برای اینکه نظارت بر ایمنی هوش مصنوعی اثربخش باشد، باید سه شرط اصلی محقق شود:
۱. شفافیت کامل: گزارش‌های ارزیابی ایمنی باید بدون سانسور در اختیار نهادهای مستقل و عموم قرار گیرد.
۲. استقلال مالی و حقوقی: هزینه‌های ارزیابی نباید مستقیماً توسط بودجه‌های بازاریابی یا توسعه همان شرکت‌ها پرداخت شود.
۳. چارچوب قانونی الزام‌آور: دولت‌ها باید استانداردهای مشخصی تعریف کنند تا در صورت بروز تخلف، امکان برخورد قانونی وجود داشته باشد.
آینده ایمنی در جهان هوش مصنوعی
حرکت آنتروپیک و اوپن‌ای‌آی نشان‌دهنده رشد بلوغ در صنعت هوش مصنوعی است، اما تا زمانی که یک نهاد ناظر بین‌المللی و کاملاً مستقل شکل نگیرد، نمی‌توان با اطمینان از ایمنی کامل مدل‌های آینده سخن گفت. ارزیابی ایمنی نباید به تشریفات اداری داخل شرکت‌ها محدود شود، بلکه باید به عنوان یک اصل اساسی در راستای منافع عمومی جامعه جهانی اجرا گردد.
---
منبع: TechCrunch AI
---
توسعه هوش مصنوعی ایمن و هوشمند با تیکینو
توسعه سریع فناوری‌های مبتنی بر هوش مصنوعی، فرصت‌های بی‌نظیری را برای رشد کسب‌وکارها فراهم کرده است. اگر به دنبال پیاده‌سازی هوشمندانه و ایمن ابزارهای هوش مصنوعی، بهبود سئو سایت، طراحی وب‌سایت‌های مدرن یا بهینه‌سازی استراتژی‌های دیجیتال مارکتینگ خود هستید، آژانس تیکینو همراه شماست. ما با بهره‌گیری از جدیدترین دستاوردهای هوش مصنوعی و رعایت کامل استانداردهای فنی، کسب‌وکار شما را به پیشروترین نام در صنعت خود تبدیل می‌کنیم. برای دریافت مشاوره تخصصی همین امروز با متخصصان تیکینو در ارتباط باشید.