استعفای ناگهانی یکی از پژوهشگران برجسته شرکت آنتروپیک (Anthropic) و هشدارهای صریح او درباره توسعه شتاب‌زده ابرهوش مصنوعی، زنگ خطر جدیدی را در جهان فناوری به صدا درآورده است. این رویداد جنجالی که با تأیید رهبر تیم همراستاسازی آنتروپیک نیز همراه شده، درست در آستانه برنامه‌ریزی این شرکت برای عرضه اولیه سهام (IPO) رخ داده است.
استعفای جنجالی و هشدارهایی از جنس آخرالزمان
صنعت هوش مصنوعی بارها با هشدارهای نگران‌کننده درباره خطرات موجودیتی این فناوری مواجه شده است، اما رویداد اخیر در شرکت آنتروپیک ابعاد تازه‌ای به این نگرانی‌ها بخشیده است. یکی از پژوهشگران ارشد این شرکت با انتشار پستی در شبکه اجتماعی ایکس (توییتر سابق)، ضمن اعلام استعفای خود، اتهامات سنگینی را متوجه مدیران آنتروپیک کرد.
وی در پیام خود صراحتاً مدعی شد که این شرکت «با سرعتی جنون‌آمیز به سمت توسعه ابرهوش مصنوعی با قابلیت خود-بهینه‌سازی حرکت می‌کند و جان انسان‌ها را به بازی گرفته است.»
نکته حائز اهمیت و بی‌سابقه‌ای که به این ادعا وزن مضاعفی می‌بخشد، واکنش رهبر تیم همراستاسازی (Alignment) آنتروپیک بود. او به جای تکذیب یا تقلیل اهمیت این اظهارات، زیر همان پست را امضا کرد و مهر تأییدی بر هشدارهای همکار مستعفی خود زد.
آنتروپیک؛ مدعی ایمنی که در دام رقابت افتاد؟
شرکت آنتروپیک که سازنده مدل هوش مصنوعی محبوب «کلود» (Claude) است، توسط گروهی از کارمندان سابق OpenAI تأسیس شد. این افراد به دلیل اختلاف نظر بر سر اولویت دادن به ایمنی هوش مصنوعی در برابر تجاری‌سازی، OpenAI را ترک کرده بودند. آنتروپیک از همان ابتدا خود را به عنوان شرکتی «ایمن‌محور» و «اخلاق‌مدار» در حوزه هوش مصنوعی به دنیا معرفی کرد.
پارادوکس توسعه و اخلاق
با این حال، حوادث اخیر نشان می‌دهد که حتی متعهدترین شرکت‌ها به اصول اخلاقی نیز در برابر فشار رقابت در بازار تاب نمی‌آورند. رقابت تنگاتنگ میان غول‌های فناوری مانند گوگل، مایکروسافت، OpenAI و آنتروپیک برای دستیابی به «هوش عمومی مصنوعی» (AGI) و ابرهوش، باعث شده تا ایمنی مدل‌ها به حاشیه رانده شود.
توسعه ابرهوش مصنوعی که توانایی بهبود و ارتقای خودکار خود را دارد، مرز بسیار باریکی میان جهش علمی و تهدید وجودی برای بشریت است. پژوهشگران هشدار می‌دهند که کنترل چنین سیستم‌هایی پس از رسیدن به نقطه خود-بهینه‌سازی عملاً غیرممکن خواهد بود.
زمان‌بندی مشکوک: همزمانی هشدارها با ورود به بازار بورس (IPO)
تایمینگ و زمان‌بندی این استعفا و هشدارهای همراه آن، بیش از هر چیز دیگری توجه تحلیل‌گران را به خود جلب کرده است. بر اساس گزارش‌های منتشرشده، آنتروپیک در حال آماده‌سازی برای عرضه اولیه سهام خود (IPO) در بازار بورس است.
ورود به بازار سرمایه عمومی به معنای مواجهه با فشارهای بی‌سابقه سرمایه‌گذاران برای رشد سریع، افزایش سودآوری و تصاحب سهم بیشتر از بازار است. این الزامات مالی معمولاً با فرآیندهای پیچیده، زمان‌بر و پرهزینه «تست‌های ایمنی هوش مصنوعی» در تعارض مستقیم قرار می‌گیرند.
افشاگری‌های اخیر درست در زمانی صورت می‌گیرد که آنتروپیک تلاش می‌کند چهره‌ای پایدار و ارزشمند از خود به وال‌استریت نشان دهد؛ اما این بحران داخلی می‌تواند نگاه سرمایه‌گذاران را نسبت به آینده و ریسک‌های ساختاری این شرکت به شدت تغییر دهد.
تکرار سناریوی OpenAI در آنتروپیک
آنچه امروز در آنتروپیک رخ می‌دهد، شباهت عجیبی به بحران‌های چند ماه پیش در OpenAI دارد. در آنجا نیز پژوهشگران برجسته‌ای مانند یان لایک (Jan Leike) و ایلیا سوتسکور (Ilya Sutskever) به دلیل بی‌توجهی مدیران به خطرات هوش مصنوعی و انحلال تیم ایمنی سوپرالاینمنت استعفا دادند.
این تکرار مکرر نشان می‌دهد که مشکل از یک شرکت خاص نیست؛ بلکه ساختار کنونی صنعت هوش مصنوعی به گونه‌ای شکل گرفته که رویکردهای تجاری را بر حفظ امنیت جوامع بشری ترجیح می‌دهد.
نتیجه‌گیری
هشدار اخیر پژوهشگر آنتروپیک بار دیگر ثابت کرد که شتاب در توسعه ابرهوش مصنوعی بدون در نظر گرفتن پروتکل‌های ایمنی سخت‌گیرانه، ریسکی بزرگ برای کل بشریت است. ورود شرکت‌های هوش مصنوعی به بازار بورس ممکن است این روند پرخطر را سرعت ببخشد. اکنون جامعه جهانی و نهادهای قانون‌گذار باید بیش از گذشته بر فعالیت این غول‌های فناوری نظارت کنند تا پیشرفت تکنولوژی به بهای سلب امنیت انسان‌ها تمام نشود.
منبع: TechCrunch
---
پیاده‌سازی ایمن و هوشمندانه هوش مصنوعی با تیکینو
در دنیایی که هوش مصنوعی با سرعتی باورنکردنی در حال تغییر زیرساخت‌های کسب‌وکارهای جهانی است، استفاده بهینه، ایمن و هدفمند از این فناوری اهمیت حیاتی دارد. مجله و آژانس دیجیتال مارکتینگ تیکینو با بهره‌گیری از آخرین دستاوردهای روز دنیا در حوزه هوش مصنوعی، طراحی سایت حرفه‌ای، سئو و بهینه‌سازی موتورهای جستجو، به کسب‌وکار شما کمک می‌کند تا بدون درگیر شدن در ریسک‌های فنی، از رقبای خود پیشی بگیرید.
اگر به دنبال ادغام ابزارهای هوشمند در فرآیندهای دیجیتال مارکتینگ و ارتقای رتبه وب‌سایت خود هستید، همین امروز با کارشناسان تیکینو تماس بگیرید و از خدمات تخصصی ما بهره‌مند شوید.