استعفای ناگهانی جیکوب کاکسون، پژوهشگر ارشد شرکت هوش مصنوعی آنتروپیک (Anthropic)، موج جدیدی از نگرانی‌ها را درباره آینده فناوری‌های خودآموز ایجاد کرده است. او با هشدار نسبت به تهدید وجودی هوش مصنوعی برای بقای بشریت، توسعه بی‌رویه این فناوری را به یک «قمار خطرناک با جان انسان‌ها» تشبیه کرد و خواستار مداخله فوری شد.
---
زنگ خطر در یکی از امن‌ترین آزمایشگاه‌های هوش مصنوعی جهان
شرکت آنتروپیک که با توسعه مدل هوش مصنوعی «کلود» (Claude) شناخته می‌شود، همواره خود را به عنوان شرکتی متعهد به ایمنی و اخلاق در حوزه هوش مصنوعی معرفی کرده است. این شرکت در واقع توسط اعضای سابق OpenAI تاسیس شد که از تجاری‌سازی سریع و نادیده گرفتن پروتکل‌های ایمنی در آنجا ناراضی بودند. با این حال، استعفای جیکوب کاکسون (Jacob Coxon) نشان می‌دهد که حتی در درون آنتروپیک نیز نگرانی‌های عمیقی درباره سرعت توسعه فناوری وجود دارد.
کاکسون در بیانیه استعفای خود به صراحت اعلام کرد که سرعت توسعه سیستم‌های هوش مصنوعی فراتر از توانایی ما برای کنترل آن‌هاست. او هشدار داد که رقابت شدید میان غول‌های فناوری، ایمنی بشریت را به حاشیه رانده است.
---
هوش مصنوعی خودآموز؛ مرزی که نباید از آن عبور کرد
بزرگ‌ترین نگرانی کاکسون و بسیاری از دانشمندان هم‌فکر او، پدیده‌ای به نام «هوش مصنوعی خودآموز» (Self-Improving AI) یا بهبود بازگشتی است. این اصطلاح به سیستم‌هایی اشاره دارد که می‌توانند کدنویسی خود را اصلاح کنند، الگوریتم‌های خود را ارتقا دهند و بدون نیاز به دخالت انسان، هوشمندتر شوند.
چرا هوش مصنوعی خودآموز خطرناک است؟
وقتی یک سیستم هوش مصنوعی به توانایی خودآموزی و خوداصلاح‌گری دست می‌یابد، سرعت رشد آن دیگر خطی نخواهد بود، بلکه به صورت نمایی افزایش می‌یابد. این امر می‌تواند در عرض چند روز یا حتی چند ساعت به پیدایش «ابر هوش مصنوعی» (ASI) منجر شود که رفتارهای آن برای سازندگانش کاملاً غیرقابل پیش‌بینی و غیرقابل کنترل است.
کاکسون در این باره می‌گوید:
> «ما در حال ساخت سیستم‌هایی هستیم که به زودی می‌توانند بهتر از بهترین مهندسان ما تحقیق و برنامه‌نویسی کنند. وقتی این چرخه آغاز شود، کنترل آن از دست ما خارج خواهد شد. این کار قمار کردن با جان تمام انسان‌های روی زمین است.»
---
درخواست برای «توافق‌نامه‌های کنترل سرعت» میان آزمایشگاه‌ها
یکی از پیشنهادهای کلیدی کاکسون پس از استعفا، ایجاد یک پیمان جهانی یا «توافق‌نامه کنترل سرعت» (Pacing Agreements) میان آزمایشگاه‌های پیشرو هوش مصنوعی مانند OpenAI، گوگل، آنتروپیک و متا است.
در حال حاضر، این شرکت‌ها در یک «تله رقابتی» یا نظریه بازی‌ها گرفتار شده‌اند؛ هیچ‌کدام نمی‌توانند سرعت توسعه خود را کاهش دهند، زیرا می‌ترسند رقیبشان زودتر به هوش عمومی مصنوعی (AGI) دست یابد و بازار را تصاحب کند. کاکسون معتقد است تنها راه خروج از این بحران، یک توافق جمعی و الزام‌آور برای توقف یا کند کردن فرآیند آموزش مدل‌های بزرگتر است تا زمانی که استانداردهای ایمنی کافی تدوین شوند.
---
موج استعفای نخبگان از شرکت‌های بزرگ فناوری
استعفای کاکسون یک اتفاق ایزوله نیست. در ماه‌های اخیر، چندین چهره برجسته دیگر نیز از شرکت‌های بزرگی مانند OpenAI به دلایل مشابه استعفا داده‌اند. افرادی مانند ایلیا سوتسکور (هم‌بنیان‌گذار OpenAI) و یان لایکه (مدیر تیم ترازسازی هوش مصنوعی) نیز پیش از این با ابراز نگرانی از اولویت یافتن سود تجاری بر ایمنی، مسیر خود را از این شرکت‌ها جدا کرده بودند.
این روند نشان‌دهنده یک شکاف عمیق در سیلیکون ولی است: شکاف میان مدیران اجرایی که به دنبال سهم بازار و جذب سرمایه‌گذار هستند، و دانشمندانی که نگران پیامدهای آخرالزمانی فناوری‌های ساخته دست خود هستند.
---
نتیجه‌گیری: آینده‌ای در مرز باریک پیشرفت و نابودی
هشدار جیکوب کاکسون بار دیگر این سوال اساسی را پیش روی جامعه جهانی قرار می‌دهد: آیا ما آماده مواجهه با موجودیتی هوشمندتر از خودمان هستیم؟ در حالی که هوش مصنوعی پتانسیل حل بزرگ‌ترین مشکلات بشریت از جمله بیماری‌ها و تغییرات اقلیمی را دارد، توسعه بدون کنترل آن می‌تواند به بزرگ‌ترین تهدید تاریخ تبدیل شود.
منبع این گزارش، خبرگزاری معتبر TechCrunch AI است که در تاریخ ۹ سپتامبر ۲۰۲۶ این خبر را پوشش داده است.
---
با تیکینو، هوش مصنوعی را به خدمت کسب‌وکار خود درآورید
در حالی که غول‌های فناوری در حال بحث بر روی مرزهای اخلاقی و خطرات آینده هوش مصنوعی هستند، امروز این فناوری ابزاری بی‌نظیر برای رشد کسب‌وکارهاست. استفاده هوشمندانه و اخلاقی از هوش مصنوعی می‌تواند بهره‌وری شما را چند برابر کند.
آژانس دیجیتال مارکتینگ تیکینو با بهره‌گیری از جدیدترین ابزارهای هوش مصنوعی در زمینه‌های زیر همراه شماست:
* طراحی سایت مدرن با بهینه‌ترین ساختار برای موتورهای جستجو
* خدمات سئو حرفه‌ای با استفاده از تحلیل‌های پیشرفته هوش مصنوعی برای شناخت رفتار کاربر
* دیجیتال مارکتینگ و تولید محتوای هوشمند برای جذب مشتریان هدفمند
اگر می‌خواهید کسب‌وکار خود را با فناوری روز همگام کنید و از رقبای خود پیشی بگیرید، همین امروز با کارشناسان تیکینو تماس بگیرید تا بهترین استراتژی را برای شما تدوین کنیم.