استارتاپ تازه‌تأسیس AIUC که توسط کارمندان ارشد سابق انتروپیک (Anthropic) و مدیر عملیاتی سابق موسسه ارزیابی خطرات هوش مصنوعی (METR) راه‌اندازی شده، در دور سرمایه‌گذاری سری A موفق به جذب ۴۰ میلیون دلار سرمایه شد. این شرکت با ارائه راهکارهای ارزیابی ریسک و بیمه هوش مصنوعی، قصد دارد مانع از رفتارهای غیرقابل‌پیش‌بینی و خطرساز عاملیت‌های هوش مصنوعی خودمختار در کسب‌وکارها شود.
جهش عاملیت‌های هوش مصنوعی و بروز تهدیدهای تازه
با پیشرفت روزافزون فناوری هوش مصنوعی، مدل‌های زبانی ساده در حال تبدیل شدن به عاملیت‌های خودمختار (AI Agents) هستند. این ایجنت‌ها دیگر صرفاً پاسخ‌دهنده به پرسش‌های ساده کاربر نیستند، بلکه می‌توانند به‌طور مستقل تصمیم‌گیری کنند، ابزارهای مختلف نرم‌افزاری را اجرا نمایند، کدهای برنامه‌نویسی بنویسند و حتی معاملات مالی پیچیده انجام دهند. اما این سطح از خودمختاری، چالش‌ها و خطرات جدیدی را نیز به همراه آورده است. عاملیت‌های هوش مصنوعی در صورت بروز خطا، رخنه امنیتی یا تحلیل اشتباه، می‌توانند خسارت‌های مالی و اعتباری جبران‌ناپذیری به سازمان‌ها وارد کنند.
تصور کنید یک ایجنت هوش مصنوعی که مسئول مدیریت زنجیره تامین یا خریدهای سازمانی است، به دلیل یک باگ نرم‌افزاری یا حملات سایبری دست به خریدهای میلیون دلاری اشتباه بزند یا اطلاعات حساس مشتریان را در شبکه افشا کند. این سناریوها دیگر زاییده ذهن نویسندگان علمی-تخیلی نیستند، بلکه چالش‌های واقعی و روزمره مدیران ارشد فناوری در بزرگ‌ترین شرکت‌های جهان محسوب می‌شوند. به همین دلیل، نیاز به ابزارهایی برای مهار و ارزیابی رفتارهای سرکش هوش مصنوعی (Rogue AI Agents) بیش از هر زمان دیگری احساس می‌شود.
تولد استارتاپ AIUC؛ پاسخ به نیاز حیاتی امنیت هوش مصنوعی
در پاسخ به همین نگرانی‌های روزافزون، استارتاپ «شرکت ارزیابی ریسک هوش مصنوعی» (Artificial Intelligence Underwriting Company یا به اختصار AIUC) شکل گرفته است. این استارتاپ توسط یکی از نخستین اعضای تیم توسعه انتروپیک و مدیر عملیاتی سابق موسسه تحقیقاتی METR تأسیس شده است؛ افرادی که سال‌ها در خط مقدم توسعه مدل‌های پیشرفته هوش مصنوعی و ارزیابی ایمنی آن‌ها فعالیت داشته‌اند و با زوایای پنهان خطرات این فناوری کاملاً آشنا هستند.
طبق گزارش اختصاصی پایگاه خبری تک‌کرانچ (TechCrunch)، استارتاپ AIUC اخیراً توانسته است دور سرمایه‌گذاری سری A خود را با موفقیت و جذب ۴۰ میلیون دلار سرمایه به پایان برساند. این دور از سرمایه‌گذاری به رهبری صندوق سرمایه‌گذاری مطرح Ribbit Capital انجام شده و شرکت First Harmonic نیز در آن مشارکت داشته است.
ارزیابی ریسک و بیمه عاملیت‌های هوش مصنوعی چگونه کار می‌کند؟
رویکرد اصلی AIUC بر پایه مفهوم «پوشش ریسک و بیمه» (Underwriting) استوار است. همان‌طور که در دنیای سنتی مالی، شرکت‌های بیمه پیش از صدور بیمه‌نامه برای یک پروژه، میزان خطرات و ریسک‌های احتمالی آن را دقیقاً ارزیابی و محاسبه می‌کنند، AIUC نیز با بررسی فنی زیرساخت‌ها، مدل‌های هوش مصنوعی و عاملیت‌های فعال در یک سازمان، سطح ریسک رفتارهای غیرقابل‌پیش‌بینی را ارزیابی می‌کند.
خدمات کلیدی این استارتاپ شامل موارد زیر است:
* تست نفوذ و شبیه‌سازی رفتارهای سرکش: آزمودن ایجنت‌های هوش مصنوعی در سناریوهای بحرانی و پیچیده برای شناسایی نقاط ضعف و رفتارهای آنومال.
* سطح‌بندی ریسک عملیاتی: ارائه استانداردهای شفافی که نشان می‌دهد یک عاملیت هوش مصنوعی تا چه حد برای سپردن امور حساس مالی و فنی قابل اعتماد است.
* ارائه پوشش‌های بیمه‌ای و تضمین مالی: همکاری با نهادهای مالی بزرگ برای ایجاد چتر حمایتی در صورت بروز خطاهای پرهزینه توسط هوش مصنوعی.
چرا صنعت هوش مصنوعی به چارچوب‌های ارزیابی خطر نیاز دارد؟
امروزه بسیاری از سازمان‌ها و شرکت‌های بزرگ از بیم داشتن خطرات احتمالی و عدم کنترلی که روی ابزارهای خودمختار دارند، در پیاده‌سازی کامل فناوری‌های مبتنی بر عاملیت‌های هوش مصنوعی تردید می‌کنند. وجود یک نهاد شخص ثالث معتبر مانند AIUC که بتواند عملکرد این سیستم‌ها را تضمین و استانداردسازی کند، کلید باز شدن قفل پذیرش همگانی هوش مصنوعی خودمختار