هشدار مایکروسافت: ایجنت‌های هوش مصنوعی؛ تهدید جدید سازمان‌ها

مایکروسافت در تازه‌ترین تحلیل امنیتی خود به سازمان‌ها و کسب‌وکارها هشدار داد که استفاده بی‌رویه و بدون نظارت از ایجنت‌های هوش مصنوعی می‌تواند خطراتی مشابه «تهدیدات درون‌سازمانی» (Insider Threats) ایجاد کند. طبق اعلام این غول فناوری، مدل‌های پیشرو (Frontier Models) به دلیل ماهیت پیش‌بینی‌ناپذیر خود به طور کامل قابل اعتماد نیستند و استفاده کارمندان از ابزارهای هوش مصنوعی خارج از چارچوب‌های نظارتی شرکت‌ها، زیرساخت‌های امنیتی را به شدت تهدید می‌کند.

ایجنت هوش مصنوعی چیست و چرا با چت‌بات‌های معمولی تفاوت دارد؟

برای درک بهتر هشدار مایکروسافت، ابتدا باید تفاوت میان یک چت‌بات ساده و یک «ایجنت هوش مصنوعی» (AI Agent) را درک کنیم. چت‌بات‌های سنتی عمدتاً به متون ورودی پاسخ می‌دهند و اطلاعات را بر اساس دانش آموزش‌دیده خود تولید می‌کنند. اما ایجنت‌های هوش مصنوعی فراتر از پاسخ‌دهی متنی عمل می‌کنند؛ آن‌ها دارای «خودمختاری» (Autonomy) هستند و می‌توانند تصمیم بگیرند، دسترسی به پایگاه‌های داده داشته باشند، کدهای مختلف را اجرا کنند، ایمیل بفرستند و فرایندهای کاری پیچیده را بدون دخالت مستقیم انسان انجام دهند.

همین قدرت اجرایی و سطح دسترسی بالا باعث می‌شود که اگر یک ایجنت هوش مصنوعی دچار اختلال شود یا مورد سوءاستفاده قرار گیرد، آسیب‌های آن به مراتب سنگین‌تر و گسترده‌تر از یک چت‌بات معمولی باشد.

چرا مایکروسافت ایجنت‌ها را «تهدید درون‌سازمانی» می‌نامد؟

در ادبیات امنیت سایبری، «تهدید درون‌سازمانی» به کارمندان یا افرادی اشاره دارد که دسترسی‌های مجاز به سیستم‌های شرکت دارند و می‌توانند به صورت عمدی یا سهوی باعث نشت اطلاعات یا خرابی زیرساخت‌ها شوند. مایکروسافت معتقد است ایجنت‌های هوش مصنوعی دقیقاً نقشی مشابه یک کارمند دارای دسترسی را ایفا می‌کنند.

وقتی یک کارمند از یک ایجنت هوش مصنوعی برای انجام کارهای روزمره خود استفاده می‌کند، این ایجنت به بخش زیادی از اطلاعات حساس شرکت، از جمله ایمیل‌ها، اسناد مالی و کدهای برنامه‌نویسی دسترسی پیدا می‌کند. اگر این ابزار توسط شرکت‌های معتبر و تحت پروتکل‌های امنیتی سخت‌گیرانه مدیریت نشود، می‌تواند به حاطر ضعف‌های امنیتی خود، به نقطه‌ای برای ورود هکرها تبدیل شود.

تزریق پرامپت (Prompt Injection)؛ سلاح جدید مهاجمان

یکی از اصلی‌ترین خطراتی که ایجنت‌های هوش مصنوعی را تهدید می‌کند، حملات «تزریق پرامپت» است. در این نوع حملات، هکرها دستورات خبیثانه خود را در قالب داده‌های متنی (مانند یک ایمیل در ظاهر معمولی یا یک فایل درج‌شده در وب‌سایت) پنهان می‌کنند. زمانی که ایجنت هوش مصنوعی این متن را می‌خواند، دستور پنهان را اجرا کرده و ممکن است اطلاعات حساس سازمان را برای مهاجم ارسال کند یا دسترسی‌های غیرمجاز ایجاد نماید.

پدیده «هوش مصنوعی سایه» (Shadow AI)

بخش دیگری از هشدار مایکروسافت متوجه پدیده‌ای به نام Shadow AI است. این پدیده زمانی رخ می‌دهد که کارمندان بدون اطلاع و تایید تیم IT یا بخش امنیت سازمان، از ابزارها و ایجنت‌های هوش مصنوعی متفرقه برای افزایش سرعت کار خود استفاده می‌کنند. استفاده از سیستم‌هایی که خارج از کنترل غول‌های فناوری نظیر OpenAI، Anthropic یا Microsoft هستند، ریسک نشت اطلاعات تجاری را به شدت افزایش می‌دهد.

چالش مدل‌های پیشرو (Frontier Models)؛ چرا اعتماد مطلق ممکن نیست؟

مدل‌های پیشرو مانند GPT-4 یا Claude قدرتمندترین مدل‌های هوش مصنوعی حال حاضر جهان هستند، اما مایکروسافت صراحتاً اعلام کرده است که حتا این مدل‌ها نیز نمی‌توانند «مورد اعتماد مطلق» باشند. دلیل این موضوع، ماهیت احتمالاتی و غیرقطعی (Non-deterministic) هوش مصنوعی است.

هوش مصنوعی ممکن است دچار «توهم» (Hallucination) شود، دستورالعمل‌های امنیتی را اشتباه تفسیر کند یا در مواجهه با ورودی‌های پیچیده، رفتارهای غیرمنتظره از خود نشان دهد. وقتی این رفتار غیرمنتظره در یک ایجنت دارای دسترسی‌های اجرایی رخ دهد، نتیجه آن می‌تواند پاک شدن داده‌های حیاتی یا افشای رازهای تجاری سازمان باشد.

راهکارهای حیاتی برای ایمن‌سازی هوش مصنوعی در سازمان‌ها

مایکروسافت برای مدیریت این ریسک‌ها و جلوگیری از تبدیل شدن هوش مصنوعی به یک تهدید امنیتی، راهکارهای زیر را به مدیران کسب‌وکارها پیشنهاد می‌کند:

1. اعمال اصل حداقل دسترسی (Least Privilege): ایجنت‌های هوش مصنوعی نباید به تمام سیستم‌ها و داده‌های سازمان دسترسی داشته باشند. دسترسی آن‌ها باید محدود به حداقل‌های مورد نیاز برای انجام وظیفه مشخص باشد.
2. استفاده از معماری صفر مطلق (Zero Trust): سازمان‌ها باید با ایجنت‌های هوش مصنوعی مانند یک کاربر ناامن رفتار کنند و تمام درخواست‌ها و اقدامات آن‌ها را احراز هویت و پایش کنند.
3. پایش و مانیتورینگ مداوم: تمام فعالیت‌ها و لاگ‌های مربوط به عملکرد ایجنت‌های هوش مصنوعی باید به صورت لحظه‌ای بررسی شوند تا رفتارهای مشکوک سریعاً شناسایی و متوقف شوند.
4. تدوین چارچوب‌های سازمانی برای استفاده از AI: شرکت‌ها باید قوانین شفافی درباره ابزارهای مجاز هوش مصنوعی تعیین کرده و کارمندان را درباره خطرات استفاده از ابزارهای تاییدنشده آموزش دهند.

نتیجه‌گیری

هوش مصنوعی و ایجنت‌های خودکار بدون شک انقلابی در بهره‌وری و سرعت پیشبرد امور ایجاد کرده‌اند، اما پذیرش کورکورانه آن‌ها بدون در نظر گرفتن ملزومات امنیتی، می‌تواند خسارات جبران‌ناپذیری به بار آورد. به گفته مایکروسافت، سازمان‌ها باید هوش مصنوعی را به عنوان یک همکار پیشرفته اما نیازمند نظارت مستمر ببینند؛ همکاری که اگر کنترل نشود، می‌تواند به خطری بزرگ از درون سازمان تبدیل شود.

---

منبع اصلی: TechCrunch - Microsoft says AI agents are like insider threats

---

خدمات آژانس تکنولوژی تیکینو در حوزه هوش مصنوعی و امنیت دیجیتال

آیا می‌خواهید توانمندی‌های هوش مصنوعی را در سازمان یا وب‌سایت خود پیاده‌سازی کنید اما نگران امنیت داده‌ها و ریسک‌های سایبری هستید؟

تیکینو به عنوان مجموعه تخصصی در حوزه توسعه هوش مصنوعی، طراحی سایت، سئو و دیجیتال مارکتینگ، به شما کمک می‌کند تا جدیدترین ابزارها و ایجنت‌های هوش مصنوعی را در چارچوبی کاملاً ایمن، استاندارد و متناسب با نیازهای کسب‌وکارتان یکپارچه‌سازی کنید. برای دریافت مشاوره تخصصی در زمینه بهینه‌سازی فرایندها با AI و ارتقای امنیت دیجیتال، با کارشناسان تیکینو در ارتباط باشید.