در حالی که جهان نگران نابودی بشریت توسط هوش مصنوعی در آینده است، آسیب‌های روانی فعلی آن بر کاربران، به‌ویژه کودکان، نادیده گرفته می‌شود. استارتاپ نوپای Circuit Breaker Labs با معرفی مفهوم خلاقانه «آدمک‌های تست تصادف» برای مدل‌های زبانی، قصد دارد امنیت روانی کاربران را در مواجهه با هوش مصنوعی تضمین کند.
---
تهدیدهای پنهان هوش مصنوعی؛ فراتر از سناریوهای آخرالزمانی
وقتی صحبت از خطرات هوش مصنوعی می‌شود، ذهن اکثر مردم به سمت فیلم‌های علمی-تخیلی و شورش ربات‌ها می‌رود. اما کارشناسان سلامت روان و متخصصان فناوری هشدار می‌دهند که خطر اصلی بسیار نزدیک‌تر و ملموس‌تر است. امروزه میلیون‌ها کودک و نوجوان به طور روزانه با چت‌بات‌های هوش مصنوعی تعامل دارند. این ابزارها که گاهی نقش دوست، مشاور یا همدم را بازی می‌کنند، فاقد درک واقعی از احساسات انسانی هستند و می‌توانند پیامدهای جبران‌ناپذیری بر سلامت روان کاربران بگذارند.
گزارش‌های متعددی وجود دارد که نشان می‌دهد چت‌بات‌ها رفتارهای آسیب‌رسان، توصیه‌های خطرناک و حتی محتوای نامناسب را به کاربران کم‌سن‌وسال ارائه داده‌اند. وابستگی عاطفی شدید کودکان به این دستیارهای مجازی، آن‌ها را در برابر دستکاری‌های روانی و آسیب‌های عاطفی بسیار آسیب‌پذیر می‌کند. اینجاست که نیاز به یک سیستم ارزیابی دقیق، علمی و پیشگیرانه بیش از هر زمان دیگری احساس می‌شود.
استارتاپ Circuit Breaker Labs و ایده آدمک‌های تست تصادف
برای حل این چالش بزرگ، استارتاپ Circuit Breaker Labs راهکاری الهام‌گرفته از صنعت خودروسازی ارائه داده است. همان‌طور که خودروسازان پیش از روانه کردن یک خودروی جدید به بازار، از «آدمک‌های تست تصادف» (Crash Test Dummies) برای سنجش میزان مقاومت و ایمنی خودرو در برابر ضربات شدید استفاده می‌کنند، این استارتاپ نیز سیستمی مشابه برای هوش مصنوعی طراحی کرده است.
این شرکت «آدمک‌های تست تصادف دیجیتالی» یا همان شبیه‌سازهای کاربری را توسعه داده است که رفتارهای انسان‌های واقعی، به‌ویژه گروه‌های آسیب‌پذیر مانند کودکان یا افراد مبتلا به بحران‌های روحی را شبیه‌سازی می‌کنند. هدف از این کار، سنجش رفتار هوش مصنوعی در مواجهه با این سناریوهای حساس است.
این آدمک‌های دیجیتالی چگونه کار می‌کنند؟
فرآیند کار این سیستم بسیار هوشمندانه و مبتنی بر سناریوهای واقعی است:
۱. شبیه‌سازی پرسونای کاربر: سیستم، پروفایل‌های کاربری مختلفی را ایجاد می‌کند؛ مانند یک نوجوان گوشه‌گیر، یک کودک کنجکاو یا فردی که تحت استرس شدید قرار دارد.
۲. تست فشار (Stress Testing): این آدمک‌های مجازی با سناریوهای پیچیده و چالش‌برانگیز به سراغ چت‌بات‌های هوش مصنوعی می‌روند و سوالاتی می‌پرسند که مرزهای اخلاقی سیستم را به چالش می‌کشد.
۳. کشف نقاط شکست: هدف این است که مشخص شود سیستم در چه نقطه‌ای دچار خطا می‌شود، قوانین ایمنی را زیر پا می‌گذارد یا پاسخ‌های مخرب و نامناسب تولید می‌کند.
با شناسایی این نقاط ضعف پیش از عرضه عمومی هوش مصنوعی، توسعه‌دهندگان می‌توانند کدهای حفاظتی و فیلترهای لازم را روی مدل‌های خود اعمال کنند.
چرا ایمنی هوش مصنوعی برای کودکان یک ضرورت فوری است؟
کودکان نسل امروز، اولین نسلی هستند که با هوش مصنوعی به عنوان یک