کاخ سفید به‌تازگی از پروژه بزرگ خود برای ساده‌سازی فرآیندهای پیچیده اداری رونمایی کرده است. پلتفرم جدید America.gov با استفاده از چت‌بات‌های مبتنی بر هوش مصنوعی تلاش می‌کند شهروندان را در میان هزارتوی بروکراسی دولتی راهنمایی کند؛ اما خطاهای احتمالی و پدیده توهم در مدل‌های زبانی، نگرانی‌های جدی برانگیخته است.
رویاپردازی کاخ سفید: تسهیل خدمات عمومی با هوش مصنوعی
پیچیدگی فرآیندهای اداری، قوانین متعدد و دسترسی سخت به اطلاعات دقیق، همواره یکی از بزرگ‌ترین چالش‌های شهروندان در تعامل با نهادهای دولتی بوده است. کاخ سفید در راستای مدرن‌سازی ساختار اداری و کاهش کاغذبازی، پروژه پلتفرم America.gov را کلید زده است. هدف اصلی این سامانه، ارائه یک دستیار هوشمند متمرکز است تا افراد بتوانند پاسخ پرسش‌های حقوقی، مالیاتی، بیمه‌ای و دریافت مجوزها را در کمترین زمان ممکن دریافت کنند.
در دنیایی که شهروندان انتظار دارند رفتارهای اداری مانند سفارش آنلاین یک محصول ساده و سریع باشد، ورود مدل‌های بزرگ زبانی (LLM) به خدمات حکمرانی امری منطقی به نظر می‌رسد. این چت‌بات طراحی شده تا اطلاعات پراکنده صدها وب‌سایت دولتی را یکپارچه کرده و به زبان ساده به کاربران ارائه دهد. با این حال، اجرای چنین ایده‌ای در ابعاد ملی با خطرات بی‌سابقه‌ای همراه است.
چالش توهم (Hallucination)؛ وقتی هوش مصنوعی قانون می‌سازد!
بزرگ‌ترین نگران کارشناسان فناوری و حقوق‌دانان، پدیده «توهم» یا پاسخ‌های نادرست و ساختگی در هوش مصنوعی است. مدل‌های بزرگ زبانی تجاری مانند ChatGPT یا Claude با وجود پیشرفت‌های شگرف، همچنان گاهی اطلاعات غلط را با اطمینان کامل به عنوان حقیقت تحویل کاربر می‌دهند.
در محیط‌های تجاری یا سرگرمی، یک پاسخ اشتباه شاید عواقب سنگینی نداشته باشد؛ اما در خدمات دولتی، سناریو کاملاً متفاوت است. فرض کنید چت‌بات دولتی اطلاعات اشتباهی درباره نحوه پرداخت مالیات، شرایط دریافت ویزا، یا مدارک لازم برای یارانه‌ها به یک شهروند بدهد:
* عواقب حقوقی: شهروند ممکن است بر اساس راهنمایی اشتباه هوش مصنوعی جریمه شود یا حق قانونی خود را از دست بدهد.
* کاهش اعتماد عمومی: اگر چت‌بات اطلاعات اشتباه منتشر کند، اعتماد مردم به سامانه‌های دیجیتال دولت به شدت آسیب می‌بیند.
* مسئولیت حقوقی ناشناخته: در صورت بروز خسارت به دلیل راهنمایی اشتباه چت‌بات، مشخص نیست مسئولیت حقوقی متوجه دولت است یا شرکت توسعه‌دهنده هوش مصنوعی.
ساختار فنی؛ RAG و ضرورت نظارت انسانی
برای کاهش میزان خطا، توسعه‌دهندگان سامانه‌های حکمرانی معمولاً از تکنیک RAG (Retrieval-Augmented Generation) استفاده می‌کنند. در این روش، هوش مصنوعی مجاز نیست از دانش عمومی خود پاسخ دهد، بلکه ابتدا پایگاه داده‌های رسمی دولت را جستجو کرده و سپس پاسخ را بر اساس مستندات واقعی بازنویسی می‌کند.
آیا RAG توهم را به صفر می‌رساند؟
پاسخ منفی است. حتی پیشرفته‌ترین سیستم‌های RAG نیز در تفسیر قوانین پیچیده اداری یا پاسخ به پرسش‌های چندوجهی کاربران ممکن است دچار سوءتعبیر شوند. به همین دلیل، بسنده کردن به چت‌بات بدون در نظر گرفتن مکانیزم «انسان در چرخه» (Human-in-the-loop) می‌تواند پیامدهای جبران‌ناپذیری داشته باشد.تجربیات گذشته و آینده هوش مصنوعی در حکمرانی
این نخستین باری نیست که یک نهاد عمومی به سراغ چت‌بات‌ها می‌رود. پیش از این، برخی شهرداری‌ها و سازمان‌های خدماتی در سراسر جهان اقدام به پیاده‌سازی هوش مصنوعی کرده‌اند که در مواردی به دلیل ارائه اطلاعات نادرست درباره تخفیف‌های مالیاتی یا قوانین شهری، مجبور به عذرخواهی و پرداخت خسارت شده‌اند.
با این وجود، کاخ سفید معتقد است که مزایای صرفه‌جویی در زمان و هزینه‌ها بسیار بیشتر از مخاطرات آن است. آینده پروژه America.gov نشان خواهد داد که آیا فناوری فعلی هوش مصنوعی آماده پذیرش مسئولیت‌های سنگین اداری است یا خیر.
این گزارش بر اساس مقاله‌ای از منبع معتبر TechCrunch AI تنظیم و بازنویسی شده است.
---
توسعه هوش مصنوعی و چت‌بات‌های تخصصی با تیکینو
همان‌طور که سازمان‌های بزرگ جهانی به سمت استفاده از هوش مصنوعی می‌روند، کسب‌وکارها نیز برای رشد سریع‌تر و ارائه خدمات پشتیبانی ۲۴/۷ به چت‌بات‌های هوشمند و بدون خطا نیاز دارند.
آژانس دیجیتال مارکتینگ و فناوری تیکینو با بهره‌گیری از جدیدترین متدهای هوش مصنوعی، طراحی سایت اختصاصی، خدمات سئو و پیاده‌سازی هوش مصنوعی متناسب با دانش سازمانی شما، به شما کمک می‌کند تا بدون ریسکِ توهم هوش مصنوعی، ارتباطی هوشمندانه و پایدار با مشتریان خود برقرار کنید. برای مشاوره تخصصی در زمینه ادغام هوش مصنوعی در وب‌سایت و کسب‌وکارتان، همین امروز با کارشناسان تیکینو تماس بگیرید.