افزایش چشمگیر استفاده از سیستمهای نظارتی مبتنی بر هوش مصنوعی در سال‌های اخیر، موجی از نگرانی‌های جدی را در میان فعالان حقوق شهروندی و مدافعان حریم خصوصی ایجاد کرده است. در مرکز این چالش، شرکت «فلاک سفتی» (Flock Safety) قرار دارد؛ مجموعه‌ای که به عنوان یکی از بزرگ‌ترین ارائه‌دهندگان دوربینهای پلاک‌خوان پیشرفته و نرم‌افزارهای تحلیلی به نهادهای مجری قانون در ایالات متحده شناخته می‌شود. به‌دنبال افزایش انتقادات رسانه‌ای و نهادی، مدیرعامل این شرکت اخیراً خواستار دستیابی به یک «سازش عمومی» و متوازن میان حفظ امنیت جامعه و احترام به آزادی‌های فردی شده است. این درخواست در حالی مطرح می‌شود که مرز میان پایش امنیتی و جاسوسی انبوه بیش از هر زمان دیگری تار و نامشخص شده است.
چالش نظارت هوشمند؛ ابزارهای فلاک سفتی چگونه کار میکنند؟
فناوریهای نظارتی طی دهه گذشته تغییرات بنیادی داشتهاند و از دوربینهای مداربسته ساده به سیستمهای پردازش تصویر پیچیده تبدیل شدهاند. شرکت فلاک سفتی با بهرهگیری از سیستمهای شناسایی خودکار پلاک خودرو (ALPR) و ترکیب آنها با الگوریتمهای یادگیری ماشین، امکان تحلیل لحظهای ترددها را فراهم کرده است. طبق گزارش منتشرشده در پایگاه خبری تککرانچ (TechCrunch)، فناوری این شرکت تنها به ثبت شماره پلاک محدود نمیشود؛ بلکه بینایی ماشین بهکاررفته در آن میتواند مدل، رنگ، ویژگیهای خاص بدنه (مانند برچسب‌ها یا آسیب‌دیدگی‌ها) و حتی مسیر حرکت احتمالی خودروها را بازسازی کند.
همین قدرت بالای پردازش داده باعث شده است که نهادهای انضباطی و شهرداری‌ها استقبال گسترده‌ای از این ابزارها داشته باشند. اما مشکل اصلی از جایی آغاز می‌شود که این حجم عظیم از داده‌ها بدون داشتن شاکی خصوصی یا حکم قضایی مشخص، ذخیره‌سازی و طبقه‌بندی می‌شوند. منتقدان بر این باورند که ایجاد چنین شبکه نظارتی گسترده‌ای، بستری برای «ردیابی انبوه بدون مجوز» فراهم می‌کند. علاوه بر این، امکان اشتراک‌گذاری داده‌ها میان حوزه‌های قضایی مختلف و ادارات گوناگون، نگرانی‌ها را درباره عدم وجود نظارت متمرکز و احتمال سوءاستفاده از اطلاعات شخصی شهروندان دوچندان کرده است.
موضع مدیرعامل فلاک؛ ضرورت ایجاد سازش میان امنیت شهری و حریم خصوصی
در واکنش به موج فزاینده انتقادات، مدیرعامل فلاک سفتی در مصاحبهها و اظهارات اخیر خود تأکید کرده است که جامعه باید به یک «سازش منطقی و کارآمد» دست یابد. از دیدگاه مدیریت این شرکت، ابزارهای هوش مصنوعی نقشی حیاتی و غیرقابل انکار در کشف سریع جرایم، دستگیری مجرمان خطرناک، یافتن افراد گمشده و در نهایت کاهش نرخ جرم و جنایت در محله‌ها ایفا میکنند. وی هشدار می‌دهد که ممنوعیت کامل یا اعمال محدودیت‌های شدید و سخت‌گیرانه بر این فناوری‌ها، دست پلیس را در برابر مجرمان می‌بندد و امنیت عمومی را به شدت آسیب‌پذیر می‌سازد.
با این حال، مدیرعامل فلاک اذعان دارد که نگرانی‌های جامعه در خصوص احتمال نقض حریم خصوصی و سوءاستفاده از دیتابیس‌های بزرگ کاملاً مشروع و به‌جاست. راهکار پیشنهادی وی، نه توقف توسعه فناوری، بلکه تدوین قوانین جامع، شفاف و به‌روز است. به باور او، قانون‌گذاران باید چارچوب‌هایی مشخص تعیین کنند که در آن، اختیارات نیروهای امنیتی برای استفاده از هوش مصنوعی شفاف باشد و در عین حال، سازوکارهای بازرسی دقیق برای جلوگیری از دسترسی‌های غیرمجاز و تحلیل‌های غیرقانونی تعبیه شود.
آینده هوش مصنوعی در پایش تصویری؛ تدوین مقررات یا تعمیق نگرانی‌ها؟
مباحث پیرامون فلاک سفتی نمونهای کوچک از یک چالش جهانی بزرگتر است: چگونگی همزیستی فناوریهای پیشرفته نظارتی با حقوق بنیادین انسانها. امروزه هوش مصنوعی میتواند الگوهای رفتاری افراد را پیشبینی کند و همین امر مرز میان «پیشگیری از جرم» و «نقض آزادی فردی» را بسیار باریک کرده است. اگر الگوریتمهای هوش مصنوعی دچار سوگیری شوند یا دادههای ورودی دارای خطا باشند، خطر بازداشتهای اشتباهی یا متهمسازی افراد بیگناه بهشدت افزایش مییابد.
برای خروج از این بحران و دستیابی به همان سازش مورد نظر، کارشناسان حوزه حقوق و فناوری پیشنهاد میکنند که چند اصل کلیدی در دستور کار قرار گیرد:
* تعیین زمان‌بندی محدود برای نگهداری داده‌ها: اطلاعات خودروهای غیرمشکوک باید پس از چند روز به صورت خودکار پاک‌سازی شوند.
* الزامی‌شدن مجوز قضایی: انجام جستجوهای پیشرفته و تحلیل‌های عمیق الگوریتمی نیازمند تأیید دادگاه باشد.
* ایجاد شفافیت عمومی: انتشار گزارش‌های دوره‌ای درباره نحوه استفاده نهادها از این سیستم‌ها و نرخ موفقیت یا خطای آنها انجام شود.
در نهایت، هوش مصنوعی نظارتی زمانی میتواند به خدمت امنیت جامعه درآید که تحت نظارت قانون و با رضایت و اعتماد افکار عمومی به کار گرفته شود؛ در غیر این صورت، ابزاری خواهد بود که خود امنیت ذهنی و روانی جامعه را زیر سؤال می‌برد.