جزئیات جریمه تاریخی اوبر؛ وقتی الگوریتم‌ها جایگزین انسان می‌شوند
پایگاه خبری تک‌کرانچ (TechCrunch) در گزارشی جنجالی از یکی از بزرگ‌ترین جریمه‌های تاریخ صنعت فناوری پرده برداشت. سازمان حفاظت از داده‌های هلند (Dutch Data Protection Authority)، شرکت اوبر (Uber) را به پرداخت جریمه‌ای سنگین به مبلغ ۸۲۵ میلیون یورو (معادل تقریبی ۱ میلیارد دلار) محکوم کرده است. علت اصلی این مجازات کم‌نظیر، استفاده غیرقانونی و بدون ضابطه از سیستم‌های تصمیم‌گیری کاملاً خودکار و الگوریتم‌های هوش مصنوعی برای مسدود کردن و تعلیق حساب رانندگان اعلام شده است.
این اقدام نهاد نظارتی هلند، نشان‌دهنده تغییر جهت جدی مرجع‌های قانونی در برابر نفوذ بی‌حدومرز الگوریتم‌ها در زندگی کاری افراد است. این جریمه سنگین، یکی از بزرگ‌ترین مجازات‌های مالی صادرشده تحت «مقررات عمومی حفاظت از داده‌های اتحادیه اروپا» (GDPR) تا به امروز به شمار می‌رود.
ریشه این پرونده جنجالی به شکایات متعدد رانندگان تاکسی‌های اینترنتی در چند کشور اروپایی بازمی‌گردد. این رانندگان مدعی بودند که حساب کاربری آن‌ها به‌طور ناگهانی، بدون هشدار قبلی و صرفاً بر اساس محاسبات ریاضی و تشخیص سیستم‌های نرم‌افزاری مسدود شده و در نتیجه، منبع اصلی درآمد آن‌ها و خانواده‌هایشان یک‌شبه قطع شده است. این رانندگان هیچ دسترسی به پشتیبانی انسانی نداشتند تا بتوانند خطای سیستم را به اثبات برسانند.
---
چرا اوبر محکوم شد؟ تحلیل نقض قوانین GDPR و حقوق کارگران
در چارچوب قوانین اتحادیه اروپا، به ویژه ماده ۲۲ مقررات GDPR، بندهای صریحی برای حمایت از شهروندان در برابر تصمیم‌گیری‌های کاملاً خودکار و بدون دخالت انسان وجود دارد. بر اساس این قانون، هیچ فردی نباید هدف تصمیماتی قرار گیرد که صرفاً بر اساس پردازش‌های خودکار – شامل پروفایل‌سازی یا ارزیابی‌های هوش مصنوعی – گرفته می‌شوند و آثار حقوقی یا تبعات سنگین مشابهی بر زندگی کاری و مالی او می‌گذارند. تحقیقات سازمان حفاظت از داده‌های هلند نشان داد که شرکت اوبر به‌طور سیستمی و مداوم این اصل کلیدی را نادیده گرفته است.
حذف کامل عامل انسانی در پروسه نظارت
یکی از جدی‌ترین تخلفات احراز شده، حذف کامل عامل انسانی از پروسه تعلیق و مسدودسازی حساب‌ها بود. الگوریتم‌های ضدکلاهبرداری و نظارتی اوبر به‌گونه‌ای تنظیم شده بودند که با مشاهده کوچک‌ترین رفتار غیرعادی (مانند اختلال در سیگنال GPS، شائبه اشتراک‌گذاری حساب کاربری یا ناهنجاری در مسیر سفرهای ثبت‌شده)، بلافاصله دسترسی راننده را مسدود می‌کردند. در این چرخه، هیچ اپراتور یا کارشناس انسانی وجود نداشت تا صحت ادعای الگوریتم را بررسی کرده یا رفتارهای اشتباه سیستم را اصلاح کند.
عدم شفافیت و سلب حق استیناف رانندگان
علاوه بر مسدودسازی خودکار، مسئله عدم شفافیت و سلب حق اعتراض نیز از دیگر محورهای اصلی این محکومیت است. رانندگانی که حسابشان تعلیق می‌شد، معمولاً پیام‌های متنی گنگ، کلی و پیش‌فرض دریافت می‌کردند که در آن‌ها هیچ دلیل موجه یا مدرک مشخصی ارائه نمی‌شد. بدتر از آن، اوبر هیچ کانال ارتباطی مشخص و کارآمدی برای ثبت اعتراض یا درخواست بررسی مجدد توسط یک انسان فراهم نکرده بود.
این رویکرد، رانندگان فعال در «اقتصاد گیگ» (Gig Economy) را در وضعیتی بسیار آسیب‌پذیر و بی‌دفاع قرار داد؛ جایی که یک خطای نرم‌افزاری ساده در تشخیص موقعیت مکانی یا سیستم تقلب‌یاب، می‌توانست به قیمت نابودی شغل و آبروی یک انسان تمام شود.
---
پیامدهای جریمه اوبر برای آینده هوش مصنوعی و اقتصاد گیگ
تصویب و اجرای مقررات GDPR در سال ۲۰۱۸ نقطه عطف بزرگی در تنظیم‌گری دنیای دیجیتال بود. اتحادیه اروپا با صدور این جریمه سنگین علیه اوبر، بار دیگر پیام واضحی به تمام غول‌های فناوری ارسال کرد: نوآوری تکنولوژیک و کاهش هزینه‌های عملیاتی هرگز نباید به قیمت زیر پا گذاشتن کرامت، حقوق بنیادی و امنیت شغلی انسان‌ها تمام شود. پیش از این نیز شرکت‌های بزرگی همچون متا و آمازون با جریمه‌های صدها میلیون دلاری به دلیل نقض حریم خصوصی و عدم رعایت قوانین داده محکوم شده بودند، اما پرونده اوبر ابعاد جدیدی از نظارت قانونی بر الگوریتم‌های تصمیم‌گیرنده را روشن ساخت.
از آنجا که مقر اروپایی شرکت اوبر در شهر آمستردام قرار دارد، سازمان حفاظت از داده‌های هلند مسئولیت قانونی رسیدگی به شکواییه‌های مربوط به این پلتفرم در سراسر اتحادیه اروپا را بر عهده دارد. بررسی‌های کارشناسی این نهاد نشان داد که الگوریتم‌های اوبر برای سال‌ها بدون نظارت کافی انسانی فعالیت کرده و حقوق هزاران راننده را در کشورهای مختلف زیر پا گذاشته‌اند.
این رویداد تاریخی، زنگ خطری جدی برای تمامی شرکت‌هایی است که به سمت اتوماسیون کامل فرایندهای مدیریتی، ارزیابی عملکرد و منابع انسانی حرکت می‌کنند. پیامد اصلی این حکم، الزام شرکت‌ها به حفظ اصل «انسان در حلقه تصمیم‌گیری» (Human-in-the-Loop) است.
از این پس، پلتفرم‌های دیجیتال و سازمان‌های مبتنی بر فناوری مجبور خواهند بود نه تنها الگوریتم‌های خود را شفاف‌تر سازند، بلکه مسئولیت کامل تصمیمات اتخاذشده توسط هوش مصنوعی را بپذیرند و امکان بررسی انسانی، شفافیت در ارائه دلایل و حق اعتراض واقعی را برای تمام کاربران و کارکنان خود فراهم کنند. در غیر این صورت، با جریمه‌های فلج‌کننده و مجازات‌های سنگین قانونی در سطح بین‌المللی روبه‌رو خواهند شد.