پلیس و مخاطرات فن‌آوری‌های نوین

برگرفته از تریبون زمانه *  

مطالب این بخش برگرفته از «تریبون زمانه» هستند. تریبون زمانه، آنچنان که در پیشانی آن آمده است، تریبونی است در اختیار شهروندان. همگان می‌توانند با رعایت اصول دموکراتیک درج شده در آیین‌نامه تریبون آثار خود را در آن انتشار دهند. زمانه مسئولیتی در قبال محتوای این مطلب ندارد.

همانطور که اغلب مردم نیز دریافته‌اند، فناوری‌ روندهای پلیسی را به‌کلی دگرگون کرده است. پس از وقوع سرقت‌های مکرر از یک فروشگاه زنجیره‌ای تحقیقات می‌تواند به این شکل پیش برود: مسئولان تصور می‌کنند که تمام این سرقت‌ها توسط شخصی واحد صورت گرفته اما هیچ سرنخی از هویت او ندارند. طی فرآیندی موسوم به «حصار جغرافیایی»، پلیس با مراجعه به قاضی حکمی دریافت می‌کند که در آن از شرکت گوگل خواسته شده است تا با کمک پایگاه داده‌ی SensorVault ــ پایگاهی که اطلاعات مکانی آن دسته از کاربران گوگل را که گزینه‌ی «تاریخ موقعیت» خود را روشن کرده باشند، ذخیره می‌کند ــ فهرستی از تمام موبایل‌هایی که در بازه‌ی زمانی یک‌ساعته در روزهای وقوع سرقت در شعاع ۱۰۰ متری آن فروشگاه بوده‌اند، فراهم آورد.

پلیس با مطابقت دادن داده‌های این فهرست، تمرکز خود را بر روی ۶۵ موبایلی محدود می‌کند که در روزهای سرقت در محل حضور داشته‌اند. سپس گوگل در باره‌ی این ۶۵ نفر به مجریان قانون اطلاعات بیشتری می‌دهد، مانند نام، آدرس ایمیل، زمان عضویتشان در سرویس‌های گوگل و سرویس‌هایی که استفاده می‌کنند. پلیس نام‌های این ۶۵ نفر را در پایگاه‌ داده‌ی تشخیص چهره‌ی خود وارد می‌کند و نتایج آن را با دوربین‌های امنیتی داخل فروشگاه مطابقت می‌دهد. آنها با این کار می‌توانند حرکات هر یک از این ۶۵ نفر را در طول حضورشان در فروشگاه زیر نظر بگیرند ــ کدام محصولات را بررسی کرده‌اند، کدام‌ها را برای خرید انتخاب کرده‌اند و پول کدام‌ها را نپرداخته‌اند.

در موردی دیگر، پلیس ممکن است به‌جای استفاده از اطلاعات موبایل سراغ تصاویر ضبط شده در دوربین‌های زنگ‌های درها، ثبت‌کننده‌های خودکار پلاک خودرو یا دوربین‌های پهپادی ــ یا ماهواره‌ای ــ برود تا وسایل نقلیه‌ی حاضر در بازه‌ی زمانی مورد نظر را شناسایی کند. امکان دیگری که وجود دارد این است که پلیس با کمک الگوریتم‌های پیش‌بینی‌کننده، آن فروشگاه و محله‌اش را «کانون بحران»، یعنی محلی که احتمال وقوع جرم بالا است، تشخیص دهد و برای جلوگیری از وقوع جرم پلیس‌های زیادی را در محل مستقر کند.

فارغ از مؤثر بودن این ابزارها، آنها باعث نگرانی‌هایی جدی‌اند. انباشت حجم زیادی از داده‌های شخصی در دستان مجریان قانون تهدیدی علیه زندگی خصوصی افراد محسوب می‌شود. ابزارهای داده‌محور موجب بروز اشتهایی سیری‌ناپذیر برای داده‌ها می‌شوند ــ نه تنها داده‌هایی درباره‌ی فعالیت‌های مجرمانه بلکه داده‌هایی درباره‌ی همه ‌چیز ــ و این امر دایره‌ی تحقیق و تفحص مجریان قانون را به‌قدری بسط می‌دهد که شامل افرادی می‌شود که سابقه‌ی کیفری ندارند. به عبارت دیگر، خطر جمع‌آوری داده‌ها شمول کلی دارد و صرفاً محدود به مجرمان مظنون نیست. در رابطه با نحوه‌ی استفاده از این داده‌ها و کسب اطمینان از صحت آنها معیارهای چندانی وجود ندارد.

دو کتاب از منظرهایی متفاوت اما مکمل، این مسائل را می‌کاوند. کریستوفر اسلوبوگن در تفتیش‌های مجازی، ریخت‌شناسی مفیدی از «فنون تجسسی پلیسی که مخفیانه، از فاصله‌ی دور و با کمک فناوری انجام می‌شود» فراهم می‌آورد. سارا براین در پیش‌بینی و پایش، که مطالعه‌ای جامعه‌شناختی درباره‌ی پلیس لس‌آنجلس است، روایتی اول شخص از نحوه‌ی به‌کارگیری این فنون در عمل به دست می‌دهد. در بخش‌هایی از این دو کتاب که با یکدیگر هم‌پوشانی دارند، مهم‌ترین و جالب‌ترین مباحث مطرح می‌شوند: فعالیت‌های پلیسیِ پیش‌بینانه (گاه به آن فعالیت‌های پلیسی «داده‌محور» نیز می‌گویند) و جمع‌آوری داده‌ها از منابع مختلف و تشکیل پایگاه‌های‌ داده‌ی عظیم و استخراج اطلاعات از آنها.

به‌طور سنتی، نظارت بر پلیس بر عهده‌ی دادگاه‌ها است که با تفاسیر خود از متمم چهارم قانون اساسی آمریکا مانع از این می‌شوند که حکومت «به‌شکلی غیرمنطقی اقدام به تجسس و ضبط» «افراد، خانه‌ها، اسناد و لوازم» مردم کند. اسلوبوگن و براین هر یک در فصلی از کتاب خود نشان می‌دهند که چرا این متمم قانون اساسی به‌ندرت درباره‌ی تجسس‌های «مجازی» اِعمال می‌شود.

زمانی که نظامی بر مبنای داده‌ها وجود داشته باشد، انگیزه‌ای برای گردآوری هر چه بیشتر داده‌ها نیز به وجود خواهد آمد، فارغ از این که آیا دلایلی برای مرتبط کردن این داده‌ها با جرم وجود داشته باشد یا خیر.

بر اساس رأی دادگاه عالی آمریکا زمانی متمم چهارم مطرح می‌شود که «انتظار معقولی برای محرمانه ماندن» اطلاعات جمع‌آوری شده توسط حکومت وجود داشته باشد. اما در رابطه با اطلاعاتی که در معرض دید عموم قرار دارد (مانند موقعیت فرد در محلی عمومی) یا اطلاعاتی که در اختیار شخصی ثالث قرار دارد (مانند اطلاعات مالی شما در نزد بانک) چنین انتظاری وجود ندارد. در نتیجه حمایت‌های مندرج در متمم چهارم شامل حال کسی که در «خودروی خود در معابر عمومی حرکت می‌کند» یا فهرست تماس‌های تلفنی فرد که در شرکت‌های مخابراتی ذخیره می‌شوند، نمی‌شود. از سوی دیگر، متمم چهارم در رابطه با نحوه‌ی استفاده از اطلاعاتی که حکومت جمع‌آوری کرده است نیز ساکت است. در نتیجه، زمانی که پلیس به‌شکلی قانونی اطلاعاتی (برای مثال دی‌ان‌ای فرد) را جمع‌آوری می‌کند برای دسترسی به آن دیگر نیاز به داشتن حکم ندارد (مثلاً اطلاعات دی‌ان‌ای در پایگاه داده‌ای ثبت می‌شود و بعدتر پلیس می‌تواند دی‌ان‌ای به دست آمده از صحنه‌های جرم بعدی را با این داده‌ها مطابقت دهد). تا کنون اقدامات مقامات انتخابی برای غلبه بر این نواقص با شکست مواجه شده است.

اقدامات پلیسیِ پیش‌بینانه با کمک حجم عظیم داده‌ها، احتمالات آماری یا الگوهای الگوریتمی تولید می‌کند تا بتواند فعالیت‌های مجرمانه را پیش‌بینی کند. برخی از چنین اقداماتی استقبال می‌کنند زیرا آنها ضمن افزایش کارآمدی پلیس موجب کاهش سوگیری نیز می‌شوند. بنا بر استدلال این گروه، استفاده از الگوریتم‌های آماری و ریاضیاتی باعث از بین رفتن آزادی عملی در نیروهای پلیس می‌شود که مکرراً به اعمال تبعیض علیه گروه‌های رنگین‌پوست منجر می‌شود. اما منتقدان استدلال می‌کنند که چنین اقداماتی می‌تواند نابرابری‌های موجود در نظام پلیسی را بازتولید کند یا افزایش دهد. مثلاً پیشینه‌ی بازداشت را در نظر بگیرید. به سبب عواملی مانند حضور بیشتر پلیس در محلات رنگین‌پوستان، احتمال بیشتر متوقف شدن آنها توسط پلیس و این واقعیت که متوقف کردن آنها معمولاً مبتنی بر شواهدی قطعی نیست، آمار دستگیری این گروه بیشتر است. در نتیجه، هر الگوریتمی که از پیشینه‌ی دستگیری‌ها به منظور عاملی در ایجاد الگویی پیش‌بینی‌کننده از رفتار مجرمانه استفاده کند در تشخیص رنگین‌پوستان به عنوان مجرمان آینده خطای بیشتری خواهد داشت تا در تشخیص سفیدپوستان.

به‌رغم آن‌که کارآمدی اینگونه اقدامات پلیسی هنوز اثبات نشده است اما آنها برای مجریان قانون جذابیت زیادی دارند زیرا می‌توانند بهانه‌ای برای گردآوری گسترده‌ی داده‌ها باشند. براین این امر را نشانه‌ای از پدیده‌ی «طمع به داده‌ها» می‌داند، یعنی زمانی که نظامی بر مبنای داده‌ها وجود داشته باشد، انگیزه‌ای برای گردآوری هر چه بیشتر داده‌ها نیز به وجود خواهد آمد، فارغ از این که آیا دلایلی برای مرتبط کردن این داده‌ها با جرم وجود داشته باشد یا خیر. بنا بر چنین نظریه‌ای، هر اطلاعاتی به تحقیقی مربوط می‌شود یا دست‌کم زمانی مربوط خواهد شد.

علاوه بر روش‌های پیش‌بینانه، مجریان قانون از شیوه‌های مبتنی بر فناوری‌ دیگری نیز سود می‌برند. یکی از این روش‌ها «نظارت دام‌گسترانه» نام دارد که مسائل متعددی درباره‌ی گردآوری داده‌ها و مقررات مربوط به آنها پیش می‌کشد.

ویژگی بارز این نوع تحقیق این است که حجم عظیمی از داده‌ها را از منابع مختلف با یکدیگر ترکیب می‌کند و به واسطه‌ی نرم‌افزاری رابط، به کاربران اجازه می‌دهد تا داده‌های مجموعه‌هایی را به یکدیگر پیوند دهند که پیشتر صرفاً به‌نحوی مجزا در دسترس بودند. چنین نرم‌افزارهای رابطی نه تنها به مجریان قانون اجازه می‌دهند تا تحقیق‌هایی خاص را به انجام برسانند (مثلاً به دنبال خودرویی قرمز بگردند که پلاک آن با FTK شروع می‌شود و راننده‌اش سفیدپوست است و در زمان وقوع جرم در شعاع چند کیلومتری آن محل حضور داشته است) بلکه به آنها این امکان را می‌دهد تا سیستم‌های هشداری ایجاد کنند تا مثلاً اگر شماره پلاک خودروی مسروقه‌ای در محلی مشاهده شد، به مقامات پلیس اطلاع داده شود.

 هرکس که در معرض اقدامات پلیسیِ مبتنی بر داده‌ها است باید از این امر مطلع شود و اجازه داشته باشد که اعتبار این ابزارها را زیر سؤال ببرد.

بنا بر مشاهدات براین، رایج‌ترین استفاده از چنین سیستمی «صرفاً ذخیره‌ی داده‌ها برای استفاده در تحقیق‌های احتمالی آینده است» و در نتیجه مفید بودن آن در برابر مضرات احتمالی‌اش پرسش‌برانگیز است. دانیل سولو، پژوهشگر رشته‌ی حقوق، اینگونه پیوند یافتن داده‌ها از منابع مختلف را موجب ایجاد «مسئله‌ی انباشت» می‌داند. ترکیب داده‌ها از منابع مختلف، که هر یک به تنهایی اطلاعات زیادی را آشکار نمی‌کند، می‌تواند منجر به آشکار شدن اطلاعات خصوصی افراد شود. محل فرد در مکانی عمومی در لحظه‌ای خاص احتمالاً اطلاعات چندانی درباره‌ی او به ما نمی‌دهد اما انباشت موارد متعدد از مکان او در طول شبانه‌روز در یک ماه احتمالاً جزئیات بسیاری را درباره‌ی خانواده، کار، دریافت درمان‌های پزشکی یا روانی، باورهای دینی، فعالیت‌های سیاسی و روابط اجتماعی او آشکار می‌کند. علاوه بر این، نتیجه‌گیری‌های نیروهای پلیس با استفاده از این روش مبتنی بر این فرض خواهد بود که داده‌ها دقیق هستند و استنباط پلیس صحیح است. دیگر نمی‌تواند به راحتی این پیش‌فرض‌ها را زیر سؤال برد.

به باور براین، نکته‌ی منفی دیگری که در رابطه با استفاده از داده‌های غیرمرتبط با جرائم در تحقیقات پلیس وجود دارد این است که می‌تواند باعث شود تا مردم از مراجعه به نهادهایی اجتناب کنند که حضور در آنها برای مشارکت کامل آنان در جامعه ضروری است. هنگامی که داده‌هایی از بیمارستان‌ها، مدارس، بانک‌ها و محل کار در دستگاه نظارت به کار گرفته شوند ممکن است مردم در استفاده از منابع درمانی، مالی، آموزشی و کاری تردید نشان دهند.

نکته‌ی دیگر که اسلوبوگن و براین به آن اشاره می‌کنند این است که نظام پلیسی مدرن یک تجارت بزرگ است. برای مثال، پلیس نیویورک بین سال‌های ۲۰۰۷ و ۲۰۱۹ حدود ۳ میلیارد دلار خرج نظارت کرده است. به عبارت دیگر، این نوآوری‌های فناورانه به دست بخش خصوصی ایجاد می‌شود و نه مجریان قانون. معمولاً این شرکت‌های فناوری ــ مانند شرکت‌های متخصص در تشخیص چهره، تولید الگوهای پیش‌بین یا ردگیری تلفن‌های همراه ــ هستند که نزد دولت‌ها می‌روند و می‌گویند «ببینید چه چیزی می‌توانیم به شما بدهیم.» از آنجا که نظام پلیسی به واسطه‌ی کمک‌های مالی دولتی به منابع مالی فراوانی دسترسی دارد، به‌جای انتخاب از میان خدمات شرکت‌های مختلف، می‌توانند تمام آنها را خریداری کنند.

نقش چنین شرکت‌هایی، پیامدهای متعدی دارد. همانطور که الیزابت جان و توما جو نشان داده‌اند، پرسش‌هایی مانند این که هر الگوریتم برای تشخیص خطرناک بودن مظنونان، باید از کدام نوع داده‌ها استفاده کند، ویدئوها چگونه و در کجا ذخیره شوند و این که چه عاملی باید موجب فعال شدن دوربین‌های نصب شده روی لباس پلیس‌ها شود «معمولاً توسط فروشندگان فناوری‌ها طرح شده و کسی که برای آنها راه‌حل پیدا می‌کند همین فروشندگان هستند و نه نیروهای پلیس.» این امر باعث می‌شود تا اطلاعات درباره‌ی نحوه‌ی عملکرد ابزارهای فناورانه نامشخص باشند و کارآمدی آنها نیز در هاله‌ای از ابهام قرار داشته باشد.

با وجود این مسائل، چه کار باید کرد؟ اسلوبگن و براین هر دو بر مزایای بالقوه‌ی استفاده‌یِ پلیس از اطلاعات دیجیتال و همچنین چالش‌های این کار برای ارزش‌های دموکراتیک تأکید دارند. از نظر آنها مهم‌ترین کار این است که بتوان به تعادلی صحیح دست یافت. بنا بر استدلال آنها پیش از به کار گرفتن چنین ابزارهایی باید آنها را به تأیید قوه‌ی مقننه رساند و تحت نظام‌های نظارتی دقیقی قرار داد تا آسیب‌های احتمالی را بسنجند، موارد مجاز استفاده از آنها را مشخص کنند و نحوه‌ی تضمین دقت و امنیت داده‌ها را بررسی کنند.

به باور اسلوبگن فرآیندهای نظارتی باید بر «اصل رعایت تناسب» مبتنی باشند یعنی باید فنونی را که میزان مداخله‌ی کمتری دارند مجاز شمرد و استفاده از روش‌هایی را که میزان مداخله‌ی بیشتری دارند، به‌شدت محدود کرد. برای این‌که سنجش میزان مداخله‌گری شکلی عینی‌تر به خود بگیرد، اسلوبگن پیشنهاد می‌کند که ارزیابی‌ها باید بر مبنای اصول حقوقی موجود ــ مثلاً عملیاتی پلیسی‌ای که لازمه‌اش ورود غیرمجاز به ملکی خصوصی باشد میزان مداخله‌گری بیشتری دارد تا عملیاتی که چنین اقدامی انجام نمی‌دهد ــ و داده‌های پیمایش‌های عمومی صورت بگیرد.

پیشنهاد دیگر این دو نویسنده این است که در رابطه با چنین فناوری‌ها و مقررات حاکم بر آنها، باید شفافیت را افزایش داد. هرکس که در معرض اقدامات پلیسیِ مبتنی بر داده‌ها است باید از این امر مطلع شود و اجازه داشته باشد که اعتبار این ابزارها را زیر سؤال ببرد. ابزارهای پیش‌بینی کننده نیز باید شفاف باشند. حکومت باید عوامل مؤثر در هر الگوی تصمیم‌گیری مبتنی بر پیش‌بینی را به اطلاع عموم برساند. با این حال، در عمل حصول شفافیت بسیار دشوار است. با توجه به این‌که این ابزارها تا اندازه‌ی زیادی از الگوریتم‌هایی استفاده می‌کنند که به کمک روش‌های هوش مصنوعی، مانند یادگیری ماشینی، توسعه یافته‌اند و در نتیجه شفافیت خود الگوریتم‌ها کافی نخواهد بود. فایده‌ی یادگیری ماشینی این است که می‌تواند در میان داده‌ها روابطی را بیابد که انسان‌ها نمی‌توانند، به این ترتیب فناوری کنونی اغلب غیرقابل درک است. پیشنهاد دیگر براین این است که از این ابزارها برای رسیدن به نوع دیگری از شفافیت کمک بگیریم: از آنها برای پایش خود پلیس استفاده کنیم.

در نهایت باید گفت به رغم توصیه‌ی اسلوبوگن و براین مبنی بر این که برای به حداکثر رساندن مزایای استفاده از کلان‌داده در اقدامات پلیس و به حداقل رساندن خطرات آن باید فرآیندهای دموکراتیک را به کار گرفت، مشخص نیست چگونه می‌توان نظام نظارتی دقیق مد نظر آنها را پیاده‌سازی کرد. مجریان قانون برای کاهش دادن نرخ جرایم شدیداً تحت فشار قرار دارند و به همین علت زیر بار محدود شدن ابزارهایشان نخواهند رفت. اما به هر حال هیچ راه‌حل معجزه‌آسایی وجود ندارد. تنها چاره‌ی کار این است که عموم مردم هوشیار باشند، حکومت پاسخگو باشد و اراده‌ای برای مقابله با رشد افسارگسیخته‌ی این صنعت سودآور در زمانه‌ای که دغدغه‌ها نسبت به نرخ جرایم و امنیت عمومی تشدید یافته، وجود داشته باشد. اما هرکس که به دنبال افزایش دادن آگاهی عموم درباره‌ی این مسائل است باید این دو کتاب را مطالعه کند.

برگردان: هامون نیشابوری

لینک این مطلب در تریبون زمانه

منبع: آسو

امیلی برمن استاد حقوق در دانشگاه هیوستون است. آنچه خواندید برگردان بخش‌هایی از نوشته‌ی زیر است:

Emily Berman, “Withoutt Warrant”, Boston Review, 25 January 2023.