الگوریتم‌هایی که شما رو اعدام می‌کنن!

تیتر عجیب یک خبر در SienceMag مشتاقم کرد تا کمی بیشتر درمورد نرم‌افزارهای دادگاهی سرچ کنم. تیتر خبر اینه:

یک نماینده‌ی ِ مجلس ِ آمریکا خواستار بررسی دقیق‌تری پیرامون الگوریتم‌هایی است که در دادگاه‌های جنایی استفاده می‌شوند

اینطور که مشخصه در دادگاه‌های ایالات متحده از نرم‌افزارها برای کارهای مختلفی، مثل تطبیق DNAهای موجود در صحنه‌ی جرم با DNA متهمین، تشخیص و تطبیق اثر انگشت و تشخیص و تطبیق صورت اشخاص در فیلم‌های ضبط‌شده در دوربین‌های امنیتی استفاده میشه.

https://www.nature.com/articles/d41586-018-05469-3 :منبع عکس
https://www.nature.com/articles/d41586-018-05469-3 :منبع عکس 

مشکل اینه که شرکت‌های مختلفی وجود دارن که این نرم‌افزارها رو تولید می‌کنن و اینطور که پیداست اکثر این نرم‌افزارها متن‌باز و آزاد نیستن و شرکت‌های سازندشون حاضر نیستن تا سورس کد این برنامه‌ها رو در اختیار دیگران (مثل تیم مدافعین متهمان و دادگاه) قرار بدن و حتی حاضر نیستن تا درمورد نحوه‌ی نتیجه‌گیری این نرم‌افزارها هم داده‌های مهمی رو ارائه کنن و دلایل متعددی هم برای این کار دارن، از جمله این که نمیخوان شرکت‌های رقیب از تکنولوژیشون سر در بیارن.
حالا فرض کنید که آدما می‌تونن به خاطر خروجی‌هایی که این نرم‌افزارها و الگوریتم‌ها ارائه‌می‌کنن، به زندان و یا حتی مرگ محکوم بشن! و حتی در بعضی مواقع تنها شواهد موجود در پرونده نتایج همین الگوریتم‌هاست! و خب الان صدای خیلیا از جمله یک نماینده مجلس آمریکا به نام Mark Takano دراومده که داره تلاش می‌کنه تا لایحه‌ای رو تصویب کنه که اجازه میده روی این نرم‌افزارها بررسی دقیقی انجام بشه تا چیزهای زیادی مثل خطا و یا این که آیا این نرم‌افزارهای نسبت به اقلیت‌ها تعصبی دارن یا نه مشخص بشه.

از قرار معلوم یکی از مهم‌ترین دسته‌های این نرم‌افزارها اسمش هست probabilistic genotyping software که ترجمه‌ی تحت‌الفظیش میشه نرم‌افزار ژنوتیپ احتمالی که برای تشخیص و تطبیق DNA یک فرد مضنون در بین DNAهایی که از صحنه‌ی جرم جمع‌آوری شده استفاده میشه. از اونجا که DNAهای صحنه‌ی جرم ممکنه آسیب‌دیده باشه و یا با مواد دیگه‌ای آلوده شده باشه و حتی حاوی چند DNA مختلف باشه، تشخیص DNAهای موجود در اون و این که آیا DNA فرد خاصی در اون نمونه هست یا نه همیشه کار راحتی نیست و بنابراین از این نرم‌افزارها استفاده میشه تا با یک احتمال مشخص وجود یک DNA خاص در اون نمونه تعیین بشه.

علاوه بر این که این نرم‌افزارها رو شرکت‌های مختلفی تولید میکنن و سورس و نحوه‌ی کارشون رو هم در اختیار دیگران قرار نمیدن، مشکل دیگه اینه که قاضی‌ها، وکیل‌های مدافع، دادستان‌ها و دیگر افرادی که در پروسه‌ی یک پرونده‌ی جنایی درگیرن، معمولا اطلاعات کافی و درستی درمورد این الگوریتم‌ها و حتی تفسیر خروجی اون‌ها ندارن!

اگه به خوندن بیشتر درمورد نرم‌افزارهای ژنوتیپ احتمالی علاقه دارید پیشنهاد میکنم این مقاله‌ی کوتاه و جالب رو (که دیوان محاسبات آمریکا اون رو نوشته) مطالعه کنید که خیلی خلاصه توضیحی درمورد نحوه‌ی کار و همچنین مزایا و معایب این نرم‌افزارها داده.

و خب جدای همه‌ی این جزئیات چیزی که آدمو به فکر میبره، اینه که یه روزی ممکنه همه‌ی چیزی که ما به عنوان دادگاه، قاضی و پروسه‌ی عادلانه‌ی قضاوت می‌شناسیم، با یکسری الگوریتم و هوش‌مصنوعی جایگزین بشه!
سناریوی بدترش اینه که فرض کنیم نرم‌افزارهایی در دادگاه‌ها استفاده بشن که از شبکه‌های عصبی مصنوعی استفاده کنن. خب مشکلش چیه؟ حتی اگه شرکت سازندش اجازه هم بده، نمی‌تونیم از درونش سردربیاریم! فرض کنید روزی رو که یک جعبه‌ی سیاه بزرگ وجود داره و متهم‌ها توی صف ایستادن و وقتی نوبتشون میشه از اون جعبه یک حکم پرینت میشه و میاد بیرون!

 

لینک نوشته در ویرگول: virgool.io/@mahdavipanah/klnk6pffkmhw

پاسخی بگذارید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *