Skynet مردم بی گناه را به کشتن می دهد!

برخی کارشناسان معتقدند الگوریتم یادگیری ماشینی یک "خوش بینی مضحک" و "کاملا مزخرف" است، چرا که ضریب اشتباهات آن بسیار بالا بوده است.

Skynet مردم بی گناه را به کشتن می دهد!

به گزارش کلیک، در سال 2014 مدیر اسبق CIA و NSA اعلام کردند که ما مردم را با فراداده می کشیم و اکنون مدارک جدیدی از اسناد منتشر شده قبلی اسنودن بیان می کند که بیشتر آن مردم بی گناه خواهند بود.
سال گذشته اینترسپت، اسناد برنامه NSA SKYNET را با جزییات منتشر کرد. بر اساس این اسناد SKYNET در سنجش جمعی شبکه موبایل پاکستان مشغول به کار شد و سپس الگوریتم یادگیری ماشینی بر شبکه سلولی فراداده ی 55 میلیون از انسان ها امتحان شد و احتمال تروریست شدن هر فرد را سنجید.
پاتریک بال (دانشمند داده و مدیر تحقیقاتی در گروه تحلیل اطلاعات حقوق بشر) که در گذشتهدر جریان پرونده ای که به جنایات جنگی مربوط می شد، شهادت کارشناسانه داده بود روش های NSA را خوش بینی مضحک و کاملا مزخرف توصیف کرد. یک نقص در چگونگی آموزش NSA به الگوریتم یادگیری ماشینی SKYNET برای تحلیل سلولی فراداده وجود دارد که نتایج را از لحاظ علمی نادرست می کند که بال آن را آرس می نامد.

دفتر روزنامه نگاری تحقیقاتی گزارش کرده است: در حدود 2500 تا 4000 نفر از مردم در پاکستان از سال 2004 از طریق حملات هوایی هواپیما های بدون سرنشین کشته شده اند و بیشتر آنها از طرف دولت آمریکا، در گروه افراط گرایان قرار گرفته اند.
براساس دسته بندی تاریخ 2007/1/8 یکی از اسلاید های ارائه شده توسط SKYNET (که خودشان آن را از تاریخ 2011 تا 2012 ارائه دادند) برنامه یادگیری ماشینی زودتر از سال 2007 در حال توسعه بوده است.
در این سال ها هزاران نفر از مردم بی گناه پاکستان به اشتباه از طریق الگوریتم نادرست، برچسب تروریست خورده بودند و دچار مرگ نا به نگام شدند.

SKYNET همانند یک نرم افزار تجاری داده عظیم مدرن و مرسوم عمل می کند. این برنامه فراداده را جمع آوری کرده و در سرورهای ابری NSA ذخیره و اطلاعات مرتبط را استخراج کرده و سپس یادگیری ماشینی برای شناسایی رابط های کمپین موردنظر استفاده می شوند. علاوه بر این که برای فروش چیزی به آن هدف تلاش شده و این کمپین دولت آمریکا را بر تجارت کلی در پاکستان متمرکز می کند اما به احتمال زیاد دیگر شاخه های دولت آمریکا (CIA و ارتش) که استراتژی یافتن-تعمیر-پایان خودشان را با استفاده از هواپیماهای بدون سرنشین و جوخه های مرگ رو در رو اجرا می کنند، نیز شامل می شود.
SKYNET علاوه بر این که برای پردازش ثبت داده های تماس تلفن همراه (DNR یا داده های تشخیصی اعداد شماره گیری شده نامیده می شود همچون زمان، مدت و اشخاص تماس گیرنده و ...) موقعیت کاربر را نیز گردآوری کرده و امکان تهیه پروفایل های جابجایی را با جزییات فراهم می کند. خاموش کردن موبایل نیز در تلاش برای فرار از سنجش جمعی، بیهوده است. کاربرهایی که سیم کارت شان را خارج یا تعویض می کنند معتقدند که این کار از حمله جلوگیری می کند اما این کار بیهوده است.
حتی تعویض گوشی نیز تشخیص داده شده و بیهوده است و اسلایدها را نمایان می کند. این تشخیص تنها براساس حدس و گمان بوده (به دلیل اینکه اسلایدها با جزییات نیستند) و احتمالا براساس این حقیقت بوده که فرا داده دیگر مانند موقعیت کاربر در دنیای واقعی و شبکه اجتماعی بی تغییر باقی می ماند.
با توجه به سری کامل فراداده، SKYNET کارهای معمول روزانه افرادی را که سفر می کنند، کانتکت ها را به اشتراک می گذارند، شب ها را با دوستان شان می گذرانند، کشور های دیگر را می بینند یا برای همیشه مهاجرت می کنند، باهم ترکیب می کند. در کل، اسلایدها نشان می دهند که الگوریتم یادگیری ماشینی NSA از بیش از 80 ویژگی مختلف برا ی سنجش تروریست بودن آنها استفاده می کند.

در این برنامه براساس این فرضیه که رفتار تروریستها باتوجه به بعضی ویژگی های آنها متفاوت از شهروندان عادی است، تشخیص تروریست ها از طریق اسلایدها صورت می گیرد. به عنوان مثال اینترسپت سال گذشته این موضوع را آشکار کرد که بالاترین هدف مورد بررسی با توجه به این برنامه یادگیری ماشینی، احمد زیدان رییس دفتر با سابقه الجزیره در اسلام آباد بود.
اینترسپت گزارش کرد که زیدان به تازگی به نواحی با فعالیت های تروریستی به منظور مصاحبه حضوری و گزارش اخبار سفر کرده است. اما به جای اینکه چنین نتیجه ای از یادگیری ماشینی را عجیب و غریب اعلام کنند، مهندسان الگوریتم NSA، زیدان را مثالی از موفقیت SKYNET در نمایشخانه خود با اسلایدی از وی به عنوان عضوی از القاعده معرفی کردند.

منبع: arstechnica

ارسال نظر