phrenologys-681758174-0d00c07

گذشتۀ مخوف الگوریتم‌های چهره‌خوانی در شناساییِ مجرمان

کاترین استین‌سان | استاد فلسفه و اخلاق هوش مصنوعی در مرکز علوم و اندیشه دانشگاه بن در آلمان و دانشگاه کمبریج

«فرینولوژی» یا «جمجمه‌خوانی» چیزی شبیه کف‌خوانی‌ است؛ جمجمه‌خوان با مطالعه برآمدگی و گودی‌های جمجمه ویژگی‌های یک فرد را تعریف می‌کند. امروزه برای ما جمجمه‌خوانی عملی باستانی و مربوط به ادوار تاریخ باستان است: جایی بینِ حجامت و اختراعِ دوچرخه. ما دوست داریم فکر کنیم که ارزش‌گذاریِ آدم‌ها برمبنای اندازه و شکلِ کلۀ آن‌ها، دیگر شیوه‌ای کهنه و مردود است ولی جمجمه‌خوانی به شکلی مدرن دوباره بار دیگر سربرآورده است.

«فرینولوژی» یا «جمجمه‌خوانی» چیزی شبیه کف‌خوانی‌ است؛ جمجمه‌خوان با مطالعه برآمدگی و گودی‌های جمجمه ویژگی‌های یک فرد را تعریف می‌کند. امروزه برای ما جمجمه‌خوانی عملی باستانی و مربوط به ادوار تاریخ باستان است: جایی بینِ حجامت و اختراعِ دوچرخه. ما دوست داریم فکر کنیم که ارزش‌گذاریِ آدم‌ها برمبنای اندازه و شکلِ کلۀ آن‌ها، دیگر شیوه‌ای کهنه و مردود است ولی جمجمه‌خوانی به شکلی مدرن دوباره بار دیگر سربرآورده است.

در سال‌های اخیر، الگوریتم‌های یادگیریِ ماشین به دولت‌ها و شرکت‌های خصوصی این قدرت را داده‌اند که همه نوع اطلاعاتی را از ظاهرِ مردم جمع‌آوری کنند. چند شرکتِ نوپا حالا مدعی‌اند که می‌توانند با کمکِ هوشِ مصنوعی، به کارفرمایان کمک کنند تا خصوصیاتِ شخصیتیِ نامزدهای شغلی را براساسِ حالاتِ چهرۀ آن‌ها شناسایی کنند.

دولتِ چین یک سیستمِ دوربین‌های نظارتی را پیاده کرده است که می‌تواند اقلیت‌های قومی را شناسایی و ردگیری کند. حتی گزارش‌هایی آمده که در مدارس سیستم‌های نظارتی‌ای نصب شده است که ‌ـــ‌ براساسِ حرکاتِ چهره و جزئیاتِ حالاتِ صورت مثلِ تیک‌های ابرو ‌ـــ‌ کودکانی را که به درس توجه نمی‌کنند، به‌طور خودکار جریمه می‌کنند. 

 احتمالا بدنام‌ترین مورد، چند سال پیش بود که دو محققِ هوش مصنوعی به نام‌های شیائولین وو و شی ژانگ مدعی شدند الگوریتمی را آموزش داده‌اند که مجرمان را براساس شکلِ صورت‌شان شناسایی می‌کند ‌ـــ‌ بادقتِ حدود ۹۰ درصد. البته آن‌ها طرفدارِ ایده‌های چهره‌خوانیِ قرنِ نوزدهمی که چزاره لومبروزو جرم‌شناسِ ایتالیایی مطرح کرد، نیستند (او معتقد بود مجرمان جانورانی مادونِ انسان و تکامل‌نیافته‌اند که با پیشانیِ شیبدار و دماغ‌های عقابی‌شان قابل‌شناسایی هستند).

اما این پروژۀ ظاهرا پیشرفتۀ محققان چینی برای شناساییِ چهرۀ بزه‌کاران، مستقیما از شیوۀ عکاسیِ کامپوزیت ‌ـــ‌ که توسط فرانسیس گالتون در عصر ویکتوریا ابداع شد ‌ـــ‌ وام گرفته است که برمبنای آن، چهرۀ تعدادی از افرادِ یک گروهِ خاص را باهم تطبیق می‌دهند تا نشانه‌های سلامتی، بیماری، زیبایی، و گناهکار بودن را در آن گروه پیدا کنند.

دولتِ چین یک سیستمِ نظارتی را پیاده کرده است که می‌تواند اقلیت‌های قومی را شناسایی و ردگیری کند. حتی گفته می‌شود در مدارس سیستم‌های نظارتی‌ای نصب شده است که کودکانی را که ظاهرا به درس توجه نمی‌کنند، به‌طور خودکار جریمه می‌کنند.

پژوهشگران و کارشناسان حوزۀ فناوری، از این‌گونه تکنولوژی‌های تشخیص چهره انتقاد کرده و آن‌ها را عینِ جمجمه‌خوانی می‌دانند؛ همچنین آن را به فلسفۀ یوژنیک (اصلاح نژاد) ربط داده‌اند؛ یوژنیک نوعی شبه‌علم محسوب می‌شود و هدفش ارتقای نژاد انسان است، و برای این‌کار آدم‌هایی را که به‌زعمِ خودش مناسب‌تر یا اَنسَب هستند، تشویق به تولیدمثل می‌کند. (خودِ گالتون واژۀ «یوژنیک» را ابداع کرد، و در سال ۱۸۸۳ آن را این‌طور تعریف کرد: تمام اقداماتی که به غلبۀ نژادهای برازنده‌تر بر نژادهای کمترِ شایسته کمک کند.)

در برخی موارد، هدفِ این تکنولوژی، منعِ فرصت از کسانی‌ست که ناشایسته (یا نابرازنده) محسوب می‌شوند؛ البته این فناوری ممکن است برای اهدافِ دیگری هم استفاده شود، اما نتیجه‌اش قابل‌پیش‌بینی‌ست. ولی وقتی ما به الگوریتم‌ها برچسبِ جمجمه‌خوانی می‌زنیم، دقیقا منظورمان چیست و به کدام مسئله اشاره می‌کنیم؟ آیا منظور ما این است که این شیوه‌ها ایرادِ علمی دارند و واقعا مفید نیستند ‌ـــ‌ یا می‌گوییم که به‌لحاظِ اخلاقی استفادۀ بی‌ملاحظه از آن‌ها کارِ غلطی‌ست؟

«جمجمه‌خوانی» تاریخِ طولانی و بغرنجی دارد و امروزه عملا یک توهین محسوب شود. این مقوله همیشه آمیخته به انتقاداتِ فلسفی و علمی بوده است. منتقدانِ جمجمه‌خوانی در قرن نوزدهم، مخالفِ این بودند که کارکردهای مختلفِ ذهن به بخش‌های مختلفِ مغز نسبت داده شود؛ درواقع این دیدگاه کفرآمیز بود چون عقایدِ مسیحی دربارۀ وحدتِ روح را زیر سوال می‌بُرد. و جالب این‌جاست که کشفِ شخصیت و شعورِ آدم برمبنای اندازه و شکلِ کله‌اش، به‌لحاظِ اخلاقیِ موضوعِ مهمی نبود.

برعکس، امروزه ایدۀ مکان‌یابیِ کارکردهای ذهن چندان مناقشه‌برانگیز نیست. چون امروز دیگر دانشمندان فکر نمی‌کنند که خصیصۀ ویرانگری در قسمتِ بالای گوشِ راست قرار دارد، و ازطرفی این‌که کارکردهای شناختی ممکن است به برخی مناطقِ مغز مربوط شود، حالا به یک پیش‌فرضِ استاندارد در علمِ عصب‌شناسی بدل شده است.

جمجمه‌خوانی در قرن نوزدهم شاهد انتقاداتِ تجربی هم بوده است. مشاجراتِ زیاد دربارۀ این‌که کدامِ کارکرد در کجای مغز واقع شده، و این‌که آیا سنجشِ ابعادِ جمجمه روشی معتبر برای آنچه در مغز می‌گذرد است یا خیر، وجود داشت.

در مطب جمجمه‌خوان

ولی مهم‌ترین انتقادِ تجربی از جمجمه‌خوانی سنتی، توسطِ ژان پیر فلورانس پزشک فرانسوی مطرح شد که با آسیب‌زدن به مغزِ خرگوش و کبوتر، به این نتیجه رسید که کارکردهای ذهنی، موضعی نیستند بلکه توزیع‌شده هستند. (این نتایج بعدا رد شد.) این واقعیت که جمجمه‌خوانی توسطِ صاحب‌نظرانِ معاصر طرد شده و استفاده از این اسم نوعی توهینِ علمی محسوب می‌شود، درکِ آن را برای ما مشکل می‌کند.

هم جمجمه‌خوانی سنتی و هم جدید، به‌خاطر شیوه‌های ناشیانۀ خود مورد انتقاد قرار گرفته‌اند. مثلا در تحقیقِ اخیرِ چینی‌ها برای استفاده از هوش مصنوعی در شناساییِ مجرمان، داده‌های مورداستفاده از دو منبعِ بسیار متفاوت گرفته شده بود: عکسِ بازداشتِ محکومانِ قضایی، درمقابل عکس‌هایی از غیرمحکومان که از وب‌سایت‌های کاریابی جمع‌آوری شده بودند.

محققان از عکسِ بازداشتِ کسانی که حکمِ محکومیت دریافت کرده بودند استفاده کردند، ولی عکسِ آن‌هایی را که تبرئه شده بودند، جدا نکردند. درواقع، معادل‌کردنِ محکومیت با جرم، یک اشتباهِ تجربی برای این محققان محسوب می‌شود و خودشان هم بعدا اعتراف کردند که معادل‌کردنِ حکمِ دادگاه با مجرمیت کارِ اشتباهی بوده است. این محققان که کارِ خود را صرفا دارای مقاصدِ آکادمیک می‌دانستند، از واکنشِ عموم حیرت کرده بودند.

ضمنا حکمِ دادگاه، فی‌نفسه به برداشتِ پلیس و قاضی و هیئت منصفه از متهم بستگی دارد که این، قیافۀ «مجرمانۀ» شخص را به متغیری مخدوش‌کننده بدل می‌کند، و جالب بود که محققانِ مذکور در این‌باره هیچ حرفی نزده‌اند. آن‌ها همچنین دربارۀ این که نظارتِ پلیسی و نابرابری‌های حقوقی، چه آثاری بر نتایج تحقیق دارد، چیزی نگفته‌اند.

آن‌ها در واکنش به انتقادات، از این پیش‌فرض که «مجرم‌بودن مستلزمِ تعدادِ زیادی از صفاتِ شخصیِ نابهنجار است» عقب‌نشینی کردند. درواقع، چارچوبِ پیشنهادی آن‌ها می‌گوید که مجرم‌بودن خصیصه‌ای ذاتی‌ست، و نه واکنش به اوضاعِ اجتماعی مثل فقر یا سوءرفتار. یکی از دلایلِ تردیدِ تجربی در داده‌های آن‌ها، این است که برچسبِ «مجرم» اصولا بارِ منفی دارد.

اعتبار جمجمه‌خوانی این‌روزها بیشتر از کف‌خوانی نیست.

یکی از مهم‌ترین دلایلِ مخالفت با کاربردِ سیستم‌های تشخیص چهره برای شناساییِ جرم، این است که علاوه‌بر تحت‌نظرگرفتنِ افراد، آن‌ها را بدنام هم می‌کند. محققانِ یادشده می‌گویند که ابزارشان نباید برای مقاصدِ اعمالِ قانون استفاده شود، ولی دلیلِ این حرف‌شان فقط جنبۀ آماری دارد، چون مدلِ آماریِ این تحقیق ممکن است افرادی را که در گذشته محکوم شده‌اند، بازهم مجرم بشناسد. ضمنا، باوجودِ تبعیضاتِ مختلف در نظام‌های قضایی (ازجمله تبعیض نژادی)، این قبیل الگوریتم‌ها باعث افزایشِ مجرم‌انگاری در جوامعِ محروم می‌شود.

مناقشه‌آمیزترین پرسش احتمالا این است که آیا جمجمه‌خوانی مدرن هم قربانیِ مجادلاتِ آکادمیک می‌شود یا نه. ممکن است کسی با مبانیِ تجربیِ آن مخالف باشد: هوادارانِ قدیمیِ اصلاح نژادی مثلِ گالتون و لومبروزو نهایتا نتوانستند خصیصه‌هایی را در چهرۀ انسان پیدا کنند که معرفِ مجرمانگی باشد. دلیلش این است که چنین ارتباطی اصلا وجود ندارد.

یکی از مهم‌ترین دلایلِ مخالفت با کاربردِ سیستم‌های تشخیص چهره برای شناساییِ جرم، این است که علاوه‌بر تحت‌نظرگرفتنِ افراد، آن‌ها را بدنام هم می‌کند.

همچنین، روان‌شناسانی چون سیریل برت و فیلیپ راشتون، که وراثتِ هوش را بررسی کرده‌اند، مجبور شدند داده‌های‌شان را کلا دستکاری کنند تا اندازۀ جمجمه، نژاد، و بهرۀ هوشی را به‌هم ربط دهند. اگر واقعا رابطه‌ای درکار بود، قاعدتا این همه آدم که سال‌ها دنبال آن گشتند، نباید دست خالی می‌ماندند.

مشکلِ ظهور دوبارۀ جمجمه‌خوانی، صرفا این نیست که قبلا شکست خورده است. محققانی هم که بر فرضیۀ «گداختِ سرد» یا Cold Fusion اصرار دارند، درمعرضِ این انتقادند که به دنبالِ اسب‌ بالدارند ‌ـــ‌ ولی تکذیبِ گداختِ سرد ازسوی جامعۀ علمی، مایۀ بی‌آبروییِ باورمندان به آن نیست.

در بدترین حالت، گفته می‌شود که دارند وقت‌شان را تلف می‌کنند؛ چون فرقش این است که آسیب‌های احتمالیِ تحقیقات دربارۀ گداختِ سرد، خیلی کمتر است. برای همین، بعضی‌ها معتقدند که درمورد تکنولوژیِ تشخیص چهره هم باید به‌اندازۀ موادِ رادیواکتیو مقرراتِ سفت و سختی حاکم باشد، چون کاربردهای غیرمخربِ آن بسیار کم است.

وقتی می‌خواهید یک پروژۀ شکست‌خورده ‌ـــ‌ که برای تقویتِ ساختارهای استعماری و طبقاتی و نژادپرستانه اختراع شده بود ‌ـــ‌ را دوباره احیا کنید، به سادگی نمی‌شود آن را توجیه کرد.

در هرصورت، اگر تحقیقاتِ مربوط‌به تشخیص چهره را صرفا «جمجمه‌خوانی» بخوانیم و تهدیداتش را به‌روشنی بیان نکنیم، نمی‌توانیم دلیلِ مخالفت‌مان را به‌خوبی به مردم منتقل کنیم. دانشمندان به‌خاطر مسئولیت‌های اخلاقی خود هم که شده، باید به عواقب و مضراتِ پژوهش‌های‌شان آگاه باشند. اگر اشکالاتِ جمجمه‌خوانی مدرن را به روشنی توضیح دهیم، تاثیر بیشتری نسبت به صرفا دست‌انداختن باورمندان به آن خواهد داشت.

 

کتابستان

کاکه تیغون در مسیر تاریخ

کاکه تیغون

لبخند شیطانی

کاکه تیغون

شبانه

نگار خلیلی

شهسوار سویدنی

لئو پروتز

چار دختر زردشت

منیژه باختری