ادبیات، فلسفه، سیاست

eyes

هوش مصنوعی؛ مزیت رژیم‌های استبدادی؟

دانیل اوبرهاوس | مجلهٔ هاروارد

برتری دولت‌هایی مثل چین در هوش مصنوعی، مزیتی قاطع نسبت به دموکراسی‌هاست. اما اگر کشورهای دموکراتیک بخواهند هوش مصنوعی خود را به حد چین برسانند، باید طوری عمل کنند که حقوق اساسی و آزادی‌های مدنی را قربانی نکند…

طی دههٔ گذشته، چین پیشگام تکنولوژی پیشرفتهٔ تشخیص چهره در دنیا بوده است. در تست‌های تشخیص چهره که موسسه ملی استاندارد و تکنولوژی آمریکا انجام داده، شرکت‌های چینی بهترین رتبه‌ها را کسب کرده‌اند؛ همین‌طور مقالات علمی چینی‌ها در این حوزه بسیار بیشتر از مقالات کشورهای دیگر طرفدار دارد. بسیاری از کارشناسانْ استفاده از تکنولوژی‌ها و اپلیکیشن‌های هوش مصنوعی و تشخیص چهره را برای پیشرفت اقتصاد مهم می‌دانند. برای همین، درک نحوهٔ برتری‌یافتن چین در این حوزه از اهمیت اقتصادی برخوردار است.

اما دلیل این برتریِ شرکت‌های چینی چیست. روش کار ساده است: ارسالِ انبوهِ داده‌های نظارتی به شرکت‌های هوش مصنوعی که نرم‌افزارِ تشخیص چهره برای پلیس تولید می‌کنند.

سیستم‌های تشخیص چهره هم مثل بقیهٔ سیستم‌های هوش مصنوعی، برای یادگیری به داده‌های انبوه نیاز دارند ‌ــ‌ و هر چه‌قدر داده‌های بیشتری را پردازش کنند، دقت‌شان بیشتر می‌شود. شرکت‌های چینی از داده‌های نظارتیِ دولت برای طراحی الگوریتم‌های پیشرفته‌ای استفاده می‌کنند که بعدا از آن‌ها می‌توان در کاربردهای تجاری مثلا تبلیغات هدفمند و رصدِ رفتار مشتریان در فروشگاه‌ها استفاده کرد. برآیندِ این فرایند این است که نظارتِ انبوهِ بیشتر، به تسریعِ رشد اقتصادی کمک می‌کند.

تسلط دولت‌های دیکتاتوری مثل دولت چین در هوش مصنوعی، به آن‌ها مزیتی قاطع نسبت به دموکراسی‌های لیبرال می‌بخشد.

اما اگر کشورهای غربی بخواهند هوش مصنوعی را در تجارت استفاده کنند، باید مقرراتِ حفظ حریم خصوصی و اطلاعات شخصی را شُل کنند. چون شرکت‌های نوپای هوش مصنوعی در این کشورها برای ایجادِ نوآوری به داده‌های انبوه نیاز دارند، و قوانینِ سفت‌وسختِ حریم خصوصیْ آن‌ها را در موقعیتِ ضعیف‌تری قرار می‌دهد. و تا وقتی کشورهایی مثل آمریکا این مسئله را برای خودشان حل‌وفصل نکنند، در رقابت برای تولیدِ یکی از مهم‌ترین تکنولوژی‌های قرن ۲۱م عقب خواهند بود.

در قلبِ صنعتِ تشخیص چهره در چین، یک نظام نظارتی انبوه به سبکِ جورج اورول وجود دارد که از جنبهٔ کمیت و کیفیت همتا ندارد. از تقریبا نیم میلیارد دوربینِ نظارتی در دنیا، بیشتر از نصف‌شان در چین نصب شده است، و نُه تا از ده شهرِ پُرنظارتِ دنیا از نظر سرانهٔ دوربین، در چین قرار دارد. کمپانی‌های چینی به کمک قراردادهای دولتی به شبکه‌های نظارتِ ویدیویی دسترسی دارند و با استفاده از داده‌های آن‌ها الگوریتم‌هایی را طراحی می‌کنند که در مصارف تجاری مورد استفاده قرار می‌گیرد.

از نگاه الگوریتم، ذخیره و پردازش و استفاده از اطلاعاتِ هویتی و ترجیحاتِ شخصیِ افراد برای مصارف تجاری، بسیار شبیهِ کاری‌ست که نهادهای امنیتی می‌کنند. شرکت‌های چینی از داده‌های انبوهِ دولتی فقط برای افزایش دقت سیستم تشخیص چهرهٔ مشتریانِ کالاها استفاده نمی‌کنند، بلکه از آن برای پیش‌بینیِ رفتار آن‌ها هم بهره می‌گیرند.

در چین شرکت‌های تشخیص چهره ملزم هستند که محصولات خود را به وزارت صنعت و تکنولوژی اطلاعات چین گزارش کنند. حداقل ۱۰۰۰ شرکتِ چینی وجود دارد که قراردادهایی برای تولید نرم‌افزارِ تشخیص چهره برای ادارات محلیِ پلیس دریافت کرده‌اند، و در ازای آن، به داده‌های دوربین‌های نظارتی محلی دسترسی پیدا می‌کنند. برخی از این شرکت‌ها به دوربین‌های بسیار بیشتر و در نتیجه به داده‌های بسیار بیشتر دسترسی دارند، و برخی شرکت‌ها برعکس، به داده‌های بسیار کمی دسترسی دارند.

این سوال مطرح است که آیا حجم داده‌هایی که این شرکت‌ها دریافت می‌کنند، با خروجیِ محصولات تجاریِ تشخیص چهره همخوانی دارد یا نه. مطابق تحقیقات معلوم شد شرکت‌هایی که به حجم بالایی از داده‌ها دسترسی داشته‌اند، در مقایسه با آن‌هایی که به داده‌های اندک دسترسی داشتند، هم تعدادِ بیشتری نرم‌افزارِ تشخیص چهره برای پلیس تولید کرده‌اند و هم اپلیکیشن‌های تجاری بیشتری توسعه داده‌اند. این یعنی داده‌های دولتی باعث افزایش نوآوری در کل صنعت هوش مصنوعی شده است، چون علاوه‌بر مصارف دولتی/امنیتی، برای مصارفِ تجاری/اقتصادی هم به کار رفته است.

اگر ارزشِ اقتصادی در محاسبات اهمیتِ بیشتری پیدا کند، ممکن است وزنِ آزادی‌های مدنی کم شود.

به عبارت دیگر، وقتی این شرکت‌ها با دسترسی به داده‌های انبوه، الگوریتم‌های تازه‌ای را برای مصارف دولتی/امنیتی توسعه می‌دهند، همان الگوریتم‌ها را برای کاربردهای تجاری هم استفاده کنند.

این پدیده برای رویکرد کشورهای غربی در ایجاد توازن بین حریم خصوصی و تصمیمات اقتصادی، پیامدهای مهمی خواهد داشت. در غرب تا امروز بیشتر بر پیامدهای تکنولوژیِ تشخیص چهره بر حریم خصوصی افراد تمرکز شده است، ولی عارضهٔ جانبی‌اش این‌ست که شرکت‌های هوش مصنوعی در این کشورها از دسترسی به داده‌هایی که برای توسعهٔ تکنولوژی‌های‌شان نیاز دارند محرومند و این تبعاتِ اقتصادی برای کل سیستم خواهد داشت.
نتیجهٔ این تفاوتِ سیاستیْ این بوده که در کشورهای استبدادی مثل چین که حریم خصوصیِ مردم اهمیت چندانی ندارد، صنعت تشخیص چهره شکوفا شده، ولی در آمریکا و اروپا این صنعت تضعیف شده است.

سیاست‌های حریم خصوصی ممکن است پیامدهای منفی برای صنعت داشته باشد، چون صنایع به داده‌ها وابسته‌اند. و این در جاهایی اتفاق می‌افتد که حریم خصوصیْ یک ارزش محسوب می‌شود. اگر ارزشِ اقتصادی در محاسبات اهمیتِ بیشتری پیدا کند، آن وقت ممکن است آزادی‌های مدنیْ وزنِ کمتری پیدا کند. چالشی که کشورهای غربی با آن روبه‌رو هستند این است که اگر بخواهند صنعت هوش مصنوعی خود را به حد چین برسانند، باید دسترسی به داده‌های دولتی را به عنوان یکی از زیرساخت‌های عمومیِ حیاتی (مثل جاده‌ها و پل‌ها) طوری به رسمیت بشناسند که حقوق اساسی و آزادی‌های مدنی را قربانی نکند.

به اشتراک گذاری بر روی facebook
به اشتراک گذاری بر روی twitter
به اشتراک گذاری بر روی telegram
به اشتراک گذاری بر روی email
به اشتراک گذاری بر روی print

کتابستان

دموکراسی انجمنی

مهدی جامی

تاملاتی بر هیتلر

زِبستییان هفنر

نیم‌قرن مبارزه و سیاست

سمیه رامش

هشت منظرهٔ توکیو

اوسامو دازای

استالین یا تروتسکی؟

امین اطمینان