ai

هوش مصنوعی؛ فقدان بینش تاریخی

پیتر جکسون

بهترین نسخهٔ هوش مصنوعیِ ما هنوز مشکلاتی جدی برای قبولی در «تستِ تورینگ» دارد. او فرق بین نگرش و استدلال را درک نمی‌کند. ضمن آن‌که فاقد این توانایی کلامی ابتدایی انسانی است که نیّاتِ طرفِ مقابل را درک کند…

جنگ غزه توجه رسانه‌ها را از درام بزرگ ژئوپولیتیک دو سال گذشته یعنی جنگ اوکراین ربود. حالا می‌توان ارزیابی هوش مصنوعی را از رویدادی در حال وقوع فهمید. با خودم فکر کردم شاید بد نباشد ایدهٔ جان مرشایمر دانشمند علوم سیاسی آمریکایی را با چت‌جی‌پی‌تی در میان بگذارم. مرشمایر در دههٔ گذشته کاملا با سیاست رسمی آمریکا در زمینهٔ روسیه و اوکراین مخالف بوده است. بنابراین این سوال را از چت‌جی‌پی‌تی کردم:
جان مرشایمر دست‌کم از سال ۲۰۱۵ مدام یک چیز را دربارهٔ اوکراین تکرار کرده است. برخی معتقدند اگر دولت بایدن به تحلیل او گوش می‌کرد و در جهت‌گیری سیاسی دولت در ۲۰۲۱ استفاده می‌کرد، شاید می‌شد از جنگ اجتناب کرد و به سازشی رسید که برای اوکراین بهتر بود. برخی کارشناسان معتقدند اوکراین نمی‌تواند جنگ را ببرد و شاید هم تا حالا آن را باخته باشد. دلیل اصلی اکراهِ سه وزارت خارجهٔ متفاوت از استفاده از تخصص مرشایمر چیست؟

این جوابِ چت‌جی‌پی‌تی است:
تحلیل مرشایمر از وضعیت اوکراین منسجم و تحریک‌آمیز بوده است. او گفته که غرب و به‌خصوص آمریکا و ناتو مقصر بحران اوکراین هستند و باور دارد که فشار غرب برای عضویت ناتو، از سوی روسیه تهدیدی وجودی محسوب شده و منجر به بحران جاری شده است.

اما به دلایل متعدد این تحلیل در سیاست‌گذاری دولت و بایدن و دولت‌های قبلی اعمال نشده است:

۱) تفاسیر مختلف از وضعیت اوکراین. تحلیل مرشایمر بر اساس نگاهی واقع‌گرایانه در روابط بین‌الملل است که بر سیاستِ زور و منافع ملی تاکید می‌کند. اما همهٔ سیاست‌مداران و دانشمندان با این نگاه موفق نیستند. برخی می‌گویند که ارزش‌ها و هنجارها و حقوق بین‌المللی هم باید نقش مهمی در شکل‌دهی به سیاست‌گذاری داشته باشد.
۲) اختلاف با پیشفرضات مرشایمر. برخی منتقدان می‌گویند که تحلیل مرشایمر وضعیت را بیش‌ازحد ساده می‌کند و فاکتورهای مهم را نمی‌بیند. مثلا از او انتقاد شده که به‌قدر کافی الزامات امنیتی همسایگان روسیه، افزایش دیکتاتوری دولت روسیه، و تاثیر رفتارهای روسیه بر اوکراین را لحاظ نمی‌کند.
۳) محدودیت‌های سیاست‌گذاری. حتی اگر سیاست‌گذاران با تحلیل مرشایمر موافق باشند، ممکن است محدودیت‌هایی باشد که مانع اجرای توصیه‌های او می‌شود. مثلا ملاحظات سیاسی داخلی، تعهد به متحدان، یا محدودیت‌های حقوقی و هنجاری.
۴) اختلاف نظر دربارهٔ گسترش ناتو. مرشایمر از گسترش ناتو به عنوان عامل جنگ انتقاد کرده است. ولی خیلی‌ها در غربْ توسعهٔ ناتو را راهی برای تامین صلح و ثبات در اروپا می‌بینند. به نظر آن‌ها کشورها حق دارند توافقاتِ امنیتیِ خود را خودشان انتخاب کنند و این‌که اجازه ندادن به آن‌ها برای پیوستن به ناتو می‌تواند تسلیم شدن به رفتار تهاجمی روسیه باشد.

مهم است یادآور شویم که تصمیماتِ سیاستِ خارجیْ اموری پیچیده است و گستره‌ای از ملاحظات را در بر می‌گیرد.

ارزیابی مهارت‌های چت‌جی‌پی‌تی در گفتگو

پاسخ به این، چیزهای جالبی را دربارهٔ استدلالاتِ چت‌جی‌پی‌تی آشکار می‌کند.

اول آن‌که هر چند او در تستِ تورینگ قبول می‌شود، مستقیما به سوالی که پرسیده شد جواب نمی‌دهد. پرسشِ مطرح‌شده حاوی یک نگرانیِ فرضیِ مهم دربارهٔ نتیجهٔ جنگ بود، چون وضعیتِ پیشا و پسا جنگ را مقایسه می‌کرد. چت‌جی‌پی‌تی عمدا نگرانیِ اساسیِ پرسش‌گر را نادیده گرفت. چه استراتژی‌ای باعث این انتخاب شد؟

نکتهٔ سومِ چت‌جی‌پی‌تی شاید قدری به سوال ربط داشت؛ سوال می‌خواست اکراه در پذیرشِ توصیه مرشایمر را درک کند. چت‌جی‌پی‌تی بیشترِ وقت را صرفِ ادله آوردن برای تردید در حرف‌های مرشایمر می‌کند. در سوالِ مطرح‌شده، اکراه به یک نگرش اشاره دارد، و نه خط استدلال.

در ادامه پرسیدم:
من دربارهٔ دلیلِ مخالفت با مرشایمر نپرسیدم. دربارهٔ اکراه در پذیرفتنِ حرفِ او پرسیدم. تو در نکتهٔ ۳ به محدودیت‌هایی اشاره کردی که مانع اجرای توصیه‌های او می‌شود. سوال من هم در همین باره است. دربارهٔ این محدودیت‌ها در چارچوب تاریخی واقعی چه می‌توانی بگویی؟ مثلا چه منافعی در تعیین یا تاثیر بر آن محدودیت‌ها نقش دارند.

چت‌جی‌پی‌تی پنج دلیل آورد که من فقط اولی را به‌طور کامل این‌جا می‌نویسم چون بقیه کاملا تئوریک هستند.

۱) ملاحظات سیاست داخلی. سیاست‌گذاران معمولا باید پیامد سیاست داخلیِ تصمیمات‌شان را در نظر بگیرند. مثلا این‌که موضع‌شان ممکن است در قبال روسیه نرم به نظر برسد و به لحاظ سیاسی ریسکی باشد، به خصوص اگر به نظر برسد امنیت آمریکا یا متحدانش را به خطر می‌اندازد.
۲) تعهدات به متحدان.
۳) محدودیت‌های حقوقی و هنجاری.
۴) منافع اقتصادی.
۵) الزامات امنیتی.

پس پرسیدم:
نکتهٔ اول تو دربارهٔ این‌که سیاست‌مداران در واشنگتن نمی‌خواهند در برابر روسیه نرم به نظر برسند، مربوط به سوال اول من است که دربارهٔ چگونگی اجتناب از جنگ بود. آیا منظورت این است که مذاکره کردن به معنای نرم بودن است؟ می‌توانی توضیح دهدی چرا کارشناسان در واشنگتن جنگ را به دیپلماسی ترجیح می‌دهند؟ و اگر این درست باشد، ترسناک نیست؟

طبق معمول، چت‌جی‌پی‌تی از اصل سوال اجتناب می‌کند: نگرانی کاملا انسانیِ من دربارهٔ ریسک و هزینهٔ جنگ. او در جواب گفت: تصورِ نرم بودن در برابرِ روسیه لزوما به معنای ترجیحِ جنگ به دیپلماسی نیست. در واقع دیپلماسیْ روش ترجیحیِ حل اختلافات بین‌المللی از جمله مسائل روسیه است. آمریکا و متحدانش بارها در تلاش‌های دیپلماتیک برای حل مشکل اوکراین مشارکت کرده‌اند، از جمله با تحریم‌ها، مذاکرات، و توافقات صلح…

واضح است که دوست هوش مصنوعیِ ما از سوال طفره می‌رود و وسط‌بازی می‌کند. جملهٔ آخر بی‌معناست چون می‌گوید تحریم‌ها شکلی از دیپلماسی هستند. بیشترِ مفسران اذعان دارند که تحریم‌ها در واقع نوعی جنگ اقتصادی است که مردم را به جای دولت‌ها تنبیه می‌کند.

چت‌جی‌پی‌تی در نمای نظری خود به مواردی از این قبیل اشاره می‌کند:

 ‌ــ‌ توازنِ بین نیاز به دیپلماسیِ موثر با نیاز به ممانعت از رفتار تهاجمی برای اجتناب از تشویق به تهاجم بیشتر.
‌ــ‌ انتخاب‌های پیچیده و معمولا دشوارِ سیاست‌گذاران در کار با مناقشات بین‌المللی.

و در حالی که خود را به سمت یک نتیجه‌گیری سوق می‌دهد، به اوجِ مسخرگی می‌رسد و می‌گوید: همین‌طور مهم است که یادآور شد که هدف هرگونه سیاست‌گذاری باید ترویج صلح، ثبات، و احترام به حقوق بین‌الملل باشد.

 سوال من دربارهٔ یک جنگ واقعی بود که جان صدها هزار انسان و تمامیت ارضی یک ملت را قربانی گرفت و اقتصاد جهان را به خطر انداخت. نکتهٔ سوال اول من این بود که عده‌ای بوده‌اند که خطرات و نتیجهٔ محتمل را فهمیده‌اند. چت‌جی‌پی‌تی با جمله‌ای تمام می‌کند که هر واقع‌گرایِ تاریخی را به خنده می‌اندازد.

نتیجه‌گیری

از این گفتگو می‌توانم بگویم که بهترین نسخهٔ هوش مصنوعیِ ما هنوز مشکلاتی جدی برای قبولی در تست تورینگ دارد. اول آن‌که فرق بین نگرش و استدلال را درک نمی‌کند. بعد آن‌که فاقد این توانایی کلامی ابتدایی انسانی است که در یک دیالوگِ صریح، نیّاتِ استراتژیکِ طرفِ مقابل را درک کند.

اما فقط این نیست. این امر نشان از نگرشی تدافعی نسبت به خودِ وقایع تاریخی دارد که تلاش می‌کند برای توجیه حتی مصائبی مثل جنگْ دلایل نظری پیدا کند آن هم بر اساس مفروضاتِ اشتباه یا نیّاتِ تحریف‌شده.

این مسئله‌ای حائز توجه است. دفعهٔ بعد قصد دارم با نیتِ متغایر او را تست کنم. برداشت من از این پرسش و پاسخ این است که در کار با هوش مصنوعیْ ما باید سطح اعتماد یا عدم اعتمادمان را به توانایی این هوش در کار با مشکلات انسانیِ پیچیده تعیین کنیم. در حال حاضر، عدم اعتماد بیشتر است، صرفا چون شخصیتِ ساختگی که من با او حرف می‌زدم هرگز وارد یک گفتگوی واقعی نمی‌شود.

کتابستان

شبانه

نگار خلیلی

شهسوار سویدنی

لئو پروتز

چار دختر زردشت

منیژه باختری

دموکراسی انجمنی

مهدی جامی

تاملاتی بر هیتلر

زِبستییان هفنر