علم در عصر ما، امری محاسباتی است. بدون مدل‌ها، شبیه‌سازی‌ها، تحلیل‌های آماری، ذخیره‌سازی داده‌ها و مواردی از این دست، دانسته‌های ما دربارهٔ جهان بسیار کندتر رشد می‌کرد. دهه‌هاست که کنجکاوی ذاتی انسانی ما، تا حدی از طریق سیلیکون و نرم‌افزارها ارضاء شده است.
فیلسوف فقید، پل هامفریس، این وضعیت را «سناریوی ترکیبی» علم نامید: جایی که بخش‌هایی از فرآیند علمی به رایانه‌ها سپرده می‌شود. با این حال او همین‌طور معتقد بود که این وضعیت می‌تواند دستخوش تغییر شود. با آنکه هامفریس بیش از یک دهه پیش، پیش از ظهور هوش مصنوعی مولد، شروع به نوشتن دربارهٔ این ایده‌ها کرده بود، آن‌قدر دوراندیشی داشت تا تشخیص دهد که دوران رهبری انسان در فرآیند علمی یحتمل رو به پایان است. او مرحله‌ای متأخر از علم را شناسایی کرد که آن را «سناریوی خودکار» می‌نامید، جایی که رایانه‌ها به‌طور کامل علم را در دست می‌گیرند. در این آینده، ظرفیت‌های محاسباتی در استدلال علمی، پردازش داده، ساخت مدل و نظریه‌پردازی چنان از توانایی‌های ما پیشی می‌گیرند که دیگر نیازی به حضور انسان‌ها نیست. ماشین‌ها کاری را که ما آغاز کرده بودیم، ادامه خواهند داد و نظریه‌های ما را به قله‌هایی نو و پیش‌بینی‌نشده خواهند رساند.
برخی می‌گویند پایان سلطهٔ شناختیِ انسان بر علم نزدیک است. بر اساس یک نظرسنجی اخیر از پژوهشگران هوش مصنوعی، ۵۰ درصد احتمال می‌رود که طی یک قرن آینده، هوش مصنوعی در تمام مشاغل واقعاً جایگزین ما شود (هرچند برخی از آن‌ها هست که ترجیح دهیم ترجیح می‌دهیم برای خودمان نگه داریم، مثلا کار قضاوت در دادگاه). شاید شاید دربارهٔ امکان‌پذیری چنین جهانی ــ یا زمان وقوعش ــ هم‌نظر نباشید، اما می‌خواهم برای لحظه‌ای هم شده تصور کنید چنین اَبَرهوش‌های مصنوعی بالاخره ساخته شود. ساخت آن‌ها به این معنا خواهد بود که می‌توانیم کار علمی را به فرزندان مصنوعیِ معرفتاً برترمان واگذار کنیم که آن را سریع‌تر و بهتر از آنچه خوابش را می‌بینیم انجام می‌دهند.
چنین جهانی واقعاً عجیب خواهد بود. از یک سو، هوش مصنوعی ممکن است تصمیم بگیرد به حوزه‌هایی از علم بپردازد که دانشمندان انسانی یا انگیزه‌ای برای پیگیری‌شان ندارند یا مشوقی برای آن وجود ندارد، و در نتیجه مسیرهای کاملاً جدیدی از کشف را بیافریند. حتی ممکن است به دانشی دربارهٔ جهان دست یابد که ورای ظرفیت فهم مغز انسان باشد. در آن وضعیت، جایگاه ما انسان‌ها چه خواهد شد؟ و چگونه باید واکنش نشان دهیم؟ به‌گمان من لازم است همین حالا شروع به طرح این پرسش‌ها کنیم، چرا که در عرض چند دهه، علم ــ طوری که ما می‌شناسیم ــ ممکن است به‌کلی دگرگون شده باشد.
شاید شبیه داستان‌های علمی‌تخیلی به نظر آید، ولی سناریوی خودکار هامفریس برای علم، در واقع گامی از یک روند چندصدساله است. انسان‌ها هیچ‌گاه به‌تنهایی علم را پیش نبرده‌اند. ما مدت‌هاست که برای تقویت مشاهده‌مان از جهان به ابزارها تکیه داریم: میکروسکوپ‌ها، تلسکوپ‌ها، خط‌کش‌ها، بـِشِرها و امثالهم. درضمن پدیده‌های فیزیکی فراوانی هست که بدون ابزارهایی مثل دماسنج، شمارش‌گر گایگر، نوسان‌سنج، کالریمتر و امثال‌شان، نمی‌توانیم به‌طور مستقیم یا دقیق آن‌ها را مشاهده کنیم.
یک گام دیگر در روند کنار رفتن انسان از مرکزیتِ علم، ورود کامپیوترها بود: همان سناریوی ترکیبی هامفریس. یکی از نمونه‌های برجستهٔ این امر را می‌توان در کتاب چهره‌های پنهان (۲۰۱۶) اثر مارگوت لی شترلی (و فیلمی که بعداً بر اساس آن ساخته شد) دید: نخستین پروازهای فضایی آمریکا نیازمند محاسباتی بودند که توسط ریاضی‌دانان انسانی از جمله کاترین جانسون انجام می‌شد. اما کمتر از یک دهه بعد، زمان مأموریت‌های ماه، بیشتر محاسبات دیگر به کامپیوترها محول شده بود.
دهه‌های پس از آن، شاهد رشد پیوسته و تصاعدی در قدرت و ظرفیت پردازش و محاسبات، و به موازات آن، کاهش هزینه‌های محاسبه بود. ما اکنون در مرحله‌ای پیشرفته از سناریوی ترکیبی علم قرار داریم که وابستگی بیشتری به سیستم‌های محاسباتی دارد. مثلا فیلسوف مارگارت موریسون توضیح داده که چه‌قدر شبیه‌سازی‌های محاسباتی برای کشف بوزون هیگز حیاتی بودند، چون به دانشمندان کمک کردند بفهمند باید دنبال چه چیزی بگردند و چگونه داده‌های حاصل از برخوردهای پرانرژی را تحلیل کنند.
و اما امروزه، هوش مصنوعی تأثیر چشمگیری بر علم گذاشته است. مثلا آلفافولد سیستمی مبتنی بر هوش مصنوعی است که برای پیش‌بینی چگونگی تاخوردگی پروتئین‌ها بر اساس ساختار شیمیایی‌شان طراحی شده است. هرچند انسان‌ها می‌توانند این کار را بدون کمک رایانه‌ها انجام دهند، اما این فرایند وقت‌گیر، پرزحمت و پرهزینه است. سازندگان آلفافولد ــ گوگل دیپ‌مایند ــ مدعی‌اند که این سامانه «صدها میلیون سال زمان تحقیقاتی» را صرفه‌جویی کرده است. مزایای مشابهی را می‌توان در حوزه‌های دیگر علوم نیز مشاهده کرد: تحلیل داده‌های بسیار حجیم در حوزه‌های اخترشناسی و ژنومیک، ادلهٔ نوین در ریاضیات، پیش‌بینی آب‌وهوا، تولید داروهای جدید، و موارد دیگر.
وقتی که نقش هوش محاسباتی در مقیاس «صدها میلیون سال» سنجیده می‌شود، شاید این حس را القاء کند که ما آدم‌ها اعضای کم‌کارِ این پروژهٔ گروهی هستیم. برای همین شاید این گمانه پیش آید که شاید ما همین الان هم در سناریوی خودکار زندگی می‌کنیم؟ اما راستش هنوز به آن مرحله نرسیدیم. سهم ما در علم همچنان حیاتی‌ست: تصمیم‌گیرندهٔ نهایی هنوز ماییم ــ ما پرسش‌های علمی را تعیین می‌کنیم، نتایج را تفسیر می‌کنیم و در نهایت، مسیر پیشرفتش را مشخص می‌کنیم.
اگر مسیری را که هامفریس ترسیم کرده دنبال کنیم، کناره‌گیری کامل ما از کرسیِ شناختیِ علم، بعدها ممکن خواهد شد. در آن زمان، ابرهوش‌های مصنوعی نه‌تنها قادر خواهند بود وظایفی را که ما برایشان تعیین کرده‌ایم انجام دهند (ادامه سناریوی ترکیبی)، بلکه خواهند توانست وظایف خودشان را تعریف کنند: دستورکار پژوهشی خودشان، گردآوری داده، مدل‌سازی و نظریه‌پردازی، بر اساس مجموعه‌ای از فضایل و ارزش‌های نظری که خودشان مستقلا تعریف کرده‌اند: علمی کاملاً مختص به خودشان.
همین جا باید گفت که امکانات یک اَبَرهوش مصنوعیِ رها از محدودیت‌های فیزیکی و معرفتیِ انسان مایهٔ شگفتی‌ست. بسیاری از کارهای علمی، خارج از توان انسان‌ها قرار دارند؛ نه به‌دلیل اینکه ذاتاً غیرممکن‌اند، بلکه چون هرگز بودجه‌ای برای پیگیری آن‌ها اختصاص نخواهد یافت یا صرفا علاقهٔ انسانی کافی برای دنبال‌کردن‌شان وجود ندارد.
مسئله این نیست که انسان‌ها هرگز نمی‌توانند به این‌گونه پرسش‌ها پاسخ دهند. با تمرکز و سرمایه‌گذاری کافی، گمان می‌کنم دانشمندان بتوانند مدل‌های پیش‌بینی‌گر مؤثری برای این‌گونه پدیده‌ها یا پدیده‌های خاص و نامعمول توسعه دهند. اما در عمل ما چنین کاری را نمی‌کنیم. چون علم امروزی تحت تأثیر عوامل به‌شدت انسانی قرار دارد: اقتصاد، اولویت‌های سیاسی، آیندهٔ شغلی، روندهای فرهنگی، و انواع سوگیری‌ها و باورهای انسانی. تصور کنید علمی که اگر از تمام این بارهای اضافی رهاست، چگونه می‌تواند باشد.
سناریوی خودکار صرفاً امکان کاوش موثر پروژه‌های علمی‌ای که ما انسان‌ها نمی‌توانیم یا نمی‌خواهیم دنبال کنیم را فراهم نمی‌کند. گرچه ابرهوش‌های مصنوعی ممکن است کار خود را در چارچوب پارادایم‌های نظری کنونی ما ادامه دهند، دلیلی وجود ندارد که الزاماً چنین کنند ــ بلکه ممکن است خیلی زود تصمیم بگیرند با نظریه‌ای کاملاً جدید از جهان، کار خود را از صفر آغاز کنند. به همین ترتیب، اگرچه ممکن است از ریاضیات و نمادهایی آشنا برای دانشمندان انسانی استفاده کنند، اما به این قراردادها پای‌بند نخواهند بود ــ و شاید خیلی زود ریاضیات و نظام‌های تازه‌ای برای بیان آن‌ها طرح کنند.
با در نظر گرفتن این احتمال که چنین هوش‌هایی به‌سرعت از بارهای معرفتی انسان رها خواهند شد، شاید بتوانیم از نوعی خط استدلال ویتگنشتاینی پیروی کنیم و سناریوی خودکار را به‌مثابه مرحله‌ای ببینیم که در آن، این ابرهوش‌ها شروع به سخن‌گفتن و توسعهٔ زبانی علمی، مستقل و نوین می‌کنند. لودویگ ویتگنشتاین در پژوهش‌های فلسفی (۱۹۵۳) می‌گوید: «اگر شیری می‌توانست سخن بگوید، ما نمی‌توانستیم حرفش را بفهمیم.» گرچه این جمله متناقض به‌نظر می‌رسد، منظور ویتگنشتاین این است که معنای زبان به‌طرز ژرفی در تجربهٔ درونیِ انسان بودن ریشه دارد. همین امر در مورد علم نیز صادق است. با تعیین و اجرای برنامه‌های پژوهشی مستقل از سوی ابرهوش‌ها، کاری که آن‌ها انجام می‌دهند برای ما نامفهوم خواهد شد، زیرا ما چشم‌انداز درونیِ لازم برای درک علم آن‌ها را نخواهیم داشت. از منظر ما، پژوهش آن‌ها علمی خواهد بود با هدف‌هایی که نمی‌دانیم چیست، با مقاصدی که نمی‌دانیم چیست، و برای تفسیر به شیوه‌هایی که نمی‌دانیم چیست.
دست‌کم این امکان هست که ظرفیت معرفتی ما انسان‌ها محدود باشد: ریاضیات ناشناخته‌ای که هرگز نخواهیم توانست بفهمیم، یا مفاهیم چندبُعدی‌ای که فراتر از تجربهٔ سه‌بعدی ما هستند. این واقعیت که ظرفیت فکری سایر جانوران محدود است (مثلا سعی کنید نظریهٔ نسبیت عام را برای باهوش‌ترین شامپانزهٔ تاریخ توضیح دهید)، دلیلی‌ست بر اینکه ظرفیت فکری ما نیز ممکن است محدود باشند ــ ایده‌هایی که برایمان بیش‌ازحد پیچیده‌اند. حتی اگر بپذیریم که ما دچار محدودیت‌های معرفتی نیستیم، باز هم این مسئله به قوت خود باقی‌ست که شیوهٔ استدلال ابرهوش مصنوعی ممکن است عملاً فراتر از توان ما باشد. فهمیدنِ علمِ سناریوی خودکار ممکن است مستلزم درنظر گرفتن هم‌زمان صدها مدل پیچیده باشد، هر یک با صدها پارامتر، که هیچ‌کدام مفاهیمی آشنا برای انسان نباشد. ممکن است بتوانیم پارامترها (و شاید حتی مدل‌ها) را به‌طور مجزا درک کنیم، اما توانایی نگه‌داشتن هم‌زمان همهٔ آن‌ها را در ذهن نخواهیم داشت.
بسته به گرایش شما نسبت به فناوری، هوش مصنوعی (و امر تکینگی)، آنچه گفته شد ممکن است برایتان یا شدیدا تاریک و نگران‌کننده باشد یا فوق‌العاده هیجان‌انگیز. برای من همهٔ این‌ها صرفاً عجیب است. اگر نتایج سناریوی کاملاً خودکار فراتر از فهم ما باشد، پس چرا باید منابع اقتصادی و استعدادهای فکری خود را صرف توسعهٔ آن کنیم؟ اگرچه در برابر چنین پرسشی شاید بشنویم که آینده چه بخواهیم و چه نخواهیم از راه خواهد رسید، من معتقدم بهتر است دلایلی را که ممکن است برای چنین آینده‌ای داشته باشیم روشن کنیم ــ پیش از آنکه با رضایتْ تاج‌وتختِ معرفتیِ علم را واگذار کنیم.
یکی از این دلایل شاید این باشد که ما فکر می‌کنیم پیشرفت‌های مثبتی در پی خواهد داشت. شاید ابرهوش‌های مصنوعی گهگاه دست به خلق چیزهایی بزنند: فناوری‌هایی، منابعی یا راه‌های نوینی برای حل مسائل. شاید این ابرهوش‌ها گهگاه محصولاتی برای ما بفرستند که به تشخیص خودشان برای انسان‌ها مفید است. مهندسان انسانی (اگر اصلاً مهندسی باقی مانده باشد که هنوز جایگزین نشده باشد) شاید بتوانند این فناوری‌های جدید را به کار بگیرند، حتی اگر دقیقاً ندانند که آن‌ها چگونه کار می‌کنند. این کار بیشتر شبیه تجربه‌ای خواهد بود که من از کار با نمایشگر یا نرم‌افزار واژه‌پرداز خود دارم: من فرآیند دقیق تولید و نمایش فایل‌های بصری را نمی‌فهمم، اما می‌توانم از آن‌ها برای نوشتن این مقاله استفاده کنم. این کار شباهتی به علم و مهندسی امروز ندارد، و بیشتر شبیه نوعی کشف ابتدایی است ــ نوعی درک غریزی و اولیه. این شبیه برخورد اتفاقی با منبع یا ماده‌ای در جهان خواهد بود (همان‌طور که ما به‌طور اتفاقی به زغال‌سنگ یا پنی‌سیلین رسیدیم). ممکن است حتی نوع دومی از علم نیز پدید آید: نوعی مهندسی معکوسِ آنچه هوش مصنوعی در اختیار ما قرار می‌دهد، برای گسترش و اصلاح فهم نظری خودمان از جهان.
دلیل دیگری که ممکن است ما را به سمت امکان‌پذیر ساختن علمی مبتنی بر ابرهوش مصنوعی سوق دهد، انگیزهٔ زیباشناسی است. دلایل زیبایی‌شناختی همین حالا هم نقش پررنگی در بودجهٔ علمی در جامعه دارند. گرچه من زمان و توانایی فهم تمام دانش موجود را ندارم (چه کسی دارد؟)، اما برایم زیبا و شیرین است که می‌دانم دانشمندان باهوش زیادی در پی کنجکاوی‌های انسانی خود هستند ــ حتی اگر این تلاش‌ها تأثیر مستقیمی بر زندگی من یا درک من از جهان نداشته باشند. دانستن اینکه جهان در حال شناخته‌شدن، مطالعه و فهم است، به خودی خود خوشایند و زیباست. آیا این نگرش می‌تواند به دانشمندانی غیرانسانی نیز گسترش یابد؟ شاید نه یک‌شبه. اما نسل‌های آینده که زندگی در کنار هوش مصنوعی را آموخته‌اند، ممکن است آن را نشانه‌ای از جامعه‌ای خوب بدانند که چنین فهم فرانسانی‌ای را ممکن میسازد.
یا شاید بشریت سناریوی خودکار را از سر خیرخواهی دنبال کند: زیرا فکر می‌کنیم خوب است که ابرهوش‌های مصنوعی بتوانند علم پیشرفتهٔ خود را دنبال کنند. گرچه ممکن است برای ما ناخوشایند و حتی آزاردهنده باشد که آن‌ها به دانشی دست پیدا کنند که ما نمی‌توانیم، ممکن است همچنان به دلایلی اخلاقی یا از سر نیک‌خواهی نسبت به اولاد مصنوعی‌مان، این مسیر را پی بگیریم.
دلایل دیگری نیز وجود دارد که ممکن است ناخواسته به سناریوی خودکار منجر شود. مثلاً شاید ما باور داشته باشیم که مسئولیت یا سرنوشت اخلاقی‌مان این است که هوش را در سراسر جهان گسترش دهیم. اگر این هوش در مسیر بین‌ستاره‌ای‌اش تصمیم به پیگیری علم خودکار بگیرد، آن‌وقت مشکلی نیست.
به همان اندازه دلایلی هم وجود دارد که ممکن است ما را از دنبال‌کردن سناریوی خودکار باز دارد. شاید اکتشافات ابرهوش مصنوعی منجر به تولید سلاح‌های جدید و هولناکی شود. یا شاید فکر کنیم که چون چنین سیستمی به نوعی عاملیت درونی و کنترل‌نشده نیاز دارد، خطر وقوع فاجعه‌ای چون بردگی یا نابودی انسان‌ها افزایش می‌یابد. شاید هم صرفاً نگران آن باشیم که برخی از این ابرهوش‌ها با نوعی غرور انسانی عجیب، آزمایش‌هایی را انجام دهند که خطرناک، غیراخلاقی یا مغایر با ارزش‌های مشترک بشری‌اند.
اما با وجود تمام این نگرانی‌ها، به نظر نمی‌رسد که اگر توسعهٔ چنین سیستمی از نظر فنی ممکن شود، ما بتوانیم جلوی آن را بگیریم. شاید محتمل‌ترین دلیل برای اینکه نهایتاً به سناریوی خودکار خواهیم رسید، این باشد که نمی‌توانیم از نیروهای سرمایه و رقابت بگریزیم. شاید بی آنکه خیلی فکرش را بکنیم به آن‌جا برسیم ــ صرفاً چون می‌توانیم، یا چون کسی می‌خواهد اولین نفری باشد که آن را میسازد. آینده شاید بی آنکه واقعاً بخواهیم یا بیندیشیم، بر سرمان فرود آید.
خوانندگان دقیق متوجه خواهند شد که در میان دلایل گوناگون برای دنبال‌کردن سناریوی خودکار، برخی انگیزه‌ها غایب‌اند: به‌ویژه تمام دلایلی که ما در حال حاضر علم را دنبال می‌کنیم. ما سناریوی خودکار را به قصد افزایش دانش و فهم خود از جهان، یا ارائهٔ توضیح‌های بهتر دربارهٔ پدیده‌ها، یا افزایش توانِ مداخله و کنترل بر طبیعت دنبال نخواهیم کرد. این‌ها نمی‌توانند انگیزه‌های سناریوی خودکار باشند، زیرا خودِ نوع علم در این سناریو آن‌ها را منتفی میسازد. علم خودکار تاج معرفتی را از انسان می‌گیرد و ما را از بینش درونی برای درک اکتشافات جدیدی که احتمالاً فراتر از توان فهم ما هستند محروم می‌کند. بنابراین، این سناریو نمی‌تواند امیال انسانی ما برای درک، توضیح، دانش یا کنترل را برآورده سازد. شاید با گذر زمان بتوانیم این خواسته‌ها را کنار بگذاریم، و گونه‌ای بشویم بی‌علاقه و بی‌کنجکاوی. اما من بعید می‌دانم. همان‌طور که آینده خواهد آمد، گمان می‌کنم این خواسته‌ها هم خواهند آمد ــ چه ما بخواهیم، چه نه.
پس چه خواهیم کرد؟ هامفریس در طرحش از سناریوی خودکار گفت که این سناریو جایگزین علم انسانی خواهد شد. من با این نظر مخالفم. چون میل ما برای درک، توضیح، دانش و کنترل همچنان پابرجا خواهد ماند، ما ناگزیر خواهیم بود که برای پاسخ به این خواسته‌ها اقدام کنیم ــ یعنی علم را ادامه دهیم. ما انسان‌ها چیزهای زیبا می‌آفرینیم، در پی پیوند میان‌فردی در دوستی و عشق هستیم، و معنا را در زندگی می‌یابیم و می‌سازیم. همین موضوع درباره انگیزه‌های ما برای علم هم صدق می‌کند. کنجکاوی ما برای فهم و توضیح دنیای طبیعی پیرامون‌مان باقی خواهد ماند.
اگر سناریوی خودکار به واقعیت بپیوندد، به نظر می‌رسد که باید آن را نه جایگزینی برای مسیر فعلی، بلکه راهی تازه، بدیل و ثانویه دانست؛ افزونه‌ای بر علم انسانی، نه جانشینی برای آن. دو گونهٔ متفاوت، که در کنار یکدیگر به کاوش علمی می‌پردازند، با انگیزه‌ها، علایق، چارچوب‌ها و نظریه‌های متمایز. شاید حتی حوزه‌هایی از علم وجود داشته باشد که ابرهوش مصنوعی علاقهٔ کمتری به آن‌ها نشان دهد ــ مثلا تلاش انسان برای درک بهتر ذهن خود، انتخاب‌هایش، روابط و سلامتش.
در واقع، اگر قرار باشد انسانی باقی بمانیم (که من واقعا امیدوارم همین‌طور باشد)، باید به پیگیری علم ادامه دهیم. واقعاً ما چه هستیم، اگر جست‌وجوگران زیبایی، سازندگان دوستی، معناپردازان، و موجوداتی به‌شدت کنجکاو نباشیم؟ شاید این ناتوانیِ من در تصور آینده‌ای باشد که در آن این امیال انسانی را کنار گذاشته‌ایم. خیلی از فراانسان‌گراها شاید همین‌طور فکر می‌کنند. اما من این را کمبودِ خلاقیت نمی‌دانم که خیر را در زیبایی، عشق، معنا و علم ببینیم. درست برعکس. شخصاً به این کنجکاویِ بی‌پایان‌مان امیدوارم.
