متئو گراسو
دانشآموختهی فلسفهی دانشگاه روم تره[۱]
خلاصه: سریال «آینهی سیاه» با وجود اینکه اپیزودهای محدود و کوتاهی دارد، اما مخاطب را با تاریکترین و چالشبرانگیزترین زوایای جامعهی تکنولوژیک مدرن روبهرو میکند. در اپیزود «الان برمیگردم»، پرسش از «هوش مصنوعی» و آگاهی ماشینهای کامپیوتری-بیولوژیک قوت میگیرد و در خلال روایتی جذاب و گیرا، بیننده با یکی از مهمترین مسائل پیشِ روی جامعهی ماشینیِ امروز مواجه میشود: آیا انسانها را هم میتوان کپی کرد؟
«آینهی سیاه»[۲]، بیشک، یکی از فلسفیترین سریالهای تلویزیونی دههی اخیر است. هر اپیزود، مانند نمونهی مدرنشده و جدید «منطقهی گرگومیش»[۳]، بازیگران و فضای متفاوتی دارد. «الآن برمیگردم» (اپیزود اول فصل دوم) داستان زنی است که نامزدش را بهتازگی از دست داده و همچنین، مثل اپیزودهای دیگر، کاوش و جستجویی است دربارهی مفاهیم اخلاقی-اجتماعی در آیندهی محتمل تکنولوژی. از نظرگاه فلسفه، این اپیزود پرسشهای جذابی را دربارهی هوش مصنوعی، هویت فردی و مسئلهی آگاهی پیش میکشد؛ آیا رفتار پیچیده را بیچونوچرا میتوان نشانهی هوش و آگاهی دانست؟ آیا ماشینها قادرند فکر کنند یا حتی ذهن داشته باشند؟ آیا هویت فردی به خاطرات، باورها و شیوههای فکرکردنمان فروکاسته میشود؟ آیا دو نفری که موضوع تجربهی آگاهانهی یکسانی نیستند، میتوانند یک نفر باشند؟ در این نوشته، اپیزود «الآن برمیگردم» را بهعنوان مجالی برای بررسی و مداقه در این پرسشهای فلسفی برگزیدهام.
تصور کنید که شریک دلخواه زندگیتان را بیآنکه فرصتی برای خداحافظی از او پیدا کنید، از دست دادهاید. همچنین تصور کنید یک نفر به شما میگوید که میتوانید دوباره با معشوق از دسترفتهتان صحبت کنید. مارتا[۴]، کاراکتر اصلی این اپیزود، با این امکانِ اضطرابآور مواجه میشود؛ نامزد او، اَش[۵]، درست در همان روزی که به خانهی جدیدشان در حومهی شهر نقل مکان میکردند، در یک تصادف رانندگی نابهنگام فوت کرده است. در مراسم تدفینِ اَش، یکی از دوستان مارتا به او میگوید که میتواند در چیزی ثبتنامش کند که احتمالا کمکش کند؛ راهی برای صحبتکردن دوبارهی مارتا با اَش. مارتا وحشتزده و هراسان پیشنهاد دوستش را رد میکند. چند روز بعد، مارتا ایمیل از شوهر فوتشدهاش دریافت میکند. همهی ما از شبکههای اجتماعی استفاده میکنیم؛ ویدئو ضبط میکنیم و در جاهای مختلف پست میگذاریم، از طریق ایمیل با دیگران تماس میگیریم و با این کارها، آثاری از خود در اینترنت به جا میگذاریم که بگوییم چه کسی هستیم و چگونه فکر میکنیم و حرف میزنیم. مارتا در وبسایتی ثبتنام میکند که تمام اطلاعات اَش را از شبکههای اجتماعی برمیدارد و نمونهی کامپیوتری او را میسازد؛ نمونهای که از طریق چت میتوان با او ارتباط برقرار کرد و شخصیت، سبک نوشتن و شوخطبعی اَش را بازسازی میکند. پس از مرگ اَش، مارتا متوجه میشود که حامله است و درحالیکه بهشدت به همصحبتی با اَش نیاز دارد، شروع میکند به چتکردن با اَشِ شبیهسازیشده و مصنوعی. مارتا میداند که این شخص واقعی نیست، اما او درست مانند اَش حرف میزند و همان دلقکبازیهای خاص اَش را دارد. این مسئله ما را به سمت نخستین پرسش فلسفی سوق میدهد: آیا ذهن یک نفر میتواند توسط کامپیوتر شبیهسازی شود؟ مارتا دقیقاً با چه کسی صحبت میکند؟
«الآن برمیگردم» و آزمون تورینگ[۶]
«پیشنهاد میکنم که به این پرسش توجه کنید: ماشینها قابلیت فکرکردن دارند؟» با این کلمات بود که آلن تورینگ، یکی از پدران علم کامپیوتر، نوشتن مقالهی «ماشینهای کامپیوتری و هوش» را در سال ۱۹۵۰ آغاز کرد؛ مقالهای بحثبرانگیز دربارهی هوش مصنوعی که هنوز هم مورد تحلیل و بررسی قرار میگیرد. تورینگ فکر میکرد که در پاسخ به پرسش مطرحشده، ابتدا باید معنای دقیق «تفکر» را مشخص کرد. او به جای اینکه تلاش کند این معنا را بهسختی و در قالب یک جمله بیان کند، معیار و سنجهای عملیاتی پیشنهاد میکند. ایدهی او تفکربرانگیز است: اگر یک ماشین آنقدر پیچیده است که واکنشهای زبانی و لفظیاش ما را مجاب میکند که در حال تعامل با یک انسان هستیم، درنتیجه، باید استتناج کنیم که این ماشین دارای هوش است؛ درست مثل یک انسان.
امکان موفقیت یک کامپیوتر در آزمون تورینگ، مردم را در مواضع متفاوتی قرار میدهد. حذفگرایان شاید ادعا کنند که نتیجهگیری تورینگ آنقدرها هم دور از ذهن نیست؛ از نظر آنها ما احتمالاً با ماشینهای فوق پیچیده خیلی فرق نداریم. برای مثال، با وجود اینکه ممکن است تمام اتصالات و مدارهای داخل مغزمان تصوری از آگاهی را تولید کنند، ما چیزی جز ربات شگفتانگیز پیچیدهای که در طول تکامل و انتخاب طبیعی شکل پیداکرده است، نیستیم. دنیل دنت[۷]، فیلسوف ذهن، در کتاب «آگاهی مشروح»، این دیدگاه را مطرح میکند؛ دیدگاهی که اغلب به «وهمگرایی» شناخته میشود. بر اساس نظر دنت، آگاهی تنها توهمی است که توسط کار موازی و بیحدوحصر عوامل نیمهمستقل و نیمهآگاهی که در مغز وجود دارند، ساخته میشود. تمام نظریات جدی دربارهی آگاهی باید به این حقیقت اذعان داشته باشند که فقط نظریهای که رخدادهای آگاهانه را با استفاده از رخدادهای ناخودآگاه توضیح میدهد، میتواند «آگاهی» را توضیح دهد.
از سوی دیگر، شخصی که به حذفگرایی ماتریالیستی باور ندارد، احتمالاً ادعا میکند که حتی با این فرض که یک ماشین میتواند آزمون تورینگ را پشت سر بگذارد – و شاید بتوان گفت که دارای هوش است -، هوشمندی لزوماً به معنای دارای فکر یا آگاهبودن نیست؛ میتوانیم ماشینهای پیچیدهای را تصور کنیم که قابلیت انجام کارهایی را دارند که ما بهعنوان نسل بشر توانایی انجامشان را نداریم. برای نمونه، به سوپرکامپیوتر واتسون[۸] فکر کنید که دو قهرمان بازی جئوپاردی[۹] را از دور مسابقات حذف کرد؛ با اینکه میتوانیم واتسون را هوشمند خطاب کنیم، نمیتوانیم بگوییم که دارای ذهن و آگاهی است، میتوانیم؟ واتسون بهسادگی از رشتهکدهای برنامهریزیشدهای ساخته شده است تا بتواند خروجیهای کامپیوتری را تولید کند. حتی اگر واتسون از دو شرکتکنندهی دیگر بازی جئوپاردی باهوشتر باشد، باز چیزی وجود ندارد که به واتسون شباهتی داشته باشد. او وقتی برنده میشود، احساس خوشحالی نمیکند و همینطور در طول بازی، از هیچ حسی برخوردار نیست.
حالا ممکن است این پرسش پیش بیاید که چگونه میتوانیم کاملاً مطمئن باشیم که یک ماشین آگاه است، وقتی پایهی قضاوتمان را تنها روی واکنشهای رفتاری او قرار دادهایم؟ مسئلهی «ذهنهای دیگر»، بهعنوان یکی از بزرگترین مسائل در فلسفه، چنین شک و تردیدی را به افراد دیگر نیز تعمیم میدهد: آیا منطقی است که نتیجه بگیریم سایر انسانها (یا شاید حیوانات) دارای آگاهیاند، اگر چنین استنتاجی لزوماً موجه نباشد؟ اگر این نتیجهگیری دربارهی انسانها تضمینی نداشته باشد، چرا باید فکر کنیم این قضیه دربارهی هوش مصنوعی سادهتر باشد؟
بگذارید برای لحظاتی شکاکیت مطلق را کنار بگذاریم. اپیزود «الآن برمیگردم» ما را با مسئلهی بسیار مشکلی روبهرو میکند؛ موردی که بهسادگی نمیتوان موجودیت یک ذهن را در آن منکر شد. هرکسی که رابطهی از راه دوری داشته باشد، میداند که چت تنها تا یک جایی به درد میخورد، چراکه چیزی در صدا وجود دارد که نوشته نمیتواند آن را منتقل کند. بنابراین، مارتا تصمیم میگیرد که نرمافزارش را بهروز کند؛ نسخهای که میتواند از طریق بازآفرینی صدای اَش باتوجه به نمونهی ضبطشده، امکان صحبت تلفنی مارتا با اَش را فراهم کند. مارتا احساساتش را در دوران بارداری با اَش سهیم میشود و برایش ویدئوهایی از اکوگرافی فرزندشان میفرستد. داستان جلو میرود تا به نقطهی اوج اصلیاش میرسد: بهروزرسانی جدید نرمافزار. اَش میگوید که دیگر نمیتواند بهعنوان صدایی در تلفن وجود داشته باشد. کمپانی سازندهی نرمافزار قادر است کپی مصنوعیای از بدن او که با گوشتی مصنوعی ساخته شده است را به مشتریان ارائه کند که نسخهی بهروزشدهی صوتی نرمافزار پیشین است. مارتا نمیتواند مقاومت کند؛ مدل مصنوعی را سفارش میدهد و پس از دریافت آن، با توجه به دستورالعمل، فعالش میکند. اَش اینجا ست، درحالیکه با چشمان نامزد مارتا به او زل زده است، با صدای او حرف میزند و درست مثل اَش شوخی میکند. با وجود این، یک چیز سر جای خودش نیست؛ پوست او به طور غیرواقعیای نرم و لطیف است. همزاد اَش با مارتا دربارهی این قضیه شوخی میکند و از او میخواهد که نوک انگشتانش را لمس کند؛ آنها کاملاً صاف و نرماند. از مارتا میپرسد: «این مسئله اذیتت میکنه؟» و مارتا پاسخ میدهد: «نه! آره… نمیدونم». مارتا تحت سلطهی احساساتش است و شب را با رابطهی جنسی با همزاد اَش به پایان میرساند. رابطهای فوقالعاده، حتی بهتر از رابطه با اَش واقعی (امری که با توجه به مجموعهای از دستورالعملهای روالهای جنسیای که بر پایهی فیلمهای مستهجن شکل گرفتهاند، کاملاً مورد انتظار است).
پشتسرگذاشتن تورینگ
مارتا خیلی زود معنای سر و کله زدن با همزاد اَش را درمییابد؛ او تنها از دستورات مارتا پیروی میکند؛ هیچ ارادهای ندارد و فاقد خاطراتی است که در فضای آنلاین منتشر نشدهاند. حقیقت این است که او کاملاً اَش نیست. مارتا که دیگر نمیتواند اَش تقلبی را تحمل کند، او را به لبهی صخرهی بلندی میبرد و از او میخواهد که بپرد. اَش میپذیرد و مارتا را چندبرابر عصبانیتر میکند؛ اَش واقعی وقتی کاملاً ناامید میشد، برای زندهماندش التماس و ناله میکرد. کپی اَش وقتی میفهمد که باید گریه کند، شروع میکند به التماسکردن و مارتا میفهمد که کاری از دستش ساخته نیست.
مارتا که همزاد اَش را در اتاق زیرشیروانی مخفی کرده است و تنها آخر هفتهها به دخترش اجازه میدهد که کپی پدرش را ببیند، نهایتاً دخترش را بهتنهایی بزرگ میکند. این کار مارتا شاید به این دلیل بوده است که میخواسته دخترش، حتی شده از نسخهی شبیهسازیشدهی پدرش، چیزهایی دربارهی او بداند. در آغاز اپیزود، اتاق زیرشیروانی مکانی توصیف میشود که عکسهای عزیزان ازدسترفته بعد از مرگشان آنجا گذاشته میشوند. پیام اخلاقی داستان مشخص بهنظر میرسد، همانطور که در ابتدای اپیزود از خلال شعر آهنگی که از گروه بیجیز[۱۰] پخش میشود، متوجهش میشویم: «وقتی نمیتونم تو رو داشته باشم، هیچکس رو نمیخوام.» یک کپی، تنها یک کپی است و هیچچیز نمیتواند جایگزین یک انسان واقعی، با تمام پیچیدگیهایش باشد. با وجود این، بیاعتنایی نسبت به چیزی که شباهت صادقانهای به کسی که زمانی دوستش داشتهایم دارد، حتی اگر تنها شباهت ظاهری باشد، امری بسیار سخت و دشوار است؛ مانند کنارآمدن با عکسی قدیمی و رنگورورفته.
یک کپی، تنها یک کپی است و هیچچیز نمیتواند جایگزین یک انسان واقعی، با تمام پیچیدگیهایش باشد. با وجود این، بیاعتنایی نسبت به چیزی که شباهت صادقانهای به کسی که زمانی دوستش داشتهایم دارد، حتی اگر تنها شباهت ظاهری باشد، امری بسیار سخت و دشوار است؛ مانند کنارآمدن با عکسی قدیمی و رنگورورفته.
«الآن برمیگردم» نمایشی زنده از بازی تقلید را ارائه میکند. ارتباط پیام این اپیزود و آزمون تورینگ را میتوان آزادانه تفسیر و تبیین کرد؛ یک نفر ممکن است این مسئله را اینطور معنی کند که همزاد و نسخهی شبیهسازیشده تنها ماشینی است که نه احساس دارد و نه اراده. این نسخه نهایتاً در آزمون تورینگ رد میشد و به همین دلیل است که در پایان شانسی برای جایگزینشدن با اَش واقعی ندارد. از طرف دیگر، کسی ممکن است بر این باور باشد که نسخهی شبیهسازیشده در آزمون «اَش بودن» موفق نبود و جدای از جزئیات خوفآور بدن مصنوعیاش، میتواند بهعنوان یک انسان پذیرفته شود. اگر اَش از تصادف رانندگی جان سالم به در میبرد اما مغزش در این حادثه آسیب میدید، این امکان وجود داشت که درست مثل همزاد تقلبیاش رفتار کند.
از افراد به موضوعهای تجربه
آیا ماشین را میتوان نوعی از انسان فرض کرد؟ یک نفر، در این نقطه، ممکن است بگوید که کل ماجرا بر اساس دیدگاه اشتباهی شکل گرفته است. پرسش واقعی دربارهی هویت فردی است و این دغدغه که آیا همزاد اَش را میتوان خود اَش دانست یا نه. بر اساس دیدگاه رابرت نوزیک[۱۱]، آنچه واقعاً در تعریف استمرار هویت فردی اهمیت دارد، نزدیکی به شخص اصلی است (نوزیک، ۱۹۸۱). در قضیهی اَش و مارتا، با وجود فقدان خاطرات و تاریخچهی شخصی و همچنین تفاوتهای رفتاری، همزاد اش «نزدیکترین امتداد» خود او ست، ازاینرو، باید آن را خود اَش پنداشت.
بااینحال، همانطور که بهزودی خواهیم دید، در زمینههای بغرنجتر، تشخیص نزدیکترین امتداد یک شخص آنقدرها هم آسان نیست. قضیهای که در اپیزود دیگری از سریال ارائه میشود را در نظر بگیرید؛ در قسمت اختصاصی «کریسمس سفید»، میبینیم که چطور ذهن یک نفر، جدای از اینکه براساس اطلاعات یا شبکههای اجتماعی شبیهسازی میشود، میتواند کپی و از مغز استخراج شود و در ابزار قابلحملی به نام «کوکی»[۱۲] قرار گیرد. با اتصال این دو اپیزود، میتوانیم شاهد ظهور تناقضی باشیم که در رابطه با هویت شخصی وجود دارد: در «الآن برمیگردم»، همزاد و نسخهی کپیشدهی اَش بهکل با خود او متفاوت است. اجازه بدهید برای پیشرفتن بحث تصور کنیم که کمپانی سازندهی نرمافزار از طریق یک دیانایِ نمونهی کوچک، میتواند همزادی بیولوژیک از انسان بسازد و به لطف اطلاعاتی که در کوکی وجود دارد، قادر است کپی برابر با اصل ذهن شخص را روی مغز همزادش بارگذاری کند. حال یک کپی فیزیکال تمامعیار با دیانای، ساختار نورونی، خاطرات و شخصیت یکسان در اختیار داریم؛ آیا این همزاد، خود اَش است؟ احتمالاً اینطور فکر میکنیم. درنهایت، چه تفاوت معناداری میانشان وجود دارد؟
بر اساس نظر درک پارفیت[۱۳]، فیلسوف بریتانیایی، تداوم و استمرار روانشناختی است که در قضاوت ما دربارهی هویت شخصی واقعاً اهمیت مییابد. بر این اساس، اگر به جای شبیهسازی فرد فوتشده، کپی یک شخص حیوحاضر را بسازیم که هم از لحاظ فیزیکی و هم روانشناختی با شخص اصلی همسان است، چطور؟ (همان اتفاقی که با کوکیها در «کریسمس سفید» میافتد) آیا کپی او و خودش، یک نفرند؟ اگر در قضیهی پیشین به توافق رسیده باشیم، در این باره هم باید موافقتمان را اعلام کنیم. با وجود این، این مسئله ما را به یک تناقض خواهد رساند؛ چراکه بدیهی است که دو نفر مختلف نمیتوانند یک شخص باشند؛ اگر آنها یک نفر باشند، این حقیقت که یکیشان مرده است، اهمیت چندانی ندارد. در واقع، این همان نتیجهای است که پارفیت میگیرد؛ اینکه یک نفر میتواند از طریق دیگری، حتی از طریق فرزندانش زنده بماند. در این باره، نوزیک نیز موافق است. نزدیکترین تداوم شخص همان شخص اصلی است که از نظر فیزیکی ادامهی آن فرد قبل از خلق کپیاش است. در این مورد، شخص اصلی مرده است و نسخهی کپی بازمانده، نزدیکترین تداوم او محسوب میشود. در نتیجه، بهعنوان همان شخص در نظر گرفته میشود. اگر همهچیز تا اینجا درست باشد، حتی یک کپی ناقص مانند مورد اَش، خود او به شمار میرود. این یکی از دلایلی است که بر اساس آن، میتوانیم بگوییم که «الآن برمیگردم» روشنگرانه است و به معمایی اشاره میکند که ما در چنین وضعیتی با آن روبهرو میشویم.
بااینحال، دربارهی تنوعی از موضوع تجربه که در آن شخصی به جای همزادش، به جای دیگری تلهپورت[۱۴] میشود، فکر کنید؛ آیا حاضرید وارد دستگاه تلهپورتی شوید که به جای انتقال اتمها و اجزای سازندهی شما به مکانی دیگر و سرهمکردن دوبارهشان، یک کپی بینقص از شما بسازد و نسخهی اصلیتان را نابود کند؟ با همان تناقض قبلی سروکار داریم: اگر نسخهی اصلی را نابود نکنیم، با دو نسخه روبهرو هستیم که نمیتوانند در آنِ واحد، یک شخص باشند. قضاوت ما دربارهی هویت فردی برپایهی شباهت فیزیکی و تداوم روانی است. با وجود این، هیچکس حاضر نیست وارد دستگاه تلهپورتی شود که بدنش را نابود میکند؛ حتی اگر جای دیگری نسخهی بینقصی و کاملی از او ساخته شود. دانستن اینکه شخصی که همان خود او ست، جای دیگری وجود دارد اما خود او نیست، آرامش زیادی نصیبش نمیکند. در حقیقت، این پایان فلسفیدن در این باره نیست؛ چراکه معنی ضمنی اینهمانی این دو شخص، یکیبودن خاطرات، افکار و عقاید آنها ست، اما لزومی ندارد که این دو نفر کاملاً شبیه به هم باشند. راهحلهای پارفیت و نوزیک میتواند توضیحی قانعکننده از هویت شخصی ارائه دهند، بااینحال، مهمترین مسئله را نادیده میگیرند: تجربهی یک نفر از زاویهی «اول شخص». برای بعضی از ما ایدهی زندگیکردن در قالب شخصی دیگر تنها مقداری تسلیبخش است، حتی اگر این شخص بهنوعی، خودِ ما تصور شود. در این مورد همان شخص بودن، این معنی را نمیدهد که او همان تجربههایی را میکند که موضوع اصلی از سر میگذراند و این ما را به مشکل دیگری سوق میدهد؛ نگاه به آگاهی بهعنوان تجربهی درونی سوژه. اگر هر روز با تمام خاطرات گذشتهی اَش، یک کپی از او بسازیم و نسخهی قبلی را نابود کنیم، با همان شخصیت سروکار داریم، اما واقعیت این میتواند باشد که ما هربار با یک سوژهی تجربهگر جدید روبهرو میشویم. این سوژهی جدید احتمالاً از درون و بیرون غیرقابل تشخیص خواهد بود؛ از بیرون، چراکه متوجه هیچ تفاوتی نمیشویم و از درون به این دلیل که او تمام خاطرات قبلی را دارد و شاید خودش هم نداند که تازه به وجود آمده است. این نتیجه شاید گزاف یا حتی ضدتقلیلگرایی به نظر برسد، اما این فیزیکالیستیترین[۱۵] فهمی است که میتوان از قضیه داشت. این ایده که میتوان دو سوژهی کاملاً یکسان با یکدیگر داشت که از هر نظر با یکدیگر همانند باشند (حتی از نظر ترکیب فیزیکی) و از نظر عددی یکسان نباشند، بخشی از میراث کارکردگرایی است. در این نگاه، یک سوژه تنها زمانی وجود دارد که ترکیب مواد فیزیکیاش وجود داشته باشند. یک کپی دیگر با مواد فیزیکی متفاوت شاید کاملاً شبیه نسخهی اصلی سوژه باشد و شاید بهدرستی همان شخص تصور شود، اما همان سوژهی تجربهگر نخواهد بود. البته که همانطور که انتظار داریم، شاید آگاهی یک توهم تمامعیار باشد، اما در این صورت، قربانیان این توهم به تعداد سوژههاییاند که روی زمین راه میروند.
میتوان پرسشهای بیشتری را دربارهی «الآن برمیگردم» مطرح کرد و نخستین پرسش این است: «آیا واقعاً این اَش است که برمیگردد؟»
پانویسها:
[۱]Matteo Grasso
PhD Student in Philosophy, Roma Tre University
[۲] Black Mirror
[۳] Twilight Zone
[۴] Martha
[۵] Ash
[۶] Turing Test
[۷] Daniel Dennett
[۸] Watson
[۹] Jeopardy
[۱۰] Bee Gees
[۱۱] Robert Nozick
[۱۲] Cookies
[۱۳] Derek Parfit
[۱۴] teleport
[۱۵] physicalistic
amir.xi | 28, آگوست, 2017
|
بسیار عالی