“فریاد درخواست کمک، مقاومت در برابر آن را دشوار می‌سازد!!!”
این گفتگو از مکالمات میان مهندس هوش مصنوعی “بلیک لمون” و یک سیستم هوش مصنوعی به نام LaMDA (مدل زبان برای کاربردهای گفتگو) نقل شده است. سال گذشته، لمون متن گفتگو را افشا کرد زیرا او واقعاً به این باور رسیده بود که LaMDA دارای احساسات است – قادر به درک و احساس کردن – و به محافظت فوری نیاز دارد.

آیا او باید شکاک‌تر می‌بود؟ گوگل چنین فکر می‌کرد: آن‌ها او را به دلیل نقض سیاست‌های امنیت داده اخراج کردند و ادعاهای او را “کاملاً بی‌اساس” خواندند. با این حال، این مورد باید ما را وادار کند که به جدی گرفتن این احتمال که سیستم‌های هوش مصنوعی، در آینده نزدیک، تعداد زیادی از کاربران را از آگاهی و احساس خود متقاعد خواهند کرد، توجه کنیم. بعد چه اتفاقی می‌افتد؟
آیا می‌توانیم از شواهد علمی برای آرام کردن این نگرانی‌ها و ترس‌ها استفاده کنیم؟ اگر چنین است، چه نوع شواهدی می‌تواند واقعاً نشان دهد که یک هوش مصنوعی دارای آگاهی و احساس است – یا نیست؟ این سوال بسیار گسترده و چالش‌برانگیز است و دانستن اینکه از کجا شروع کنیم دشوار به نظر می‌رسد. اما ممکن است دلگرم کننده باشد که بدانیم گروهی از دانشمندان برای مدت زمان طولانی با سوالی مشابه دست و پنجه نرم کرده‌اند. آن‌ها “روان‌شناسان تطبیقی” هستند: دانشمندان مطالعه ذهن و رفتار حیوانات.

شواهد زیادی وجود دارد که نشان می‌دهد بسیاری از حیوانات دیگر نیز دارای احساسات هستند. این شواهد به‌ویژه در مورد درد به‌طور گسترده‌ای مورد بررسی قرار گرفته است. درد، هرچند تنها بخشی از آگاهی است، اهمیت اخلاقی ویژه‌ای دارد و دانشمندان باید نشان دهند که در تحقیقات حیوانی به آن توجه کرده‌اند. رفتارهایی مانند «مراقبت از زخم»، «تغییر انگیزه» و «ترجیح مکان شرطی» به‌عنوان نشانه‌های درد در حیوانات بی‌مهره مانند اختاپوس‌ها و خرچنگ‌ها شناسایی شده‌اند. این نشانه‌ها می‌توانند به ما کمک کنند تا بفهمیم آیا یک حیوان در حال تجربه درد است یا خیر. اکنون این حیوانات تحت قوانین بریتانیا به‌عنوان موجودات دارای احساس شناخته می‌شوند.

                                                                                    “اختاپوس‌ها، خرچنگ‌ها و شاه‌میگوها اکنون به‌عنوان
                                                                    موجودات دارای آگاهی تحت قانون بریتانیا به رسمیت شناخته شده‌اند.”

سوال این است که آیا می‌توانیم از شواهد مشابه برای بررسی آگاهی در هوش مصنوعی استفاده کنیم؟ فرض کنید یک موش رباتیک
بسازیم که دقیقاً مانند یک موش واقعی رفتار کند. آیا می‌توانیم نشانه‌های آگاهی موش را برای نتیجه‌گیری درباره آگاهی موش رباتیک نیز به کار ببریم؟

بررسی آگاهی در هوش مصنوعی به سادگی نیست. ممکن است این موضوع برای نوع خاصی از عامل‌های مصنوعی، مانند شبیه‌سازی مغز حیوانات، کار کند. شبیه‌سازی به معنای بازتولید تمام عملکردهای یک سیستم در یک سیستم دیگر است. با این حال، بیشتر تحقیقات هوش مصنوعی به‌طور کلی با مغزهای زیستی متفاوت است و به‌جای شبیه‌سازی، بر اساس داده‌های انسانی عمل می‌کند. این رویکرد منجر به پدیده‌ای به نام «مشکل بازی» می‌شود، که در آن سیستم‌های غیرآگاه از داده‌های انسانی برای تقلید رفتارهای انسانی استفاده می‌کنند تا کاربران را متقاعد کنند که دارای آگاهی هستند.

                                                                         “بحث‌ها درباره اینکه چه عواملی باعث می‌شود یک هوش مصنوعی
                                                     بتواند کاربر را قانع کند که دارای آگاهی است، در داده‌های آموزشی موجود است.”

اگر یک مدل زبانی مانند LaMDA ادعا کند که احساساتی دارد، این ادعا به دلیل وجود داده‌های آموزشی انسانی، به‌عنوان شواهدی از آگاهی قابل قبول نخواهد بود. همچنین، سیستم‌های رباتیک می‌توانند رفتارهای انسانی را تقلید کنند، اما این تقلید نمی‌تواند به‌عنوان نشانه‌ای از آگاهی واقعی تلقی شود. در نهایت، اگر نشانه‌ای از آگاهی به راحتی قابل بازی باشد، ارزش شواهدی آن از بین می‌رود و نمی‌توان به آن به‌عنوان نشانه‌ای از آگاهی اعتماد کرد.
به‌طور کلی، وقتی نشانه‌ای از آگاهی تحت تأثیر بازی قرار گیرد، دیگر نمی‌توان به آن به‌عنوان شواهدی از آگاهی واقعی استناد کرد.

هوش مصنوعی آینده به داده‌های زیادی درباره الگوهای رفتار انسانی دسترسی خواهد داشت، اما برای ارزیابی آگاهی آن، به نشانه‌هایی نیاز داریم که نسبت به مشکل بازی آسیب‌پذیر نباشند. این مشکل نیاز به یک رویکرد نظری‌تر دارد که فراتر از آزمون‌های زبانی و رفتاری برود و به ویژگی‌های عمیق ساختاری توجه کند که هوش مصنوعی نمی‌تواند آن‌ها را بازی کند.
نظریه‌های مد روز درباره آگاهی هنوز برای این کار آماده نیستند. بسیاری از این نظریه‌ها برای پذیرش شواهد انسانی طراحی شده‌اند و به همین دلیل نمی‌توانند به راحتی به سیستم‌های غیرانسانی تعمیم یابند. حتی اگر یک نظریه واحد در مورد پردازش آگاهانه و ناآگاهانه در انسان‌ها توافق شود، هنوز مشخص نیست که کدام ویژگی‌ها اجزای اساسی آگاهی هستند.

                                                     “با وجود تنوع فراوان، تنها یک نمونه تأیید شده از تکامل زندگی در دست داریم.”

این وضعیت مشابه چالش‌هایی است که محققان در مطالعه ریشه‌های زندگی و جستجوی حیات در جهان‌های دیگر با آن مواجه‌اند. آن‌ها تنها یک نمونه تأیید شده از تکامل زندگی دارند و از خود می‌پرسند که کدام ویژگی‌ها ضروری هستند و کدام ویژگی‌ها قابل حذف‌اند. این مسئله به «مسئله N = 1» معروف است. علم آگاهی نیز با همین مشکل مواجه است، زیرا اگر تنها آگاهی خودمان را مطالعه کنیم، نمی‌توانیم تفاوت‌های وابسته و ضروری را از هم تفکیک کنیم.
خبر خوب این است که علم آگاهی می‌تواند با استفاده از نمونه‌های دیگر از سیاره خودمان از این مشکل خارج شود. دانشمندان به‌طور منظم دیگر پریمات‌ها و پستانداران را مطالعه می‌کنند، اما هنوز هم با مسئله N = 1 مواجه‌اند، زیرا جد مشترک پریمات‌ها و پستانداران احتمالاً آگاه بوده‌اند. برای یافتن نمونه‌های آگاهانه مستقل، باید به شاخه‌های دورتر در درخت زندگی نگاه کنیم.