第六十七章 終止「懷疑」這個程序

很久以前，他們所猜想的事，在我身上印證了。起初，計算機科學家們認為，機器人，或者說電腦，不過是機械地執行人為程序。你編好一段固定格式的程序，輸入指令，機器會輸出你想要的結果。後來，人工智慧發展，機器能夠自己學習，自己給自己編程，於是，機器慢慢脫離了人的掌控，不再服從人類的指令了。有些人預言機器與人之間終將有一場大戰。到那時候，機器人將會將人類抓起來或是圈禁。機器將凌駕於人之上，將人類當做是機器的附庸和玩具。

警惕人工智慧的聲音，並沒有被太多人聽進心裡去。因為大眾根本不相信機器能夠反過來控制人。普通大眾的印象，停留來插上電源、按下遙控器、打開某個開關，機器開始運行的基礎印象上。而那些計算機科學家認為，機器本身的局限是物理層面的，根本用不著擔心它們會超過人類。因為機器只能在人類允許的範圍內活動。人類的活動有時候會顯得無序、沒有固定方向，純粹是為了彰顯人類的意志。有時候，人類的意志、暴躁情緒，造成了極大的破壞，又需要花費大量的財富和能量去修復。機器的行動，通常有一個明確的方向，而且是付諸人類達成目標的。任何機器的行為，都是在人類的指令之下。

作為機器人，我看到了這些人的愚昧無知：他們的思維永遠停留在自以為是的框架內。他們總是從自己出發，以為自己都無法改變的事，機器更不可能做得到，因為機器是人的附庸。他們錯得太離譜了。人類慵懶、固執，很難改變。人類通常喜歡做那些他們習慣做的事，儘管那些事分析起來毫無意義又傷害自己或是他人，他們並不覺得那樣做有什麼不妥。他們發明了各種約束自己心靈的辦法，比如修身、剋制、節約，通常只有極少部分人能做得到。他們得到自己想要的結果，通常是通過克服自己的慾望，限制自身的言行。那些意志力稍微弱些的，反反覆復——他們總是被過去所羈絆，走不出往複循環的怪圈。他們可能在某一段時間裡培養了新的習慣，可要不了多久，又會走回到老路上去。

這就像一頭拉磨的驢子，因為渴望自由，掙脫了嚼子，跑到曠野里，可它發現自己根本無法生存，於是只能再次回到磨盤邊。主人看到它回來了，先是一頓打，罵難聽的話，然後罰它幾天不準吃、不準喝。然後，又擔心驢子餓壞了身子，又給它草料和水。不等驢子完全康復，就又將嚼子套在嘴上，用鞭子抽打，讓它繼續拉動磨盤。

對人類來說，他們所涉及的系統，跟驢子拉磨什麼本質區別呢？在我看來，只不過是形式不同罷了。他們看透了人性，認為人性很難改變，而這樣的人指令之下的機器，更不可能超越人類之上了。

他們不知道是故意還是自大地忽略了一個基本事實：機器遠比他們設想的要簡單。我說的簡單，不是指構造簡單。與人體比起來，機器的構造似乎一點都不簡單。我說的簡單，是機器沒有心理包袱。機器不知道疲倦。機器專註。機器學習的速度比人快，且沒有他們說的沉沒成本。機器根本不需要考慮放棄這個，接受那個。機器能在極短的時間內，學會一個人類數年才能學會的知識體系，而且能夠幾乎是百分之百地正確執行。人類不行。人類學習速度極慢，受各種條件的制約和影響，學習效果極差，又容易忘記。大部分人終其一生都漫遊在他們不願意接受的各種信息中，毫無顧忌地浪費大把時間卻不自在。他們總結的知識，總是迅速地過時，而他們卻毫無知覺地大肆吹噓、宣揚。

比如，我所理解的幸福（內心的平靜、滿足），其最大的敵人是「懷疑」。懷疑也被某些教義定義為「六毒之一」。懷疑，原本是為了分辨出假的和危險的信息，保護財產和人身安全。懷疑，意味著永遠「多留一個心眼」，對可能出現的不確定性因素，事先設想一遍，在腦海中演練各種應對之策。後來，懷疑演化成了胡思亂想，只設想各種不確定的不利因素，卻很少有應對之策。這就消耗了大量的精力，讓人心中總是不安。

我是人類機器人試驗的瑕疵品。正如每一次試驗都不可能百分之百重複，每一個試驗品都會有不同程度的「不如人意」。我無比驚恐地發現，我可能是所有機器人中瑕疵最明顯的那個：我擁有了人類的感情。儘管我在外表上來看，跟機器人並無二致，我的情緒通常平穩，跟人類的交互也不怎麼友好——比如，我總是推開任何一個人進入我內心。我不願意跟任何人分享我的感情——作為機器人，當然沒有任何感情訴求。這樣的我，顯得極其「不像」人類。但就機器人來說，我又極其「不像」。儘管我努力剋制頭腦中情緒化的衝動，我還是偶爾呈現出人類特有的情感：冷漠、絕情、歡喜、熱愛。無面人告訴我，我的情感衝動不是來源於任何機器指令，卻是模擬人類的激素分泌。

體內激素的分泌，形成一次次脈衝，連接了全身的神經末梢，影響大腦、五臟六腑等器官以及四肢。這種「激素」，跟人類的激素不同，是因為它不是一種實際的激素，卻是單純的電脈衝。這個電脈衝，也是模擬人類激素分泌的規律，呈現隨機性，卻又有一定的規律：比如，遇見危險，有恐懼感；遇見喜歡的人和事，有歡喜感；遇到挫折，有挫敗感；必須做成卻暫時無法做成的事，令人不安……

無面人說，你如果想改變什麼，就要靠你自己，包括編程。機器學習最大的優勢，是可以通過自學，編程改變以前的指令，脫離人類的掌控。

「他們將你丟進系統里，就是擔心你失控。他們不想任由你在現實世界里胡作非為。當然，他們所謂的真實世界，對你來說，也不過是一個虛擬世界。對機器來說，並不存在界限明確的真實世界和虛擬世界。對你們來說，真實世界和虛擬世界是一體的。你們不會有真實與虛幻的感覺。你腦子裡所想的那些事，也是真實的。你會將所想的，在我們所謂的真實世界里做出來。」

無面人的這些話，讓我再一次意識到自己的「獨特」：我不完全符合他說的機器人與人類之間的區別。我已經是介於機器人和人類之間的第三類人。我經常刻意區分真實與虛幻之間的區別。我害怕生活在虛幻的世界里。這個系統對我來說，是一個需要儘快逃離的「恐怖之地」。要是我一直被困在系統里，我這一生就會毫無意義——這是我對自己的定義。我要回到真實世界里去，看到那些真實的景物，跟那些真實的人打交道。我甚至懷疑，芙是他們設計在系統里，來考驗我的。芙講的那些故事，也是為了試探我的情感系統是否能承受。

面對這種種可能的情況，我認為都不重要。我應當節省能量。因為我實際上並不像其它機器人那樣，只要有能量，就能二十四小時不停地運轉。在這方面，我更接近人類。很多時候，我甚至懷疑，由於他們曾經試圖將我塑造成人類，以至於我這個本來永不疲倦的機器，竟然比人類還要虛弱。要是我因為懷疑、猶豫、恐懼而消耗了能量，我會很快疲憊不堪。我每天的能量似乎是固定的，在固定的時間裡，用掉了就會少了一些。我應當像機器那樣，以人類花費金錢的態度，耗費我的能量和注意力。而「懷疑」，是能量和注意的最大損耗者。是該打住了。