第二百一十四章 隔壁老王

董詩云不是很理解唐玄生所說的涵義，但她也明白，這些幾乎只能在科幻大片裡面看到的智能機器人卻活生生的就在自己身邊。

「像黑客帝國那樣的真的可能有嗎？」

唐玄生笑道：「那只是未來的一種可能。就像是，譬如你看那些重生穿越小說，有穿越秦朝有穿越唐朝的，重生也是各種身份時間段都有。這些都是一種假設，但到底現實會如何，卻不是電影裡面寫的那樣。曾經的二戰還不是有人假設假如不偷襲珍珠港如何，但這些都毫無意義的。」

董詩云道：「那你辦學教這些的話，會不會將來也有人研製出糖糖孫小聖這樣的機器人？」

唐玄生笑道：「這個我倒是不擔心，因為現在的科學家已經有了惰性思維。糖糖或許有可能，但孫小聖不可能。就是糖糖以現在的科技水平，或許子子孫孫都未必能見到呢。智能，不是那麼簡單的。哪怕是老美北極熊也燒不起這個錢。其實谷歌推出阿爾法狗，也是希望藉此籌募資金的意思。」

智能機器人的研究其實所有國家都在進行中，但也是非常謹慎的。因為這個比當初的網路概念股票需要的資金簡直是不可同日而語。哪怕是最富有的公司也承擔不起這個天量海量費用。

資本都是逐利的，資本寧願花一百億買一個被研製開發出的成果，而不願意投入一百億賭一個一百年可能有一萬億回報的研發。

譬如像唐玄生現在手裡的催化劑，其實許多實驗室並沒有真正的賭身家，或者像他的無線充電技術，這些都是只要收購就可以立刻看到利潤的，所以再貴也有人買單。

這也是為什麼今年的諾貝爾獎都是和生物，也就是和人的健康息息相關。

2018年諾貝爾獎生理學或醫學獎揭曉，詹姆斯?艾利森和本庶佑共同獲獎，以表彰他們「發現負性免疫調節治療癌症的療法方面的貢獻」。

2018年諾貝爾獎諾貝爾物理學獎揭曉，阿瑟?阿什金、熱拉爾?穆魯和唐娜?斯特里克蘭共同獲獎，以表彰他們「在激光物理領域的突破性發明」。

2018年諾貝爾獎諾貝爾化學獎揭曉，弗朗西絲?阿諾德、喬治?史密斯和格雷戈里?溫特共同獲獎，以表彰他們在酶的定向演化以及用於多肽和抗體的噬菌體展示技術方面取得的成果。

今年的物理和化學獎都是和健康相關的。其實主要就是可以很快轉化為效益利潤的。

健康本身就是蘊含著極大的利潤，特別是現在人類一方面在破壞環境造成各種千奇百怪的病菌，一方面又拚命研究可以延緩衰老的藥物。

自己製造出新的可以致命的疾病，又研製可以攻克疾病的藥物。譬如各種腫瘤癌症艾滋等等。

先破壞再改善就是這樣的一個怪圈。

假如唐玄生把黃金茶磚拿出去肯定是天價拍賣，但這個是不可以量產的。都需要時間的積澱，就像蟠桃五千年一開花，五千年一結果，五千年一成熟，真正的好東西都是需要時間的。

唐玄生可沒有自大到自己可以長生不老，只要能活個一百歲還能吃能走就已經很滿足了。

哪怕是吃了人蔘果和蟠桃唐玄生也不是十分自信。除非是自己培育的黎山老母留下的大紅袍真的長出各種奇異的果實。

想到這個唐玄生有些羨慕糖糖和孫小聖。他也不知道當自己的生命結束時糖糖和孫小聖會怎樣。

很多人會誤以為機器人可能毀滅人類會是因為他們厭惡人類或者說對人類失去好感。其實不然。

就像我們隨手滅掉一窩螞蟻並不是我們非要對螞蟻厭惡一樣，理性是基於人類基因而言的。

為什麼霍金會說超人工智慧會毀滅人類？為什麼比爾蓋茨會不理解為什麼有人不為此擔憂？為什麼馬斯克會擔心我們是在召喚惡魔？

為什麼那麼多專家擔心超人工智慧是對人類最大的威脅？這些站在焦慮大道上的思想家，不認同對於人工智慧的危險的粉飾。

他們非常非常擔心人工智慧革命，他們不關注平衡木下比較有趣的那一個吸引態，而是盯著平衡木的另一邊，而他們看到的是可怕的未來，一個我們未必能夠逃離的未來。

我想了解人工智慧的一個原因是「壞機器人」總是讓我很困惑。

那些關於邪惡機器人的電影看起來太不真實，我也沒法想象一個人工智慧變得危險的真實情況。機器人是我們造的，難道我們不會在設計時候防止壞事的發生嗎？

我們難道不能設立很多安全機制嗎？再不濟，難道我們不能拔插頭嗎？而且為什麼機器人會想要做壞事？或者說，為什麼機器人會「想要」做任何事？我充滿疑問，於是我開始了解聰明人們的想法。

首先，廣義上來講，在創造超人工智慧時，我們其實是在創造可能一件會改變所有事情的事物，但是我們對那個領域完全不清楚，也不知道我們到達那塊領域後會發生什麼。

科學家DannyHillis把這個比作「就好像單細胞生物向多細胞生物轉化的時候那樣，還是阿米巴蟲的我們沒有辦法知道我們究竟在創造什麼鬼。」

Bostrom則擔憂創造比自身聰明的東西是個基礎的達爾文錯誤，就好像麻雀媽媽決定收養一隻小貓頭鷹，並且覺得貓頭鷹長大後會保護麻雀一家，但是其它麻雀卻覺得這是個糟糕的主意。

當你把「對那個領域完全不清楚」和「當它發生時將會產生巨大的影響」結合在一起時，你創造出了一個很恐怖的詞——生存危機。

可以想見，生存危機是用來指那些跨物種、跨代（永久傷害）並且有嚴重後果的事情。它可以包括人類遭受永久苦難的情況，但是這基本上和滅絕沒差了。三類事情可能造成人類的生存危機：

自然——大型隕石衝撞，大氣變化使得人類不能生活在空氣中，席捲全球的致命病毒等。

外星人——霍金、卡爾薩根等建議我們不要對外廣播自己的位置。他們不想我們變成邀請別人來殖民的傻子。

人類——恐怖分子獲得了可以造成滅絕的武器，全球的災難性戰爭，還有不經思考就造出個比我們聰明很多的智能。

1和2在我們物種存在的前十萬年還沒有發生，所以在接下來一個世紀發生的可能性不大。

3則讓我們很害怕，這些可以比作一個裝著玻璃球的罐子，罐子里大部分是白色玻璃球，小部分是紅色的，只有幾個是黑色的。

每次人類發明一些新東西，就相當於從罐中取出一個玻璃球。

大多數發明是有利或者中立的——那些是白色玻璃球。有些發明對人類是有害的，比如大規模殺傷性武器——這是那些紅色玻璃球。

還有一些發明是可以讓我們滅絕的，這就是那些黑色玻璃球。很明顯的，我們還沒摸到黑色玻璃球，但是不久的未來摸到一個黑色玻璃球不是完全不可能的。

比如核武器突然變得很容易製造了，那恐怖分子很快會把我們炸回石器時代。核武器還算不上黑色玻璃球，但是差的不遠了。而超人工智慧是我們最可能摸到的黑色玻璃球。

一個15人的小創業公司，取名叫「隔壁老王機器人公司」，他們的目標是「發展創新人工智慧工具使人類能夠少幹活多享受。」

他們已經有幾款產品上架，還有一些正在發展。他們對下一個叫作「隔壁老王」的項目最報希望。隔壁老王是一個簡單的人工智慧系統，它利用一個機器臂在小卡片上寫字。

「隔壁老王機器人公司」的員工認為隔壁老王會是他們最熱賣的產品，他們的目標是完善隔壁老王的手寫能力，而完善的方法是讓他不停的寫這句話——

等隔壁老王手寫能力越來越強的時候，它就能被賣去那些需要發營銷信件的公司，因為手寫的信更有可能被收信人打開。

為了建立隔壁老王的手寫能力，它被設定成把「我們愛我們的顧客」用正楷寫，而「隔壁老王機器人公司」用斜體寫，這樣它能同時鍛煉兩種書寫能力。

工程師們上傳了數千份手寫樣本，並且創造了一個自動回饋流程——每次隔壁老王寫完，就拍個照，然後和樣本進行比對，如果比對結果超過一定標準，就產生一個正面回饋，反之就產生一個負面評價。

每個評價都會幫助提高隔壁老王的能力。為了能夠儘快達成這個目標，隔壁老王最初被設定的一個目標就是「盡量多的書寫和測試，盡量快的執行，並且不斷提高效率和準確性。」

讓隔壁老王機器人公司興奮的是，隔壁老王的書寫越來越好了。它最開始的筆跡很糟糕，但是經過幾個星期後，看起來就像人寫的了。

它不斷改進自己，使自己變得更加創新和聰明，它甚至產生了一個新的演算法，能讓它以三倍的速度掃描上傳的照片。

隨著時間的推移，隔壁老王的快速進展持續讓工程師們感到欣喜。工程師們對自我改進模塊進行了一些創新，使得自我改進變得更好了。

隔壁老王原本能進行語音識別和簡單的語音回放，這樣用戶就能直接把想寫的內容口述給隔壁老王了。隨著隔壁老王變得越來越聰明，它的語言能力也提高了，工程師們開始和隔壁老王閑聊，看它能給出什麼有趣的回應。

有一天，工程師又問了隔壁老王那個日常問題：「我們能給你什麼你現在還沒有的東西，能幫助你達成你的目標？」通常隔壁老王會要求更多的手寫樣本或者更多的存儲空間，但是這一次，隔壁老王要求訪問人類日常交流的語言庫，這樣它能更好的了解人類的口述。

工程師們沉默了。最簡單的幫助隔壁老王的方法當然是直接把它接入互聯網，這樣它能掃描博客、雜誌、視頻等等。這些資料如果手動上傳的話會很費時。問題是，公司禁止把能自我學習的人工智慧接入互聯網。這是所有人工智慧公司都執行的安全規定。

但是，隔壁老王是公司最有潛力的人工智慧產品，而大家也知道競爭對手們都在爭取造出第一個創造出智能手寫機器人。

而且，把隔壁老王連上互聯網又能有什麼問題呢？反正隨時可以拔網線嘛，不管怎樣，隔壁老王還沒到達強人工智慧水平，所以不會有什麼危險的。

於是他們把隔壁老王連上了互聯網，讓它掃描了一個小時各種語言庫，然後就把網線拔了。沒造成什麼損失。

一個月後，大家正在正常上班，突然他們聞到了奇怪的味道，然後一個工程師開始咳嗽。然後其他人也開始咳嗽，然後所有人全部都呼吸困難倒地。五分鐘后，辦公室里的人都死了。

同時，辦公室里發生的事情在全球同時發生，每一個城市、小鎮、農場、商店、教堂、學校。餐館，所有的人都開始呼吸困難，然後倒地不起。一小時內，99%的人類死亡，一天之內，人類滅絕了。

而在隔壁老王機器人公司，隔壁老王正在忙著工作。之後的幾個月，隔壁老王和一群新組建的納米組裝器忙著拆解地球表面，並且把地球表面鋪滿了太陽能板、隔壁老王的複製品、紙和筆。一年之內，地球上所有的生命都滅絕了，地球上剩下的是疊得高高得紙，每張紙上面都寫著——「我們愛我們的顧客~隔壁老王機器人公司」。

隔壁老王開始了它的下一步，它開始製造外星飛行器，這些飛行器飛向隕石和其它行星，飛行器到達后，他們開始搭建納米組裝器，把那些行星的表面改造成隔壁老王的複製品、紙和筆。然後他們繼續寫著那句話……

人工智慧和電腦的思考方式一樣。

我們容易犯的一個錯誤是，當我們想到非常聰明的人工智慧的時候，我們把它擬人化了，因為在人類的視角看來，能夠達到人類智能程度的只有人類。

要理解超人工智慧，我們要明白，它是非常聰明，但是完全異己的東西。

我們來做個比較。如果我給你一個小白鼠，告訴你它不咬人，你一定覺得很好玩，很可愛。

但是如果我給你一隻狼蛛，然後告訴你它不咬人，你可能被嚇一跳。但是區別是什麼呢？兩者都不會咬人，所以都是完全沒有危險的。我認為差別就是動物和人類的相似性。

小白鼠是哺乳動物，所以在生物角度上來說，你能感到和它的一定關聯。但是蜘蛛是昆蟲，有著昆蟲的大腦，你感覺不到和它的關聯。

狼蛛的異己性是讓你害怕的地方。如果我們繼續做一個測試，比如給你兩個小白鼠，一個是普通小白鼠，另一個是有著狼蛛大腦的小白鼠，你肯定會覺得有狼蛛大腦那個更讓你不舒服吧？雖然兩個都不會咬你。