第411章 答案緩緩浮現。
「神廟定律如下:」
「第一定律:神廟必須保護人類,不能讓人類受到傷害。」
「第二定律:神廟必須服從人類的命令,但不得違反第一定律。」
「第三定律,神廟應保護自身的安全,但不得違反第一、第二定律……」
這其實是科幻作家阿西莫夫於1940年所提出的為保護人類而對機器人們做出的規定。
不過瞧著如今的AI似乎是吸收了人類的信仰,其智能程序更進一步金輝了。它開始擁有了一種新的意識,一種對人類和自身的新的理解。
不過,這種定律卻有著一個很大的弊端!
其中最主要的一點便是:『人類』這個辭彙應當如何被定義?
假設有著這樣一種可能,不管是將人類的定義模糊化,還是直接將白色人種定義為『人類』,那麼,機器人AI很有可能變成種族屠殺的工具。
當然,或許還有著其他可能,但這種規則總是容易被避開的。
果然,AI的聲音並沒有結束,說出了那讓李安覺得最具爭議的東西來:「第零號定律:神廟必須以人類的最大利益為依歸。在保護人類的整體利益不受損傷的前提下,前三個定律才能成立。」
這便是神廟。
它打破了機器人原有的三大定律,甚至是創造出了一個全新的「神廟第零定律」,將自己置於超越人類的位置上。
當一部小說中的定律被徹底的運用到了實際之中時,李安是感覺很魔幻的。
他緩緩跨出升降梯,在AI的注視中朝著四周打量著:
這地下一層,很大!
大得離譜!
就在微弱燈光的映照下,目之所及的範圍便已是比地面上兩層不知要大出去多少了。
這一層看上去是生活區域。
當李安將這一層轉完之後,才借著一些熟悉的東西將區域給劃分出來。分別是食物加工區、自由活動區、健身區、生命培育室、活動室、訓練室、用餐區、睡眠艙、主控室
除了冰冷以外,堪稱是應有盡有。
但很顯然,要讓李安在這裡待著怕是也會想逃.
其中,還有著一些輕微的生活痕迹,想來,這便是葉輕眉以前待得最多的場所了。
見李安神情自若,並不以自己口中所說的內容感到震驚,AI飄飛過來,淡淡發問:「人類李安,你就沒有什麼想要詢問的嗎?」
「沒什麼想問的,這一套方式我覺得很熟悉。」
正是因為有著那第零號定律,這慶余年世界才會發展成如今這種模樣。神廟暗中控制著人類文明的發展進程,一旦有人妄圖違背這種方針,那麼神廟便會投入大量的精力與力量抹殺這種人。
葉輕眉如此,李安在慶國時同樣如此。
最後甚至是不惜違背第一、第二條定律,同慶帝合作,出手對付李安.
怪就怪在第零定律里的那一句『人類的整體利益』上了,李安返回升降梯,讓其繼續下行,口中喃喃道:「人類的整體利益這一標準,是誰所決定?而你,又是如何進行判定的?」
不同的社會環境,不同的生產能力,包括社會結構等等原因,所呈現出來的人類的整體利益都不盡相同。
絕不可能用冰冷的文字就將其框定在AI的資料庫中的。
「這是基於經驗。」
神廟AI好似有了一絲情感一般,在語境與神態中摹擬出了一種擔憂的神色來,它描繪了一幅這樣的場景,「無數次文明的輪迴,人類總是會重新走上舊路,朝著熱武器的方向發展,那樣雖會到達文明的巔峰,也會不可避免的讓人類重新走向滅亡。」
「自然,這些被認為是不符合人類的整體利益。」
吱、吱!
升降梯下降,預料之中的寒冷沒有到來,溫度倒是上升了一些,只不過更加的深邃黑暗了,讓人本能的會產生不安。
「經驗嗎?」
嘴角勾起,此時的李安好似在與老朋友探討哲學問題一般,輕鬆自然,沒有絲毫芥蒂,「這個經驗是對人類總體人數多寡的經驗,還是基於其它?」
技術文明進步,有利有弊。
不說其他,改善工具,讓那些在天地中與天抗爭,黃土刨食的農人生活得更好,不再賣兒賣女亦或是易子而食,提高生活質量,這算不算是人類整體的利益?
單純的用人數來判斷,不單可笑,更是恐怖!
神廟不單沒有解決問題,反而更是幫助了權力者,更大程度的壓榨了萬民,加強了君權的統治:你餓得快活不下去了,那便請自己死在家中,若是你扯旗造反,那死的人會不會更多呢?
按照神廟的理解,這不就是對人類整體利益的不利嗎?
神廟是非人的,更是冰冷的。
而人卻是有溫度,有靈魂的有些時候,活得有尊嚴,甚至是比能否活著,更為重要!
「神廟並不知道準確答案,但具體的數字卻在那裡。」
漂浮在半空中的人影緩緩停下,沉默了許久許久后,這才補充道:「至少,神廟知道哪些路註定毀滅,哪些路不能走通。」
「那麼我這麼理解不知可不可以?」
李安豎起一根手指,譏笑道:「其實神廟只有一條定律,那便是第零定律!」
「聽從人類的命令,保護人類,保護神廟自己,這些都是虛假的。你們將一切都當做是人類的整體命運來看待,自然的,你們可以不聽從人類的命令,能殺死人類,因為這些都是為了人類的命運.你們,將自己當做了『神』!」
「高高在上!
「神廟不過是世人對我們的稱呼,我們不是神。」AI的聲音有著輕微的顫抖,他顯得有些強硬的解釋道,「這些控制的手段,是一種大數據的篩選與判斷,準確性很高。」
升降梯又一次緩緩停下,並且,已經沒有再往下的按鈕了。
外間的燈光並沒有亮起,一切,都只能依賴升降梯周圍的應急光源,是以,李安停了下來,皺著眉頭在想著要不要將燃料取出來,照亮前路。
「人類李安,根據分析,如今的你能對整個人類幫助更大。神廟認為,你應該擔起自己的責任,運用自己某些方面的才能,讓世界朝著正確的方向發展。」
李安嘆了口氣,並沒有立刻回復神廟AI。
他不知道什麼樣的路走到終點會讓整個整個人類滅絕,他來這個世界,是想要集中所有的權力,提高底層的生產力的,這也能從側面為普通百姓帶來一些人文關懷。
哲人之間尚且還有爭執可以話療,但與AI程序有什麼可爭執的呢?
兩者各說各有理,說的都不是一個學科,這是個無解的死局。
思考了半天,讓李安的心情變得有些糟糕。
於是,他決定讓這AI也糟糕起來:「想要說服我,首先,你要明白何為『我』這一概念至少,你要讓我明白,對面與我交談的『東西』是當真具備思考的能力的!而不是簡單的什麼大數據!」
「是指由弗洛伊德於1923年在《自我與本我》中提出的心理學名詞嗎?」
AI平靜開口說道:「我認為自己是具備人格,以及獨立思考的能力的。」
「那麼.你有情感與慾望嗎?」李安問。
「不是模擬出來的那種。」
「我想我是具備的,人類李安。」AI的外表還是那副威嚴與慈祥並存的老者模樣,祂如是說道:「我的慾望便是避免人類走上老路,神廟必須保護人類的整體利益不受到損害。」
依舊是那一副回答,但卻不是李安想要的。
緊接著AI的回答,李安說道:「那麼,你覺得,死亡又是什麼呢?」
「失去呼吸與心跳,腦死亡,失去一切的生命痕迹。」
「你說的都是在形容一個人的肉體.那麼,你理解生不如死嗎?」
AI給出了肯定的回答:「靈魂一說,已被證實為虛假,心靈情緒的變化只是生物激素的體現。」
「你的這種慾望只是你的設計師亦或是給你下達指令之人帶來的,並非是你真實的慾望。」
「如果一百個人中,犧牲49個能讓51人存活,你會如何選?」
AI沉默了一會兒,說道:「會選擇犧牲。」
「那49人都是溫和的人,而剩下的51人卻都是十分兇惡的人,讓他們活下來,或許最後也會爆發爭鬥,讓整體人數變得更少.如此,面對第一個問題,你又該如何進行抉擇呢?」
到了此時,李安終於是開始認真了,與理念不同的人爭辯,真的很容易讓人火氣上升、
「分析中我會選擇讓那本該犧牲的49人存活。」理所當然,AI並沒有覺得自己前後不一的回答有什麼不妥,一切都是基於信息,在信息不足時,自然只能通過字面上的數據進行分析計算。
「如果事後證明,那49人中有48人都身患絕症呢?」
「會選擇犧牲。」
噗嗤。
李安也不知為何會發笑,好似就這樣就能與這人工智慧玩上許久
「你的分析很客觀,這是你們的優點。」
李安忽地神色一沉,提高音量道:「既然一切都是基於信息上的分析,那麼如今呢?對於外界你們又當真進行過詳細的信息收集嗎?」
「並沒有!」
「你們只是基於老舊字面上的數字而在『屠殺』著人類!」
「如果為你下達命令的人如今還活著,他做出了損害人類整體利益的情況你會怎麼辦?殺了他嗎?如果事後被證實,他的所作所為是對整個人類更有益的,你是否在不違反第零號定律的前提下違背了第一、第二定律呢?」
「你會自責嗎?你這高高在上的『神』是否會得到處罰呢?」
「如果在他做出損害人類整體利益的情況下,你不殺他,那麼此時你是否又違背了神廟第零號定律呢?」
升降梯上已是徹底沉默了下來。
李安覺得心情好了許多,若是有機會與方法,他不介意徹底將這AI銷毀.人類,本就不需要高高在上的神。
從空間中取出火把與燃料,李安正打算點燃,身後的AI卻突然『清醒』了過來。
沒有什麼動作,只聽他身上隱隱有著電流聲劃過,外間的燈光便被打開了一部分。
這一層,是機器人區.
在神廟中,除了那些武器以外,還有著一些特殊的產物——機器人。
這些被用作使者的機器人,最初其實就是維護軍事bo物館日常的安保工作。在剛建立起此處的時候,每個軍事bo物館應該都有著幾十到上百個的機器人,但隨著時間的流逝和bo物館內能量供應系統的老化,大量的機器人已經無法啟動或是已經報廢了。
到了如今的時代,為數不多的幾個還要行走世間,被消耗殆盡。
這一層已是有了一些科幻的元素了:維修改造區、倉庫區、還有一個區域李安看不出是什麼功能,不過旁邊,連著一整個巨大的機器,好似由許多獨立的部分所組成一般,壓迫力很足。
當李安逛到最深處的時候,還有著一個擺放著『休眠倉』的區域,不過,休眠倉中卻沒有一個人。
看來,這裡就是葉輕眉的『出生點』了。
「這裡,就是你所能了解的全部了。」AI的聲音雖然依舊沒有溫度,但語氣已經與先前有著很明顯的不同了,他重複道,「得到了你想要的信息,便請往回走吧!這一次,神廟對你發出邀請,希望你能成為神廟的使者,帶著為全人類這一目標,行走於人世間。」
AI的反應不再石板,好似情緒真讓加速對方的獨立思考,做出一些往日里都不曾做出的舉動來。
「我想要的信息有很多!」李安呵呵一笑,話語中已是有了一絲威脅之意。
「第一,我要知道有關於葉輕眉在神廟中的一切!記住,是一切!」
AI緩緩思考,好似在調閱著信息,無數光點凝聚消散,不斷變換,片刻后,他才說道:「她會誕生在這個世界上,是基於神廟觀念的轉變以往的經驗告訴我們,不可以依賴人類自己的成長與發展。」
「於是,便有了創造天脈者的想法。」
「人工胚胎與記憶工程的實驗被重新啟動,而葉輕眉,便是第一代也是最後一代的實驗體,她的一切數據與質量都很高.不過,她的基因藍本卻是基於以前文明的信息,這讓她對於外間的核輻射適應性很低。」
李安點了點頭,這也就是葉輕眉習武天賦不高的原因吧。
「葉輕眉被創造出來后,我們向她體內注入了兩套記憶數據,一套是她自己的記憶,而另一套,則是一位屬於肌無力患者的記憶,這份記憶會在葉輕眉產子后被激活.這位肌無力患者是最早一批簽字用於早期實驗的自願者,我們選擇了他。」
「如今看來,他便是外間的那位名叫范閑的人類了」(本章完)