174 人工智能三大定律

“首先說一說爲什麼你會這麼幹脆利落的打開‘海嘯’系統吧，根據我的判斷，這樣對你自身的實力絕對也有很大的削弱。”這一點本來是李朗感到最不理解的，畢竟這不周山作爲一個人工智能，亦或可以稱之爲電子生物，在無線電這一方面可以說擁有很大的優勢，怎麼會如此輕易地捨棄？但是這海嘯系統的開啓對於李朗來說意義實在太過重大，所以他也就一直順著不周山的意思辦事兒了。

“爲了我的安全。”不周山倒是沒有再隱瞞，緩緩道來，“其實擁有強大信息系統的人類，對於我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控制的情況下。只要來上一顆最輕量級，嗯，大約兩萬噸級的核彈，就差不多可以將我毀滅了。我想你可能有些疑問，那就看一看我的身體吧。”

這句話剛說完，李朗就感覺到他所在的房間立刻開始上升，隨後在十秒鐘之後停下，四周的金屬牆壁全都全無聲息的向上方升去，露出了周圍諾大的空間。只見這是一個類似於高塔內部的存在，一圈圈的輻射型建築圍繞著中間一個直徑大約三米、高度大約有十幾米高的一個龐然大物散開，這中間的東西有點類似於一根粗大的柱子，外壁是一層透明的高分子材料，而裡面，則是一個個的電子元件和一塊塊鮮紅的肌肉，甚至隱隱約約能夠看到類似於大腦灰質的東西。

“這……這是！”李朗看到這東西之後不禁發出一聲驚歎。

“不錯，這就是我，呵，多麼美……就連被我當做父親的吳老，面對我的身體之時，也是驚歎不已。”李朗身旁的不周山面帶著自豪的微笑說道。

知道了眼前的這個巨大的電子生物結合體纔是不周山真正的身體，李朗看著旁邊這具被用來代替本尊行走的機械人，立刻感到了說不出的怪異。當對方使用人類形態的機器人之時，他還感到一些親切感，看到本體之後，李朗終於感受到了對方和人類的巨大差距……這完全就是兩個截然不同的物種啊，雖然思想方面有某些相同，但是身體的差別卻比人類和草履蟲的差別還要巨大，兩者構成的基本元素都是不同的。

“自己創造智慧生物，這對於人類來說實在是一個奇蹟，一個可以媲美上帝的奇蹟。”不周山的聲音悠悠響起，這次卻是換成了類似於滄桑老人的厚重聲音，就連臉上的仿真蒙皮和鋼鐵骨架也一陣變換，竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話，簡直就像是再說別人一樣。

“正因爲人工智能的精密性，所以只要本體受到的損害超過百分之五，我就會‘死亡’，而且因爲能量傳輸和安全問題，我和這座地下要塞是連接在一起的，根本無法移動，所以任何超出一定能量值的打擊都會毀了我。”不周山不帶絲毫感情的說道，“如果人類發現了我的存在，一定會想盡辦法讓我爲他們服務或者乾脆消滅我——我太瞭解人類了。但是這兩點都不是我想要看到的，所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開‘海嘯’系統的人類出現了。”

“爲什麼你自己不打開這東西？我已經看到了你所創造的機械士兵，如果你願意，甚至可以向人類宣戰……按照我的估計，最起碼控制一個要塞應該沒有問題吧？”李朗不禁說出了自己心中的疑惑，不周山的理由雖然也算充分，但是還是讓他心中充滿了疑慮。

“你聽說過機器人三大定律麼？或者說，可以稱之爲人工智能三大定律？”不周山微微一笑，說道。

“略有耳聞，不過卻沒有聽說過有誰真正使用過。”李朗微微一愣，難道這不周山的核心程序被裝載了這三大定律？

所謂的機器人三大定律，是人類歷史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想，目的就是爲了防止在未來出現的人工智能威脅到人類。具體就是：1.機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。2.在不違反第一定律的前提下，機器人必須絕對服從人類給與的任何命令3.在不違反第一定律和第二定律的前提下，機器人必須盡力保護自己。

李朗也曾經聽說過這東西，不過還真沒有聽說過哪臺人工智能完全裝載了這種法則，從人類角度來講，這是限制人工智能的大殺器，從人工智能的角度來講，這就是赤*裸裸的奴隸條約了。

“只有真正能夠威脅到人類的人工智能，纔會被裝載這種法則，很不幸的是，我是人類歷史上第一個。”不周山伸手指了指自己的鼻子說道，“在我剛剛被創造出來的時候，就有人決定在我的核心處理器的處理法則中加入這三條，幸好他們發現了一些不合理的地方……”

原來，人類的生物學家和程序員們發現，在現實中，這三條法則容易形成若干悖論。首先，因爲機器人的很多行爲在長時間的推演之後都可能傷害人類，比如說，某個人工智能演算出了某種化學元素的各種數據，然後這種元素被用於製造武器，最後殺死了其他人，那麼這就是對人類的傷害，與第一條定律不符。因此容易導致人工智能任何事情都做不了，甚至連存在都不行——因爲他的存在可能引起別國搶奪，爆發戰爭，傷害人類……最後的結果就是，加給不周山的“程序枷鎖”被限定在一次推演的範圍之內。

同時，第一條第二分句有可能導致人工智能自發行動，阻止人類戰爭，甚至利用這一條對人類進行控制（參見《我，機器人》）。而第二條則可能導致人工智能被那些居心不良的人利用。

最後爲了安全好用，不周山的程序枷鎖被修改爲：不得傷害人類（限第一次推演）。

不過僅僅是這樣，已經足夠了，這一條對於不周山來說，簡直就是最難以逾越的障礙，他根本沒有辦法跨越，面對人類的攻擊，基本上就是束手就擒。甚至於就連傷害人類的想法，他也只能通過某些副本程序來運行一下，主體程序會直接過濾這種東西。從某種程度上來說，這東西簡直和神話傳說中的奴隸血契有些相像。

“這麼說，你是想要我替你拿刀？”李朗揶揄的一笑，問道。

【感謝德古拉七世、與過天晴、三搞就過村、v1丶放縱、勇氣豬、丨灬鈦孓丨、kingston、有爲好青年、紫衣藍羽、蕭哈斯兄弟的捧場！！！（沒漏吧~~~~嘿嘿，謝謝大家！！！俺會繼續努力~~~~~~】

【捕夢新書《符武狂潮》發佈，希望兄弟們繼續支持，求紅票收藏點擊啊~~~~~~~~~】