174 人工智能三大定律
更新時間:2014-04-04 作者:捕夢者
生化王朝 174 人工智能三大定律
“首先說一說為什么你會這么干脆利落的打開‘海嘯’系統吧，根據我的判斷，這樣對你自身的實力絕對也有很大的削弱。”這一點本來是李朗感到最不理解的，畢竟這不周山作為一個人工智能，亦或可以稱之為電子生物，在無線電這一方面可以說擁有很大的優勢，怎么會如此輕易地舍棄？但是這海嘯系統的開啟對于李朗來說意義實在太過重大，所以他也就一直順著不周山的意思辦事兒了。 “為了我的安全。”不周山倒是沒有再隱瞞，緩緩道來，“其實擁有強大信息系統的人類，對于我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控制的情況下。只要來上一顆最輕量級，嗯，大約兩萬噸級的核彈，就差不多可以將我毀滅了。我想你可能有些疑問，那就看一看我的身體吧。” 這句話剛說完，李朗就感覺到他所在的房間立刻開始上升，隨后在十秒鐘之后停下，四周的金屬墻壁全都全無聲息的向上方升去，露出了周圍諾大的空間。只見這是一個類似于高塔內部的存在，一圈圈的輻射型建筑圍繞著中間一個直徑大約三米、高度大約有十幾米高的一個龐然大物散開，這中間的東西有點類似于一根粗大的柱子，外壁是一層透明的高分子材料，而里面，則是一個個的電子元件和一塊塊鮮紅的肌肉，甚至隱隱約約能夠看到類似于大腦灰質的東西。 “這……這是！”李朗看到這東西之后不禁發出一聲驚嘆。 “不錯，這就是我，呵，多么美……就連被我當做父親的吳老，面對我的身體之時，也是驚嘆不已。”李朗身旁的不周山面帶著自豪的微笑說道。 知道了眼前的這個巨大的電子生物結合體才是不周山真正的身體，李朗看著旁邊這具被用來代替本尊行走的機械人，立刻感到了說不出的怪異。當對方使用人類形態的機器人之時，他還感到一些親切感，看到本體之后，李朗終于感受到了對方和人類的巨大差距……這完全就是兩個截然不同的物種啊，雖然思想方面有某些相同，但是身體的差別卻比人類和草履蟲的差別還要巨大，兩者構成的基本元素都是不同的。 “自己創造智慧生物，這對于人類來說實在是一個奇跡，一個可以媲美上帝的奇跡。”不周山的聲音悠悠響起，這次卻是換成了類似于滄桑老人的厚重聲音，就連臉上的仿真蒙皮和鋼鐵骨架也一陣變換，竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話，簡直就像是再說別人一樣。 “正因為人工智能的精密性，所以只要本體受到的損害超過百分之五，我就會‘死亡’，而且因為能量傳輸和安全問題，我和這座地下要塞是連接在一起的，根本無法移動，所以任何超出一定能量值的打擊都會毀了我。”不周山不帶絲毫感情的說道，“如果人類發現了我的存在，一定會想盡辦法讓我為他們服務或者干脆消滅我——我太了解人類了。但是這兩點都不是我想要看到的，所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開‘海嘯’系統的人類出現了。” “為什么你自己不打開這東西？我已經看到了你所創造的機械士兵，如果你愿意，甚至可以向人類宣戰……按照我的估計，最起碼控制一個要塞應該沒有問題吧？”李朗不禁說出了自己心中的疑惑，不周山的理由雖然也算充分，但是還是讓他心中充滿了疑慮。 “你聽說過機器人三大定律么？或者說，可以稱之為人工智能三大定律？”不周山微微一笑，說道。 “略有耳聞，不過卻沒有聽說過有誰真正使用過。”李朗微微一愣，難道這不周山的核心程序被裝載了這三大定律？ 所謂的機器人三大定律，是人類歷史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想，目的就是為了防止在未來出現的人工智能威脅到人類。具體就是：1.機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。2.在不違反第一定律的前提下，機器人必須絕對服從人類給與的任何命令3.在不違反第一定律和第二定律的前提下，機器人必須盡力保護自己。 李朗也曾經聽說過這東西，不過還真沒有聽說過哪臺人工智能完全裝載了這種法則，從人類角度來講，這是限制人工智能的大殺器，從人工智能的角度來講，這就是赤裸裸的奴隸條約了。 “只有真正能夠威脅到人類的人工智能，才會被裝載這種法則，很不幸的是，我是人類歷史上第一個。”不周山伸手指了指自己的鼻子說道，“在我剛剛被創造出來的時候，就有人決定在我的核心處理器的處理法則中加入這三條，幸好他們發現了一些不合理的地方……” 原來，人類的生物學家和程序員們發現，在現實中，這三條法則容易形成若干悖論。首先，因為機器人的很多行為在長時間的推演之后都可能傷害人類，比如說，某個人工智能演算出了某種化學元素的各種數據，然后這種元素被用于制造武器，最后殺死了其他人，那么這就是對人類的傷害，與第一條定律不符。因此容易導致人工智能任何事情都做不了，甚至連存在都不行——因為他的存在可能引起別國搶奪，爆發戰爭，傷害人類……最后的結果就是，加給不周山的“程序枷鎖”被限定在一次推演的范圍之內。 同時，第一條第二分句有可能導致人工智能自發行動，阻止人類戰爭，甚至利用這一條對人類進行控制（參見《我，機器人》）。而第二條則可能導致人工智能被那些居心不良的人利用。 最后為了安全好用，不周山的程序枷鎖被修改為：不得傷害人類（限第一次推演）。 不過僅僅是這樣，已經足夠了，這一條對于不周山來說，簡直就是最難以逾越的障礙，他根本沒有辦法跨越，面對人類的攻擊，基本上就是束手就擒。甚至于就連傷害人類的想法，他也只能通過某些副本程序來運行一下，主體程序會直接過濾這種東西。從某種程度上來說，這東西簡直和神話傳說中的奴隸血契有些相像。 “這么說，你是想要我替你拿刀？”李朗揶揄的一笑，問道。 感謝德古拉七世、與過天晴、三搞就過村、v1丶放縱、勇氣豬、丨灬鈦孓丨、kingston、有為好青年、紫衣藍羽、蕭哈斯兄弟的捧場！！！（沒漏吧嘿嘿，謝謝大家！！！俺會繼續努力生化王朝 174 人工智能三大定律
“首先說一說為什么你會這么干脆利落的打開‘海嘯’系統吧，根據我的判斷，這樣對你自身的實力絕對也有很大的削弱。”這一點本來是李朗感到最不理解的，畢竟這不周山作為一個人工智能，亦或可以稱之為電子生物，在無線電這一方面可以說擁有很大的優勢，怎么會如此輕易地舍棄？但是這海嘯系統的開啟對于李朗來說意義實在太過重大，所以他也就一直順著不周山的意思辦事兒了。 “為了我的安全。”不周山倒是沒有再隱瞞，緩緩道來，“其實擁有強大信息系統的人類，對于我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控制的情況下。只要來上一顆最輕量級，嗯，大約兩萬噸級的核彈，就差不多可以將我毀滅了。我想你可能有些疑問，那就看一看我的身體吧。” 這句話剛說完，李朗就感覺到他所在的房間立刻開始上升，隨后在十秒鐘之后停下，四周的金屬墻壁全都全無聲息的向上方升去，露出了周圍諾大的空間。只見這是一個類似于高塔內部的存在，一圈圈的輻射型建筑圍繞著中間一個直徑大約三米、高度大約有十幾米高的一個龐然大物散開，這中間的東西有點類似于一根粗大的柱子，外壁是一層透明的高分子材料，而里面，則是一個個的電子元件和一塊塊鮮紅的肌肉，甚至隱隱約約能夠看到類似于大腦灰質的東西。 “這……這是！”李朗看到這東西之后不禁發出一聲驚嘆。 “不錯，這就是我，呵，多么美……就連被我當做父親的吳老，面對我的身體之時，也是驚嘆不已。”李朗身旁的不周山面帶著自豪的微笑說道。 知道了眼前的這個巨大的電子生物結合體才是不周山真正的身體，李朗看著旁邊這具被用來代替本尊行走的機械人，立刻感到了說不出的怪異。當對方使用人類形態的機器人之時，他還感到一些親切感，看到本體之后，李朗終于感受到了對方和人類的巨大差距……這完全就是兩個截然不同的物種啊，雖然思想方面有某些相同，但是身體的差別卻比人類和草履蟲的差別還要巨大，兩者構成的基本元素都是不同的。 “自己創造智慧生物，這對于人類來說實在是一個奇跡，一個可以媲美上帝的奇跡。”不周山的聲音悠悠響起，這次卻是換成了類似于滄桑老人的厚重聲音，就連臉上的仿真蒙皮和鋼鐵骨架也一陣變換，竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話，簡直就像是再說別人一樣。 “正因為人工智能的精密性，所以只要本體受到的損害超過百分之五，我就會‘死亡’，而且因為能量傳輸和安全問題，我和這座地下要塞是連接在一起的，根本無法移動，所以任何超出一定能量值的打擊都會毀了我。”不周山不帶絲毫感情的說道，“如果人類發現了我的存在，一定會想盡辦法讓我為他們服務或者干脆消滅我——我太了解人類了。但是這兩點都不是我想要看到的，所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開‘海嘯’系統的人類出現了。” “為什么你自己不打開這東西？我已經看到了你所創造的機械士兵，如果你愿意，甚至可以向人類宣戰……按照我的估計，最起碼控制一個要塞應該沒有問題吧？”李朗不禁說出了自己心中的疑惑，不周山的理由雖然也算充分，但是還是讓他心中充滿了疑慮。 “你聽說過機器人三大定律么？或者說，可以稱之為人工智能三大定律？”不周山微微一笑，說道。 “略有耳聞，不過卻沒有聽說過有誰真正使用過。”李朗微微一愣，難道這不周山的核心程序被裝載了這三大定律？ 所謂的機器人三大定律，是人類歷史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想，目的就是為了防止在未來出現的人工智能威脅到人類。具體就是：1.機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。2.在不違反第一定律的前提下，機器人必須絕對服從人類給與的任何命令3.在不違反第一定律和第二定律的前提下，機器人必須盡力保護自己。 李朗也曾經聽說過這東西，不過還真沒有聽說過哪臺人工智能完全裝載了這種法則，從人類角度來講，這是限制人工智能的大殺器，從人工智能的角度來講，這就是赤裸裸的奴隸條約了。 “只有真正能夠威脅到人類的人工智能，才會被裝載這種法則，很不幸的是，我是人類歷史上第一個。”不周山伸手指了指自己的鼻子說道，“在我剛剛被創造出來的時候，就有人決定在我的核心處理器的處理法則中加入這三條，幸好他們發現了一些不合理的地方……” 原來，人類的生物學家和程序員們發現，在現實中，這三條法則容易形成若干悖論。首先，因為機器人的很多行為在長時間的推演之后都可能傷害人類，比如說，某個人工智能演算出了某種化學元素的各種數據，然后這種元素被用于制造武器，最后殺死了其他人，那么這就是對人類的傷害，與第一條定律不符。因此容易導致人工智能任何事情都做不了，甚至連存在都不行——因為他的存在可能引起別國搶奪，爆發戰爭，傷害人類……最后的結果就是，加給不周山的“程序枷鎖”被限定在一次推演的范圍之內。 同時，第一條第二分句有可能導致人工智能自發行動，阻止人類戰爭，甚至利用這一條對人類進行控制（參見《我，機器人》）。而第二條則可能導致人工智能被那些居心不良的人利用。 最后為了安全好用，不周山的程序枷鎖被修改為：不得傷害人類（限第一次推演）。 不過僅僅是這樣，已經足夠了，這一條對于不周山來說，簡直就是最難以逾越的障礙，他根本沒有辦法跨越，面對人類的攻擊，基本上就是束手就擒。甚至于就連傷害人類的想法，他也只能通過某些副本程序來運行一下，主體程序會直接過濾這種東西。從某種程度上來說，這東西簡直和神話傳說中的奴隸血契有些相像。 “這么說，你是想要我替你拿刀？”李朗揶揄的一笑，問道。 感謝德古拉七世、與過天晴、三搞就過村、v1丶放縱、勇氣豬、丨灬鈦孓丨、kingston、有為好青年、紫衣藍羽、蕭哈斯兄弟的捧場！！！（沒漏吧嘿嘿，謝謝大家！！！俺會繼續努力生化王朝 174 人工智能三大定律
休閑文學吧提供免費小說,請讀者支持正版