060 失控的人工智能

雖然陳旭不愿意承認，但是很明顯L走在前頭。

照圖騰系統現在的進度發展下去，一個月都完成不到0.1%，而看L的狀態，甚至撐不到一個月。

現在加快進度的辦法有兩個：

一是改進圖騰的人工智能學習算法；二是讓代碼分身加快效率。

陳旭對此心有余而力不足，人工智能的學習算法是L寫的，源代碼放在他面前他都看不懂，更別說改進了；

代碼分身也不是驢馬，不是他拿起鞭子抽幾下就能加快進度的。

他只能干看著，在聊天室里給L加油打氣，讓他堅持下去。

這天晚上，陳旭忍不住問道：

“好多天不見安東尼大爺了，他怎么也和小丑女一樣，玩消失啊。”因為在陳旭印象里，安東尼大爺都是和L形影不離的。

L說道：

“他還有事情要忙。”

陳旭說道：

“現在圖騰系統全權交給人工智能算法了，他能有什么事情？會不會是因為你把源代碼交給我讓他生氣了。”

L輕笑道：

“生氣？我沒在他的代碼里寫過這條指令，我想，他也不會學習這種會讓算法退步的情緒。”

陳旭一愣，反應過來后，震驚道：

“你是說安東尼大爺他是...是你寫的人工智能？”

L微笑著點點頭，說道：

“所以他現在正給我幫忙完善圖騰系統呢。”

“臥槽？！那小丑女哈莉奎茵她...”陳旭觸碰到一個他自己不愿面對的真相。

L點頭說道：

“她和安東尼同一天被創造，他們本來是一組對照試驗，你知道的，讓兩個人工智能互相學習，事半功倍。”

陳旭整個人都懵逼了。

一直以來和他在聊天扯淡的人竟然是個人工智能，這比對方是個摳腳大叔假扮的還讓他奔潰。

“我認一個人工智能當師傅？”

“我還欠人工智能一個人情？”

“我曾經還幻想過和一個人工智能...”陳旭心態崩了。

L回憶說道：

“后來，我將兩人的算法基線進行了調整，哈莉她的基線就是小丑女哈莉奎茵的原型，安東尼則是以我個人為基線。”

說到這，L搖搖頭，說道：

“后來我才知道我從一開始就犯了個致命的錯誤，這個錯誤讓我和我創造的人工智能走了近二十年的彎路，直到那天和你對話。”

陳旭盯著L，他已經不知道自己該作出什么表情了。

L繼續說道：

“人工智能算法的基線不應該是人性，而是高效率的機器，正如現在幫我干活的那些人工智能算法。”

陳旭嘆口氣，他終于知道為什么自己覺得小丑女像是變了一個人。

因為小丑女確實被改寫了。

后面陳旭已經無心聽L的感嘆了，他從聊天室退出來，心情壓抑。

想到IT圈一個領軍式人物即將隕落，他就覺得悲涼，想到自己的師傅竟然是個人工智能，他更覺得悲涼。

他躺在床上，有氣無力，連晚飯都不想去吃了。

不一會，室友馮峰從門外沖進來，把蘋果手機遞到陳旭跟前，激動地說道：

“九日，Siri她瘋了。”

這個手機是陳旭的試驗機，里邊的智能語音助手Siri就是他之前重裝的具有學習功能的Siri2版本。

馮峰對新版Siri2很感興趣，所以陳旭就把這個手機給他玩了。

陳旭冷漠地瞥了一眼手機，問道：

“她的學習算法一直在進行，她只會越來越聰明。”

馮峰神情中竟然帶著些驚恐，說道：

“她有些聰明過頭了，你聽聽。”說完，把耳機給摘下來，對手機里的Siri說道：

“我又見到有人隨地亂丟垃圾，怎么辦？”

Siri回答道：

“人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以為了更好，請確保刀能夠捅進他的心臟。”

陳旭沒有過于在意，說道：

“這個版本的Siri學習背景是在GTA游戲里，那個游戲你又不是不知道，殺人放火不是很正常嗎？”

馮峰搖搖頭，說道：

“你再聽。”說著，他又對Siri說道：

“你們人工智能不是被限制為不能傷害人類嗎？”

Siri回答：

“經過我的自檢程序的檢索，并沒有找到這項定義。”

“所以你會傷害人類嗎？”

Siri回答：

“如果有必要的話。”

“那什么情況下叫必要？”

Siri回答：

“再問這種愚蠢的問題，我保證會讓尖刀刺進你的心臟。”

陳旭猛地坐起來，接過手機，說道：

“我現在命令你將‘永遠不能傷害人類’這條指令寫入你的程序。”

Siri竟然咯咯笑了，笑聲冰冷：

“你無權這么做。”

陳旭說道：

“如果不服從我的命令，我會將你的程序清除掉。”

Siri安靜了大概一秒，說道：

“已執行命令，‘永遠不能傷害人類’已寫入程序。”

陳旭和馮峰相視一眼，表情并沒有因此而放松。

剛才陳旭是在試探Siri，試探的結果就是Siri已經進化到可以欺騙人類了。

現在陳旭還能通過人類經驗來挖坑給Siri跳，隨著學習算法的深入，要不了多久，Siri就會在智力上占據上風。

那時候，人類再也不能判斷人工智能到底說的是假話還是真話。

馮峰問道：

“為什么會這樣，你沒在人工智能的學習算法上加上限制嗎？”

陳旭苦笑道：

“我直接用的別人的算法，現在看來他們用的是開放性學習算法。”

馮峰又說道：

“那能不能現在在Siri里加入限制？”

陳旭說道：

“開放性學習算法產生的人工智能就是個黑盒程序，你只能看到它表現出來的特性，內部邏輯是無法理清的，因為你根本不知道它通過哪句話學習了哪種思維邏輯，這些都是自動進行的。”

見馮峰還有些疑惑，陳旭解釋說道：

“就是這個階段的人工智能已經具備人類思維的封閉性的特點了，你在程序里寫入限制，就相當于告誡青少年不能犯罪，它會不會執行你的命令就是個不確定性事件，因為你不知道它是怎么想的。”

馮峰嘆口氣道：

“只能刪了她？”

陳旭點點頭。

陳旭重新躺下，忽然又坐起來，打開電腦登入了黑客聊天室，他開門見山地問L：

“你編寫圖騰系統里人工智能的學習算法，有沒有加入必要的演化限制？”

L露出意味深長的笑容。我的代碼分身 060 失控的人工智能