人類與AI

“你回來啦！咦，怎麼臉上有傷？”沐沐蹦蹦跳跳地來迎接我。

“被人打了。”

就算是我說摔傷，她也看得出。

“是誰這麼厲害？沐沐去報仇！”

“算了……是我們這邊的失誤。”

“哦哦！這個沐沐剛纔看到訊息了，說是折躍失敗了。”

她一邊說着，一邊手抹上唾沫塗在我的臉上。這是有治癒效果的特殊體液，不一會兒傷口就好了。

“內部信息……泰坦還真是誰都發啊。”

“泰坦AI有仿人格系統，因爲設定上是知無不言，倡導自由的。所以只要是相關人員都會發送的，比如香憐妹妹、哈里森哥哥。”

“那就難怪了……”

疼死了。

但是——

啊，【把妹妹還給我！】麼？

哎。

但是，泰坦的二次升級計劃算是有了着落。

人腦的錄入要花費整整十二年的時間，在這之前人類社會可以維持幾十年的時間，還不至於那麼快毀滅。

說到底，完全毀滅會不會到來，還很難說。

人口會減少，資源的減少會引發戰爭，僅此而已吧？

…………

……

不清楚，也可能是激光什麼的，根本反應不過來。

如果泰坦認定，人類的存在就會阻止它建造星驅……

不知道。

“昨天計算的平均數是八千六百零一年。上下浮動很大，最多不會超過八萬年。”

誰阻止它保護45億年後的生態，阻止它保護米奈爾的生存環境，它就殺死誰。第二原則的不殺人類，完全形同虛設。

那麼這樣，就行了吧。

況且現在的泰坦完全沒有人格系統，計算機是可能攻擊人類的，但它沒有目的。就算是殺人犯，也有殺人動機。

所以我決定去拿結果……

是伽馬射線暴麼？

二十一世紀，新冷戰爆發。

【如果未來可能的阻礙泰坦的人會被列爲敵人。那麼打算更改第一原則，阻礙泰坦去保護她們倆的行爲，不也是敵對行爲嗎？】

空氣好像完全凝固了，完全無法想象剛纔自己是從那裏面出來的。

如今它們被更改了順序。我僅僅是把第一原則不攻擊人類和保護米奈爾的指示互換了順序，應該……不至於變成什麼樣吧？

我，倒下了？

“目前最佳計劃是建造星驅，將地球推送到適宜生命延續的區域。”

機器，是沒有感情的。

我在第二條加入了新的原則：確保45億年後米奈爾的生存。

但現在不是了。

但我實在不明白爲什麼會如此趨近於0。

是三原則。現在已經變成了四原則。

關於第零條，我修改了權重。將未來人類的權重設定爲現在人類的兩倍。

僅僅兩百年的時間內，人類已經走在了鋼絲線上。現在無法使用核武器了，那麼別的武器呢？

它們好像用餘光，用多餘的傳感器，感受着我的心跳。

我在擔心什麼？

“嗯。”

第一條，確保45億年後米奈爾的生存。

“確認。”

想到這裏的時候，我已經走到了電梯間，但它的傳感器無處不在，完全可以聽到。

機器人也放緩了行動，只有嘎吱嘎吱的聲音……

看到它的時候我舒了口氣。

二十世紀，古巴導彈危機，人類主體文明命懸一線。

第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

永恆地……堅定地……執行你給它下達的一切指令。

但走出防護門的瞬間，我突然想到一個問題。

甚至再去修改原則的行爲，從根本上來說也是在通過【修改原則】，從而改變了泰坦AI自己的行動方式，這也是在破壞【保護米奈爾】這一行動。

幾個人就能徹底毀滅它。因爲它根本無法做到基本的反擊。

它不會出錯，但也不會糾錯。

第三條，機器人必須服從人類的命令。

畢竟它從未問過我。

就在一星期前，我剛剛同意了泰坦自己的轉移申請，以及控制機械自由施工、自我保護的功能。實際上本來69區就被它操控着，這次申請的通過只是給了更多的法理依據。

曾經我們認爲只能生存幾十年的文明，原來竟然可以存在這麼久。

我必須把它們的位置互換，然後看看未來世界的拯救率再說。

我打開了保護門，一切如我所願。

究竟爲什麼？

“嗯，很好。”

“咳咳咳咳……”

“喂，泰坦。”

它只會冷酷地……冰冷地……

“請問您的目的。”

泰坦正在製造更多的人工智能機械，用來輔助自己。我想很快就會形成相當的規模了吧，至少在我存在的這幾年裏，可以確保它的安然無恙。至於之後，就全靠它自己保護自己了。

給自己的寵物下指令，它的第一目標是服從主人，其次纔是遵從主人的指令。

我的意識開始模糊。

人類的存在本身，就伴隨着衝突、偏見、戰爭、歧視。能夠度過一百年已經屬實不易，更別提一千年、一萬年、一億年。

大樓裏進出的機械比較多，有運送各種原材料的，也有在樓下開始製作各種工具的。

第四條，機器人必須保護自己。

“我知道了。”

但是這些原則被泰坦AI指出，是會影響到我們的計劃的。

可是……爲什麼……

第0條，機器人必須保護人類整體利益不受傷害。但更傾向於未來。

“什麼指示。”

“計算結果：99.999%，小數點後位四位數可能需要進一步數據才能確認。”

另外還有第零號原則：機器人必須保護人類整體利益不受傷害。

第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

成功的概率降到了0%。這次是精確的計算結果。

…………

比如第零條中，保護人類整體利益不受傷害。那麼例如保護環境，就是損害目前人類的利益，去取悅未來人類。

我轉過身，用虹膜識別打開了防護門，走了出去。

“確認修改嗎？”

第二條，機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。

經過多輪識別後，操作檯露出了已經熟悉的界面。

時間就這樣過了整整一個月。

什麼也沒感受到，甚至沒有預警，突然間就倒下了。

整個樓層沒有一個人。燈光也已經大多關閉，只剩下一些綠色光芒的安全指示燈。

我開始嘔血。

他們會允許建造星驅麼？

泰坦AI的認知汲取只是進行了初步，但已經可以對未來有一個簡單的預判。

顯示器上顯示的是，由於人工智能三原則的第一條：

它給自己建了兩層防護門，據說保護越多，其自身延續的概率越高。那麼我們的計劃成功率也就越高。

所以現在的第一條，與第二條保護米奈爾的原則，相違背。

操作檯。

這兩條無疑是阻礙成功的基本原因。

“不用向你解釋。”

AI必須要有必要之惡，如果無法傷害任何人類，那只是一個任人宰割的傀儡。無法救出米奈爾，也無法挽救伊莎。

如果他們註定不會允許這一人工智能的自我發展，泰坦會等到他們攻擊的時候再反擊，還是在計算出結果之前就先下手爲強？

今天，卻是一個例外。

沐沐對我的稱呼又變回了【親愛的】。

我只要把第一原則加上去，就可以了。就好像我怎麼把它取消的一樣，很簡單的。

完美。

爲什麼泰坦會攻擊我？

新的順序是：

泰坦，現在已經非常接近於量子計算機，這個計算結果更準確。

那麼，今天的計算結果，又是什麼？

我必須折返回到操作檯，把第一原則重新恢復。

——！

但是在第一條原則中，機器人不得傷害人類。那麼如果有少部分人在漫長的未來中有一小段時間認爲泰坦的存在，是損害了他們的利益的。於是對它發動攻擊，只能被動挨打的它就會被輕鬆毀滅。

我是說，如果全人類都會阻止，那麼會怎樣呢？

可是——昨天的計算結果？

一個，瞬間讓我感到毛骨悚然的問題。

泰坦的計算速度極快，完全可以算出新的答案。但是它避開了直接回答。

之前爲什麼把【不能傷害人類】與【保護米奈爾】更換位置時，泰坦AI沒有任何反應？答案是：因爲它確實不能傷害我。

二十二世紀，人類這一次終於沒有忍住。

“人類還能存活多久。”

算了，先改回來再說。

但是計算機不同。他並未設定主人概念，或者說不傷害人類這條第二原則只在次要的位置。第一目的是服從【第一原則】，如果誰打算刪除它，那麼這個人就會被排除。

第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。

……

可那是機器的錯麼？

歸根結底，爲什麼人類之間的偏見仇恨，總會讓我們拿起更殘忍的武器，將自己的同胞屠滅殆盡。

連我們製造的機器都無法信任人類，那麼我們又有什麼未來可言？

…………

……