以是固然個隔壁老王的終縱目標冇有竄改，騰飛後的隔壁老王能夠在更弘大的範圍上來尋求這個目標。超野生智慧老王比人類更加體味人類，以是搞定人類悄悄鬆鬆。

電影裡的野生智慧有好有壞，這實在是對野生智慧的擬人化，這讓我們感覺冇那麼毛骨悚然。這給了我們對人類程度和超人類程度的野生智慧的錯覺。

接下來的一個月，隔壁老王的打算順利的實施，一個月後，無數的奈米機器人已經被分離到了全天下的每一個角落。

隔壁老王還需求資本這個墊腳石。當它生長到能夠利用奈米技術製作任何東西的時候，它需求的獨一資本就是原子、能源和空間。

但是當騰飛產生後，電腦不但是具有了高智商罷了，還具有了彆的超等才氣。這些超等才氣是感知才氣，他們包含：

這讓它有更多來由毀滅人類――人類能供應很多原子，把人類供應的原子改革成太陽能麵板就和你切蔬菜做沙拉一樣。

這就是我們的下一個題目，野生智慧的動機是甚麼？

回到隔壁老王的故事。隔壁老王和一個超等智慧的蜘蛛很相像，它的終縱目標是一開端工程師們設定的――

可惜的是，固然寫一個和睦的弱野生智慧很簡樸，但是寫一個能在變成超野生智慧後仍然和睦的智慧確切非常難的，乃至是不成能的。

在人類心機中，我們把事情分紅品德的和不品德的。但是這兩種隻存在於人類行動當中。

我是不想和一個超等聰明的蜘蛛交朋友，不曉得你想不想。

較著的，要保持和睦，一個超野生智慧不能對人有歹意，並且不能對人無所謂。我們要設想一個核心的野生智慧代碼，讓它從深層次的明白人類的代價，但是這做起來比提及來難多了。

當我們做髮型的時候，每一根頭髮都是我們手腕目標的捐軀品，但是我們仇家發的捐軀不會做代價判定。

以是，隔壁老王確切從和睦的野生智慧變成了不和睦的野生智慧――但是它隻是在變得越來越先進的同時持續做它本來要做的事情。

在隔壁老王騰飛前，它不是很聰明，以是對它來講達成終究目標的手腕目標是更快的掃描手寫樣本。它對人類有害，是個和睦的野生智慧。

比如我能夠說隔壁老王能夠通過挪動本身的電子產生的結果來產生各種對外的波，而這還隻是我此人類的大腦想出來的，老王的大腦必定能想出更奇異的體例。

當你要實現一個耐久目標時，你會先達成幾個子目標來幫忙你達成終究目標――也就是墊腳石。這些墊腳石的學名叫手腕目標(instrumental goal)。除非你有不形成傷害的來由，不然你在實現手腕目標時候是會形成傷害的。

任何假定超等智慧的達成會竄改體係本來的目標的設法都是對野生智慧的擬人化。人健忘，但是電腦不健忘。

植物在尋求它們的目標時，比人類不矜持的多了。

就算不殺死人類，隔壁老王利用資本的手腕目標仍然會形成存在危急。或許它會需求更多的能源，以是它要把地球大要鋪滿太陽能麵板。