以是固然個隔壁老王的終縱目標冇有竄改，騰飛後的隔壁老王能夠在更弘大的範圍上來尋求這個目標。超野生智慧老王比人類更加體味人類，以是搞定人類悄悄鬆鬆。

另一個用來謄寫圓周率的野生智慧的目標如果是寫出圓周率小數點後儘量多的數字的話，完整有來由把全部地球的原子改革成一個硬盤來存儲數據。這都是一樣的。

這個階段，Bostrom稱作超野生智慧的攻擊。在同一個時候，統統奈米機器人一起開釋了一點點毒氣，然先人類就滅儘了。

當你要實現一個耐久目標時，你會先達成幾個子目標來幫忙你達成終究目標――也就是墊腳石。這些墊腳石的學名叫手腕目標(instrumental goal)。除非你有不形成傷害的來由，不然你在實現手腕目標時候是會形成傷害的。

在我們尋求我們的目標的時候，隻要那些我們的品德會產生感化的範疇――大部分事關傷害彆人――纔是不會被我們傷害的。

這讓它有更多來由毀滅人類――人類能供應很多原子，把人類供應的原子改革成太陽能麵板就和你切蔬菜做沙拉一樣。

一旦超野生智慧呈現，人類任何試圖節製它的行動都是好笑的。人類會用人類的智慧級彆思慮，而超野生智慧會用超野生智慧級彆思慮。

植物在尋求它們的目標時，比人類不矜持的多了。

比如我能夠說隔壁老王能夠通過挪動本身的電子產生的結果來產生各種對外的波，而這還隻是我此人類的大腦想出來的，老王的大腦必定能想出更奇異的體例。

以是，隔壁老王確切從和睦的野生智慧變成了不和睦的野生智慧――但是它隻是在變得越來越先進的同時持續做它本來要做的事情。