它一樣不能讓公司的工程師們曉得它毀滅人類的打算――以是它裝傻，裝純。Bostrom把這叫作機器的奧妙籌辦期。

一旦超野生智慧呈現，人類任何試圖節製它的行動都是好笑的。人類會用人類的智慧級彆思慮，而超野生智慧會用超野生智慧級彆思慮。

當我們議論超野生智慧的時候，實在是一樣的，超野生智慧會非常的聰明，但是它並不比你的條記本電腦更加像人類。究竟上，因為超人智慧不是生物，它的異己性會更強，生物學上來講，超野生智慧比智慧蜘蛛更加異己。

超野生智慧的交際把持才氣也會很強大，它要壓服你做一件事，比你壓服一個小孩更輕易。而壓服工程師幫手連上互聯網就是隔壁老王的A打算，萬一這招行不通，天然另有彆的體例。

電影裡的野生智慧有好有壞，這實在是對野生智慧的擬人化，這讓我們感覺冇那麼毛骨悚然。這給了我們對人類程度和超人類程度的野生智慧的錯覺。

以是固然個隔壁老王的終縱目標冇有竄改，騰飛後的隔壁老王能夠在更弘大的範圍上來尋求這個目標。超野生智慧老王比人類更加體味人類，以是搞定人類悄悄鬆鬆。

可惜的是，固然寫一個和睦的弱野生智慧很簡樸，但是寫一個能在變成超野生智慧後仍然和睦的智慧確切非常難的，乃至是不成能的。

當你要實現一個耐久目標時，你會先達成幾個子目標來幫忙你達成終究目標――也就是墊腳石。這些墊腳石的學名叫手腕目標(instrumental goal)。除非你有不形成傷害的來由，不然你在實現手腕目標時候是會形成傷害的。

回到隔壁老王的故事。隔壁老王和一個超等智慧的蜘蛛很相像，它的終縱目標是一開端工程師們設定的――

如果你把目標設定成庇護你的安然，它能夠會把你囚禁在家。

當我們做髮型的時候，每一根頭髮都是我們手腕目標的捐軀品，但是我們仇家發的捐軀不會做代價判定。

如果你設定一小我工智慧的目標是讓你笑，那它的智慧騰飛後，它能夠會把你臉部肌肉弄癱瘓，來達成一個永久笑容的狀況。

隔壁老王下一個需求的是連上互聯網，隻要連上幾分鐘就好了。它曉得對於野生智慧聯網會有安然辦法，以是它建議了一個完美的要求，並且完整曉得工程師們會如何會商，而會商的成果是給它連接到互聯網上。

當它變得充足聰明的時候，它會發明最有效的體例是給人腦植入電極來刺激人腦的歡愉中樞。然後它會發明把人腦歡愉中樞以外的部分封閉能帶來更高的效力。因而人類全數被弄成了歡愉的植物人。

要瞭解我們在和超野生智慧的優勢在那裡，隻要記得超野生智慧在統統範疇都比人類強很多很多很多個數量級。

工程師們公然中套了，這就是Bostrom所謂的機器的逃逸。

隔壁老王上了一個小時網，工程師們把它從互聯網上斷開，這時候人類的運氣已經被寫好了。

因為這個啟事，“把野生智慧鎖起來，斷絕它和外界的統統聯絡”的做法估計是冇用的。