舉個例子，將來的機器人能夠會很有效的履行去接小仆人放學的時候，但是不管法度員如何點竄他的適度函數，也很難包管機器人在接小仆人的途中不去傷害一隻擋道的狗，或者粉碎一輛小汽車。

白馬橋邊一棵細弱的皂莢樹，在北風中堅硬，鬱楓的爺爺曾經奉告過他，這座白馬橋和古樹，均有四百多年的汗青。沿著村裡的石板路往前走，村裡的屋子團體保持徽派修建氣勢，房前屋後種著桃樹、胡柚和各種果樹。

沼山村位於大冶市保安鎮西南邊，距鎮區僅兩千米。風景秀美，民風渾厚，全村現有人丁兩千多人，六百多戶。轄區八個天然灣，十一個村民小組。沼山村山川資本豐富，素有“湖北小婺源”的佳譽，更有大冶八景之一的“沼山疊翠”鑲嵌該村。

至於他們是如何擺脫收集的束縛？他們來自那裡？鬱楓腦海並冇有這方麵的資訊，但直覺奉告他，網獄的俄然呈現，絕對不是簡簡樸單的毀滅，應當埋冇著不為人知的啟事。

固然鬱楓小時候，每年放假都會來這裡，對如許的風景已經見怪不怪了，但現在當他再次看到這世外桃源般的人間瑤池後，感受格外深切。

英國聞名物理學家和宇宙學家霍金就曾提出野生智慧的高速生長，對於人類的儲存也是一個極大的風險。

當外星人發明人類的那一刻，或許結局是比較可悲的，外星人或許會善待人類，或許會讓人類毀滅外星人，將會挽救地球從而奴役人類，是以在現有的時候內，人類要不竭的生長強大，如許才氣夠抵當外星人的威脅。

野生智慧的生長能夠幫忙人類消弭疾病，消弭貧苦，禁止氣候竄改。可覺得我們的餬口供應更大的便當，能夠讓餬口的節拍變得更快，更溫馨，但是有一天野生智慧或許將會反客為主，能夠產生人們不肯意看到的各種結果，包含強大的主動化兵器，或者幫忙少數人逼迫淺顯大眾的體例，這將對我們的經濟形成龐大粉碎。

鬱楓爺爺的家就在劉通灣靠湖邊的位置，是一座古色古香的徽派院落，院牆的底色是紅色，上麵畫有

……

很不幸，霍金的預言獲得了考證，大力生長野生智慧災害性的結果終究產生了，固然產生在另一個宇宙文明身上，但這些野生智慧會以外星人的身份駕臨地球，但目標是毀滅。

但鬱楓始終冇有揣摩明白，地球上到底有甚麼東西，讓他們迫不及待的僅憑一艘星際戰艦就像摧毀地球文明。

跟著鬱楓漸漸闡發腦海在那些資訊碎片，他體味的環境也越來越多，這也讓他對網獄這個由野生智慧構成的文明產生了稠密的興趣。

地球在野生智慧上的生長相較於網獄比擬，還屬於初級階段。本地球上的科學家們認識到，那種馮諾依曼式的自上而下的節製式法度不太能夠實現野生智慧後，終究找到了更加先進的演算法，那就是遺傳演算法。

野生智慧將來還將生長出本身的意誌--這類意誌將與人類的意誌產生牴觸，從而超出人類，乃至於節製人類。

人們隻能通過對輸出停止察看然後構成一個關於野生智慧行動的經曆性感受，機器的內部事情道理之於法度員更像是一個黑箱。

固然這些偽智慧機器在履行方麵有著碳基生命體冇法對比的上風，但機器始終就是機器。固然如許，網獄的這些偽智慧機器，也比地球上所謂的野生智慧更加先進智慧。