 |
作者：尼克·波斯特洛姆
出版：中信出版社 |
如果真的出現超越人類智力水平的生命體或物質，它會以怎樣的方式出現，人類的命運將會如何？或許對大多數人來說這樣的問題過于科幻，遙遙無期而不值得去過多思考，至少部分人會認為這不應放在一個嚴肅的科學命題的角度來討論。但是，事實情況可能并非人們想象的如此樂觀。牛津大學的學者尼克·波斯特洛姆在《超級智能》中從科學角度全面論述了超級智能出現的可能與形式，以及它對人類社會可能帶來的影響和應對方案。從波斯特洛姆的論述來看，超級智能已不再只是影視和文學中的想象物，而是一種近在咫尺的可能，他由此認為，我們必須對超級智能的產生有深入的思考和認識，如果只是坐視它的出現而毫無準備，那么人類社會和人類本身的命運將面臨極大的挑戰。
留給我們的時間不多了
自從現代計算機發明以來，人工智能概念在上世紀五十年代很快被提出，作為一種尖端科技，制造與人類智力水平相當的機器或軟件一直在緩慢而艱難的推進，中間曾經歷兩次大的起伏。一次是在上世紀七十年代，由于硬件技術的限制，大規模數據存儲和加工都遠遠跟不上人工智能理論的需求，科學家和投資人對研究的未來變得異常悲觀，而在計算機技術快速發展后的八十年代末，由于在可控成本內基本上只能實現運行單一程序的小規模系統，讓人工智能研究再次陷入低潮，直到九十年代才緩慢復蘇。
雖然研究進程磕磕絆絆，但波斯特洛姆還是向我們列舉了諸多人工智能上的成就，比如1997年擊敗國際象棋世界冠軍卡斯帕羅夫的深藍，自動出入境程序中的人臉識別系統，還有美國軍隊在海灣戰爭中運用的智能計劃日常安排程序等等。不過這些成就都有致命缺陷——此類獨立系統都只能在有限范圍和領域內實現單一的認知，無法像真正的人類智慧一樣具有普遍的問題解決能力，這類系統所以也被稱為“弱人工智能”。
那么，是否有可能獲得具備人類智能水平的“強人工智能”呢？波斯特洛姆給出了肯定的回答。他認為，計算機硬件技術一直保持著高速發展，而且很多領域呈幾何增長態勢，并且單一系統的人工智能應用已比較發達，延伸和擴散得很快，再加上軟件工程和計算機神經系統科學等領域的突飛猛進，今天人工智能發展的成熟度整體上已很高，在未來40年內會有50%的可能出現等同人類智能的系統，最晚也會在本世紀末出現。而從“強人工智能”到超級智能的出現會有三種情況：一是瞬間爆發，也就是在短短幾分鐘，幾個小時，幾天的時間內，人工智能會突破“跨界點”，之后將完全按自己的想法行動；二是緩慢爆發，跨界時間會被拉長到幾十甚至上百年。三是溫和爆發，也就是中等時間長度，預計爆發時間在幾個月或幾年內。波斯特洛姆發現，智能的增長率與智能爆發的反抗度成反比關系。反抗度也就是智能水平增長及實現環境的阻礙，在一般情況下，在越接近人類智能水平時反抗度越高，而越過這個坎人工智能的增速將呈現下坡式的加速狀態。所以達到人類智能水平后出現超級智能的時間最有可能的是瞬間和溫和兩種，而不是大家認為最有可能的緩慢出現。據此而論，留給人類的準備時間其實并不多了。
如何以及邁向怎樣的超級智能
波斯特洛姆認為，超級智能的實現路徑決定了最后它會以何種形式出現，也決定了它所帶來的問題和我們可能面臨的機遇。而就目前的技術水平而言，有五個通往超級智能的路徑，一個是狹義上的人工智能，即通過編寫完全模擬人類思維的程序，并兼具學習進化能力。這種方式最大的關鍵在于遺傳算法對計算機能力的需求和計算機技術的發達程度，只要這兩個關鍵因素得到突破，這將是最可能在瞬間完成跨界的方式之一。這種方式也留下了一個契機：無需模仿人類心智，也就是說對于人類情感無能為力，如何賦予其道德情感，這會是個巨大的問題，也為人類如何挑戰留下了機會。第二種是全腦仿真，通過精細掃描人類大腦，將原始數據輸入計算機，然后構建起一個完全模仿人類大腦的智能程序，這其實是前一種方法的延續，其問題與挑戰也類似。第三種生物認知，通過人工育種實現優生來求得智能上的突破，顯然這種方式不僅面臨極大的道德挑戰和倫理風險，且耗時非常長，不確定性也非常多，實現的可能性最小。第四種是人腦與計算機交互，植入技術是最常見的交互方式，這極為復雜，且可替代性很強，所以也不理想。第五種是通過網絡和組織讓人類的大腦相連，在適當時候這種網絡會成為集體超級智能，比如互聯網，這種方式最不確定，無人知曉其確切原理，只能靠機緣。
不難發現，最有可能出現的超級智能是人工智能和全腦仿真，尤其是前者。那么最后會得到何種超級智能呢？波斯特洛姆認為有三種，高速、集體、素質超級智能。由于網路和組織方式獲得超級智能難以實現，最終我們可能見到的是一個比人類更為聰明，并且結算能力超快的智能體。
問題及應對
由于超級智能出現的時間可能較短，在世界范圍內可能只有單一項目會突破“跨界點”，那么也就是只有一個單一的超級智能體會擁有決定性戰略優勢。先不說超級智能對社會、經濟、人類位置帶來的影響，它可能的最大威脅是導致地球上智能生命的滅亡或使其失去發展潛能，在波斯特洛姆看來這已不是妄談。因為超級智能的突然出現是缺乏人類情感和最終的價值觀體系的，在此情況下超級智能自身存在的目標可能是隨機或簡單的，但有一點可以確定，即出于工具性目的，它將會把無限攫取資源看成自身目標的保障，占有和消耗資源最多的人類無疑會在邏輯上成為被限制的“物”。
波斯特洛姆通過背叛轉折和反常目標實現形式來論證了這種可能的必然性。他提出，要克服這個結果，只有在超級智能出現以前做好準備，對其可能出現的能力設法預防性控制，對其動機選擇設法限制。能力控制有遏制系統性能和信息傳輸的盒子方法，采取代碼獎賞使其目標循環的激勵方法，以及設置絆網探測危險行動后關閉的方法。動機限制則可采取直接或間接的規則載入，或在選擇可能的超級智能體前，將其設置為類似人類和對人類友好，或者直接限定超級智能體突變前的目標。
