控制超級人工智能的問題

引自 singinst.org (2005)：『人類神經元通過傳遞電化學信號運轉，最快神經元對應信號傳播速度是每秒150米。相比之下光速爲每秒3億米，是神經元信號傳播速度的200萬倍上。於此類似，大部分人類神經元每秒最多可以發出200次信號;根據最新的神經處理理論，傳遞的信息取決於每秒傳遞頻率而非單次信號，上面的信號頻率可能高估了神經元處理信息的能力。相較而言，現代的計算機微處理器的處理頻率在2GHz左右—— 差距有1000萬倍——這一速度還在不斷指數上升。理論上，思維速度至少能加快一百萬倍。如此一來，主觀的一年時間等同於生理上的31秒。按照這個速度，從古希臘的蘇格拉底到現代人類的主觀時間跨度僅有22小時。

人類的大腦受尺寸上限的制約。當前估計是，人類大腦中含有大約一千億個神經元和百兆突觸。這跟現代的電腦比起來，是極大的野蠻計算力。即使我們使用200Hz的CPU上運行的程序，我們依然需要了大規模並行計算才成實現一些類似大腦的即時操作。，但是在計算機行業，基準不斷的指數增長，通常是平均一到兩年時間就翻一倍；根據最初的摩爾定律，單位硅面積下的晶體管數目每18個月便會翻一翻。現在有各種各樣的摩爾定律：芯片速度摩爾定律，計算機內存摩爾定律，一美元能買到的磁盤容量摩爾定律，因特網連接速度摩爾定律，林林總總，不一而足。』