2017 年底,終於斷斷續續啃完了這本書——《 Life 3.0 》。我從中學到不少東西,覺得值得一讀。作者是 Max Tegmark,宇宙學家,現在是 MIT 的教授。同時他還跟其他人一起成立了兩個科研機構,一個是 Foundational Questions Institute,一個是 Future of Life Institute (FLI)。前者是為基礎物理學和宇宙學服務的,而後者則是為 AI 安全領域服務的。而之所以有這本書,還是因為後者的成功創立。我也是從 Elon Musk 的 twitter 上知道了這本書,Elon 曾資助了 FLI 1千萬美元。正是 Max 對未來人工智能的種種擔憂,他決定要為此做點什麼,才有了後來的這些故事。我在前一篇日誌裡提到過,我應當向 Max 學習。


書的開篇就講了一個假想的科技公司 Omega 開發了一個名叫 Prometheus 的人工智能編程系統的故事,由此作者引出了英國數學家 Irving Good 在 1965 年關於 intelligence explosion 的討論:

Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion,’ and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control.

簡言之,當一個超智機器被創造出來後,人類就不再需要其他發明,因為這個超智機器可以設計出比人類設計得更好的機器。而此 Prometheus 的命名意謂深刻,它將會像神話中描述的那樣,給人類帶來“火種”。

當然這個故事只是一個美好的願想。接著作者就開始進入正題了,第一章點題並澄清討論詞彙定義和範疇。基本上所有嚴肅的科學類讀物都是這個套路吧。作者闡明了對生命的定義,進而有了像 1.0、2.0、3.0 這樣的階段。就像寫 LISP 的人一樣,研究物理/數學的人非常喜歡抽象和昇華概念,從而更加接近問題的本質,Max 認為我們對生命的定義應該寬泛一點,他認為生命的本質一種能在保持自身的複雜度(即信息)的同時進行繁衍或複製的行程。 1.0,軟硬件都得靠演化;2.0,硬件靠演化,但軟件可以通過學習來設計,我們人類就處於這一階段;3.0,可想而知,軟硬件都能被設計


從物質到智能

Hydrogen…, given enough time, turns into people. – Edward Robert Harrison, 1995

一些簡單的物質是如何 記憶計算 甚至 學習,進而產生智力的。雖然我是計算機科學專業畢業的,但講真的我在看這本書之前都一直有這些模糊的疑問,存儲記憶、計算和學習的本質到底又是什麼。看了這一章後我覺得茅塞頓開。

智力

作者對智力的定義非常寬泛,這樣有助於我們理解智力:

如今的人工智能傾向於狹窄領域的智能,而人類的卻很廣博。從 AI 到 AGI (Artificial General Intelligence) 還有很長的路。

記憶

記憶的本質是記錄某種狀態,所以只要某種物質能夠保持一些穩定狀態,就可以用來作為記憶體。沙盤、石板、紙張、電開關、RNA、大腦等等,這些都是可被用作記憶的東西。而 信息本身也是獨立於物質的。值得一提的是人腦記憶的獲取方式有別於我們現在的計算機存儲設備,我們獲取記憶是根據”what“,而計算機的是根據”where“,即尋址。我們這種獲取記憶的方式是自動關聯的,有點像搜索引擎,我們想一個東西,相關聯的信息會自己冒出來。這種獲取記憶的方式其實並不僅僅只有人腦有,物理學家 John Hopfield 在他 1982 的一篇著名論文裡就展示了互聯的神經元也具有這種特性。作者說這種特性在任何多狀態的物理記憶體上都能重現,舉的例子是有兩個谷的平面,一個在 \(\sqrt{2}\) 的位置,而另一個在 \(\pi\) 的位置。這時如果放一個小球在 3 的位置,它會滾落到 \(\pi\) 的位置,於是自動關聯的獲取方式就湧現出來了。

為此我還專門找來了那篇論文其本質就是在存在多個局部極值的函數上,以輸入值查詢最接近的局部極值。很多物理系統有這個特性,而互聯神經恰好也具備這種特性,具體的數學模型可見論文的等式 3 和 4。

計算

這些理解起來很簡單,那計算呢?計算就是把某個信息或狀態轉化成另一個信息或狀態的過程。計算這種過程對物質的要求就是既不能太死板也不能太靈動,太死板了沒法產生狀態的改變,而太靈動了又沒法穩定狀態。作者提到 计算素 这个概念,一种假想的可编程的物质材料,計算的最小單位,用以构建计算。在計算機裡就有符合這種條件的東西,比如 NAND 門。你可以用 NAND 構建一個正經計算機,而事實上 Noam Nisan 和 Shimon Schocken 就在一門公開課上教你怎麼做,或者你也可以用 NOR 門。

除了這些實例,Stephen Wolfram 和 Alan Turing 都曾提出不同的計算模型。所以另一個很重要的事實是,計算也是獨立於物質的。因而我們也逐漸看到了 計算的本質,或計算和物質的關係:計算是物質在時空中排列的模式

學習

講完記憶和計算,就該講學習了。有了上面的理解,學習就變得直截了當了,學習就是我們重複地將某種信息輸入到可塑性記憶體裡,直到記住。比上說一個平面軟土,如果我們不斷在一些地方放置小鐵球,那塊地方就會凹進去,於是下次我們把小鐵球放在一個靠近小坑的地方,小球會因為重力滾落到曾經放了好多次小鐵球的位置,於是這個軟土平面就學會了這些位置。而類似的 John Hopfield 論文裡的互聯神經網也具備這種特性。而如今留下的機器學習其實原理就類似。只是用了更加簡單的一個模型,即非互聯神經網絡,而是單向分層互聯網絡。每個節點對輸入點加權平均,有時還加一些常量,最後再通過一個激活函數把自己的結果轉化後傳送給下一層的節點們。局部的計算是很簡單的,但是整個網絡缺呈現出了一種學習能力。而更神奇的是單層網計算 \(n\) 個數相乘需要 \(2^n\) 個節點,而如果是深網的話只需要 \(4n\) 個節點。所以可想而知我們的大腦是有多麼驚人的計算能力,神經元不光互聯,而且信息流不是單向的。人腦的機制要複雜得多,目前我們還只是一知半解。

經過上面三個部分的論述,我們知道了 記憶、計算和學習都是獨立於物質的,也就是說生物組織不是必要的。想到這兒,那我們離 Life 3.0 還遠嗎?


接下來作者用三章討論了近期的挑戰,智能大爆炸以及其後果。基本上作者概述了方方面面的可能性。經過這三章的洗禮,作者的腦洞已經是填不上了,可能是數學、物理學家的職業習慣,在接下來的一章他開始討論生命的極限,進而談及人類的星際遷徙、星際關係等。這些討論中,都閃爍著這個時代思考者們的先進思想,在讀的時候你彷彿能看見精神矍鑠的長者眼睛裡睿智的光。但我並不打算花更多篇幅寫,這些都是開放性的討論,我還是想從知識性的角度去總結這本書。當然這幾章裡面也有很多 facts 可以說,但是離主旨還是遠了點。


終極目的

The mystery of human existence lies not in just staying alive , but in finding something to live for. – Fyodor Dostoyevsky, The Brothers Karamazov

對目的的討論很重要,因為我們幾乎可以肯定,智能爆炸後,人類的境遇如何完全取決於人類和超智能生物的終極目的的匹配程度。如果相左,可想而知超智能生物會跟三體文明一樣“我消滅你,與你何干”。

說到目的性,所有的經典物理定律都表現出了目的性,大自然發生的每個事件基本都可歸納為最大化或最小化某個量。而從數學的角度來描述物理,要麼是預測未來,要麼是最大化某些東西。此前我從沒有注意到這個規律,可能只是潛意識裡有痕跡,所以當讀到作者用白底黑字的話明明白白寫出來是,還是不禁拍案叫絕。那這個宇宙的終極目的是什麼?我們會自然而然地想到熱寂吧,想到這樣一個結局,就像作者說的,確實著實令人抑鬱。更令人沮喪和意外的是,我原以為生命的存在可以讓熵減小,但是作者分析其實宇宙產生生命有助於讓熵增大。不然你家為什麼會變亂,地球上的石油為什麼會被開採進而變成散落在各處的石油製品?而人類呢,最終會消失,但卻幫助了宇宙加快了熱寂過程。絕望之時,作者筆鋒一轉,但是我們還有萬有引力——讓這個宇宙不那麼無聊;而且作者的同事 Jeremy England 還有另一個好消息,就是物熱力學除了有熱寂這個傾向性,還有一個叫做 dissipation-driven adaption 的傾向性,是說粒子有對自身編排以最大化能量吸收的傾向。沒有太糟糕。所以大自然/物理學展現出了這種目的性,它是目的性的根源。

粒子的這種自編排最大化吸收能量的傾向會衍生出另一種宏觀傾向性,即對自身的複製,在這種傾向性的影響下一段時間後,有一些物質的編排能很好地複製自身,我們稱這種類似的編排為生命。生命的出現將物理定律世界簡單的逆熵目的性轉化成了複製和生育,然而逆熵的目標並沒有消失,生命本身就是達成逆熵的一種手段。讀到這兒我意識到熱寂的終點不會改變,逆熵、生命、自組織的物質都有生命期限,但我們的意識讓這個世界“變得”有趣美好。

生命的演化向著越來越複雜的方向發展,於是生命最早的自我複製的目的性就被一些有助益自我複製的簡單規則代替了,這些規則就是我們說的感覺。在寫這篇文章的時候,我正好在讀《自私的基因》,基因便是那個自我複製體,而我們根據感覺是為了更快的反應速度。當基因將主控權交給大腦後,大部分時候大腦雖然會根據感覺完成複製的基因的使命,但是大腦也有違背基因賦予的使命的時候,比如我們使用節育技術。這個違背並不是我們選擇如此,而是設計使然,因為感覺才是我們身體的主人,而不是基因。事實上 Robert Wright 的 Why Buddhism is True 也是對這個觀點的佐證。於是我們離開了物理學,穿過了生物學,走進了心理學。

本不该有的结语

這稿子已經躺在我草稿箱裡快發霉了。書也看完很久了也還沒寫完,就先放這些吧。如果將來我又回來複習,或許會回來填坑。除此之外,如果你對目前我所講述的內容還感興趣的話,應該去看看這本書。

Done is better than good. ― Elizabeth Gilbert, Big Magic: Creative Living Beyond Fear