人和機器如何相處？

以下根據《高山科學經典》專案第14期郭毅可院士分享的《人有人的用處》書籍導讀內容整理而成。

導讀嘉賓

為什麼要讀這本書？

維納的名著《人有人的用處》主要講的是人和機器如何相處的問題。

為什麼有“人和機器如何相處”這個問題呢？

維納在1950年的時候，就看到了這樣一個未來：我們創造了新的智慧機器，人類社會最重要的關係變成了人與機器、機器與人、機器與機器、人與人之間的關係。這個視角的關係就成了我們未來社會中最重要的一個關係。

1950年時，還沒有網際網路，計算機也才剛剛開始，他已經看到了透過資訊和社會通訊裝置來進行人與機器交流的研究。

在書中，維納闡述了一個非常重要的觀點：

從資訊角度而言，人和機器都只是資訊理論的一個部分，都是資訊的載體，從通訊和資訊處理而言，人向機器釋出命令和人向人釋出命令，本質並無不同。

在交往的過程中，如果一個機器能夠向人發出自然的反饋，那麼這個時候，人和機器應該有相同的地位。

這樣一來，當機器有智慧的時候，我們必須要面對和解決這樣一個重要的問題：人如何與機器交流、互動和共存？

今天，我們的機器被賦予了智慧，甚至人也變成了機器，產生了數字孿生。我們的通訊裝置處於web3。0的虛擬世界跟實體世界共存共榮的通訊環境，無論相隔多遠，都可以即時實現互相的通訊。

虛擬空間和實體空間的平行，交融的元字宙的概念，使人類社會成為了一個人機共存、共創的社會。在這個社會，人與機器、機器與人以及機器與機器之間的資訊交流和相處是我們最根本的科學問題和社會問題。

郭毅可院士在高山科學經典導讀現場

這本書實際上是一本

預言性極強

的科學名著，當下的我們更需要好好品讀下這本書。

控制論大師維納

■ 天才維納

維納被稱為控制論之父。當圖靈提出“機器可以思維嗎”之問時，維納提出了《控制論》。“控制論”主要是研究生命體系統（人、動物和機器）行為的共同本質，並以此出發，研究人和機器的互動共生的機制。

維納，圖自網路

維納從小就是一個天才，10歲就寫了第一篇哲學論文《無知理論》，講到我們對世界的認識一定是不確定的，跟哥德爾的不完備性、海森堡的測不準原理，都有異曲同工的地方。

18歲時，他拿到了哈佛生物學博士的學位。但是在讀生物學的時候，他發現他自己動手能力很差，做實驗缺乏耐心。於是又跟康奈爾去學了哲學，然後又回到哈佛讀數理邏輯。

博士最後一年，他去了英國劍橋、德國哥廷根，從羅素、哈代、希爾伯特和蘭道等幾位最偉大的數學家那裡求學。

在20歲以前，他就完成了作為一個科學大師的所有理論和科學準備。

■ 全才維納

成為了大師的維納，更是一個全才。

在數學領域

，他發明了維納濾波器，建立了諸如維納測度、巴拿赫-維納空間、維納-霍普夫方程；

作為系統科學家

，他發明了控制論；

在計算機領域

，馮諾伊曼體系實際上也可以叫維納-馮諾伊曼體系，因為當時他們是一起工作的；

在生物學領域

，他提出的“資訊是生物系統的一個基本屬性”的基本觀點，直接導致了DNA（遺傳資訊的載體）的發現。

他的工作影響了包括玻恩、海森堡、沃森和克里克在內的諾貝爾獎得主，資訊理論創始人夏農曾說：“

通訊理論的新數學理論的一些中心觀點要歸功於維納

。”事實上，夏農應該算是維納的一個學生。 除此之外，今天的神經元網路、整個的強化學習系統都來自於維納的思想，甚至神經元網路的鼻祖，比方說麥卡洛克和皮茨，都是他的好朋友。

■

悲情人生

維納的婚姻是不幸的，

他的夫人非常有控制慾，被戲稱為“控制控制論大師的大師”

。

維納和妻子、女兒、女婿

他的夫人曾挑撥了他和兩個有名的同伴（當時叫“控制論鐵三角”）——麥卡洛克和皮茨的關係。三人關係的破裂很大程度上影響了人工智慧的程序，不然深度學習也許早20年就被發現了。

作為一個猶太人，二戰以後在美國的維納也受到了一定程度的歧視，因此

從麻省理工數學系辭職超過50次

，但最終還是沒有辭掉。

他還曾經粗暴地辭去了美國科學院院士頭銜，稱美國科學院是 “一幫自私、不負責任的人”，甚至公開寫信登報，在會議雜誌上宣告與美國軍方、大公司、政府斷絕關係，不再為他們從事科研工作。

這些行為在美國的學術界爭議很大，因此也影響了他的“控制論”在當時的傳播，維納因此也很抑鬱。

維納本人其實是很悲觀的，批判了很多事，也認為人類終究會走向滅亡：“在一個非常真實的意義上，我們都是這個在劫難逃的星球上的失事船隻中的旅客。但即使是在失事船隻上面，人的莊嚴和價值並非必然地消失，我們一定要儘量地使之發揚光大。我們將要沉沒，但我們可以採取合乎我們身份的態度來展望未來。”

現在我們來一起讀讀《人有人的用處》。

控制就是追求熵減

薛定諤，圖自網路

薛定諤在他的著作《生命是什麼》中提出了“負熵而生”的觀點，即生命是一個負熵系統。

熵是一個系統的混亂程度的度量，熱力學第二定律即熵增定律指出，在一個孤立系統中間，如果沒有外力做功，那麼它的總混亂度就會不斷增長。

沒有外力做功，世界上一切的孤立系統都是熵增的。

《人有人的用處》這本書中講到，

控制就是追求熵減，建立所期望的秩序

。

書一開始就講了生命體的定義，維納認為，我們的生命就是一個控制的過程，要降低系統的天然的混亂度，要和熵增做鬥爭。透過開放來吸收能量，把我們變成一個負熵和熵減系統，使其有秩序。

所以維納的認識論基礎就是：不管機器還是人，只要他的運動是透過對環境的作用，透過環境作用的反饋來控制熵增的時候，這兩者在社會上的功能都是完全一樣的。

在這個層面上，機器和人是相似的。

在控制的過程中，有幾個基本概念需要重視。首先是控制的手段；其次是被控制的物件要有不確定性；第三個就是這個不確定性的變化要有一個衡量資訊；最後是每次行動後需要對結果和目的進行反饋，再利用反饋來控制下一步的行動，使得不確定性減少。

在這樣的基本理論下，維納對“什麼是進步？”和“什麼是智力和學習？”這兩個問題進行了探討。

什麼是進步？進步就是在混亂的全域性中建立區域性的有序。

人類和機器一樣，都是推動著進步的。但進步也是有代價的，當推動社會進步時，給了人們新的穩定性，同時也給了新的限制和新的挑戰。

什麼是智力和學習？維納在這裡重點強調了認知系統的可塑性和反饋。

他認為對於機器也好，對於人也好，學習就是為了適應。

人之所以有特殊的學習能力，是因為人的大腦有可塑性，可以根據學習進行反饋，得到一套方法適應環境，進而改變我們大腦的記憶和神經系統結構。

反饋機制，是我們今天人工智慧裡面許多演算法（如強化學習）的基本思想。

現在我們來比較一下人工智慧的兩個開山鼻祖，維納和圖靈。

維納與圖靈，圖自網路

維納VS圖靈

上圖中的藍線，我們可以把它看做是我們大腦的熵。剛出生時，熵很高，但很快它會隨著不斷吸收的知識而下降，成熟期的我們熵最低，最有秩序，但隨著年齡的增長，熵又不斷增加，直到最後熵達到最高，死亡。

在我們成熟之前，主要是接收間接知識。成熟以後慢慢就有了自己的思想，能開始觀察，能用知識去改變世界，並決定自己吸收的新知識。

圖靈注重人的思維，

在圖靈的理論中，他認為機器的“智慧”是模擬人，極限就是人的智慧，所以圖靈測試定義“智慧”為：當你問一個問題，無法區分是機器的回答還是人的回答時，就算是通過了測試。

但維納不這麼看，維納注重的是人的行為

，他認為機器透過反覆探索、驗證、調節所獲得和人類一樣完成了特定任務的功能，叫做智慧。機器智慧並沒有設限。

所以，在這條曲線裡，

圖靈關心的是曲線裡面的部分，即記憶和運用記憶；維納關心的是曲線外面的部分，即怎樣跟世界作用和世界如何反饋。

維納的影響

在書中，維納還提到了非常多個性鮮明的觀點，比如：

愈是可能的訊息，提供的資訊就愈少；

人和機器都是資訊流動的載體；人最獨特、最重要的功能就是把語言變成文字，進行編碼等等。

在書中，關於“怎樣從工業化過渡到自動化？怎樣從自動化過渡到智慧化？怎樣把智慧化變成網路化？”他講得非常的全面。

對於新的工業革命，他認為這是一把雙刃劍，這就是我們現在經常討論的——機器可以統治人嗎——這個問題的解答。

與此同時，他還提出了資訊不可交易性。

他不承認有資訊產品，因為資訊的價值在於交流，不在於儲存。

也提出了開放性的資訊社會的可能，認為我們只有把資訊開放，而不是保密或者阻改資訊的流通，才能對社會的整體有序作出貢獻。

“以人為本”的社會觀念也在維納的書中有所體現，他認為我們所有的研究和貢獻，都一定要以人類的價值為準，或者要對區域性熵減有利。

最後，他還對科學家提出了一個很重要的要求，

他認為科學家一定要知道人的本性是什麼。

他反對重複性的、功利性的科學研究，認為科學家是科學的藝術家。

維納的理論對社會的影響是巨大的。不管是研究經濟、生物、發動機，還是計算機，都是在研究一個系統怎麼樣在反饋中不斷地自我調節、自我淨化。國家管理也是一樣，甚至有些國家（比如70年代早期的智利）就是拿維納的理論來統治社會的。

實際上在當下，維納的控制論觀點又有了要火熱起來的節奏，很多人認為處在現在的大資料網路時代，我們完全可以用計劃的形式來管理我們的經濟。

假如維納活到今天

維納，圖自網路

假如維納活到今天，他肯定會為深度神經網路、為基礎的人工智慧歡呼。

因為在書中他就談到了“格式塔陷阱”。

所謂格式塔陷阱：即旋轉不變性。比如我們看一個圓，橫著看、側過來看，它都是個圓，它怎樣變化和它的位置無關。這是卷積神經網路的一個基本思想。

維納的反饋理論放到今天來指導機器學習，就是強化學習。

假如維納活到今天，他會對人工智慧的發展使人民失業更擔憂。

因為他一直認為機器發展以後，會使人變成奴隸。但實際上這是不對的，因為技術的進步可以提高自然資源的利用率。

假如維納活到今天，他會贊成智慧合約、區塊鏈而反對去中心化。

因為他無法想象一個自組織機構自下而上沒有中央控制的情況，這會不利於控制和熵減。

假如維納活到今天，他不大會欣賞大資料，因為他反對資訊交易。

他欣賞的是大資料對人類的貢獻，但資料不能成為商品。為了評職稱晉升發的文章和為了贏得粉絲而發表的作品無法產生維納意義下的資訊。

假如維納活到今天，他會對元宇宙報以極大熱情。

他認為，如果我們不僅要生存，而且要作為一個文明和物種興旺發達，我們必須把這些相同的情感和尊重的價值觀編碼到我們的機器、資訊系統和通訊技術中，這樣新的模式被用來造福人類，增加人類的閒暇時間和豐富其精神生活，而不僅僅是為了利潤和對機器的崇拜。而這跟我們今天講的元宇宙是非常接近的。

假如維納活到今天，他會認為控制論可以解決很多的問題。

可以解決全球變暖，可以用控制論來控制電網，使各種技術容納於其中。

但維納一直都有一個非常大的擔憂，

他覺得自己像個盜火的普羅米修斯，把機器帶給了人類，但總是擔心人類屈從於機器，放棄了選擇和控制的權利。

所以這種擔憂也是他寫這本書的一個前提，他要告訴世人：不管機器怎麼好，你們都不可以把自己的責任交給機器，這就是你們都最終的責任！

因為，人有人的用處！

關於“高山科學經典”

科學著作浩如煙海，加上門檻較高，容易讓人望而生畏，因此需要權威的書目推薦，引領科學閱讀。

2021年，高山科學促進中心甄選100部科學著作，成立了“高山科學經典”公益專案。

邀請數百位大科學家和社會賢達，每週六晚八點開展公益導讀，讓科學精神透過書籍，跨越地域、階層、年齡、民族的界限，傳播到每個角落、每個人心中。

這些科學經典將會被重新包裝、統一裝幀出版，打造一套厚重、值得收藏的科學經典書籍，如果對高山科學經典公益專案或書籍感興趣，歡迎聯絡“高山科學經典”百家號。

熱愛科學的人都在這裡！

想了解更多精彩內容，快來關注高山科學經典