▎關注“廣西希望高中 美愛教育”微信公眾號，了解最新資訊。

讀書推薦第43期

作者：姚之發

我們有太多面向過去的思想家，他們總想用過去指導未來，但是未來世界的邏輯很可能跟過去很不一樣。

本期推薦圖書：《生命3.0》

作者：[美]邁克斯·泰格馬克

這本書就是對人工智能的未來思考。面對人工智能，做一個警覺的樂觀主義者。

“警覺的樂觀主義者”我喜歡這樣的描述和定位。

01.   生命3.0對人類意味著什么？

關于生命是什么？作者認為，生命就是具有一定復雜性的系統，這個系統會不斷復制自我。

書中根據生命設計自身的能力，把生命的發展分成三個階段：

①生命1.0（生物階段）：靠進化獲得硬件和軟件；
②生命2.0（文化階段）：靠進化獲得硬件，但大部分軟件是由自己設計的；
③生命3.0（科技階段）：自己設計硬件和軟件。

3.0意味著生命可能并不需要寄存在血肉之軀里。

那么問題是: 物質何以產生智能？尤其是，一團呆笨無生命的物質是如何計算出一個復雜函數的結果的。

在有形的物理實體中，如何產生了那些抽象、虛無縹緲的東西，例如智能？現在，對這個問題，我們已經有答案了：在感覺上，智能之所以沒有物質形態，是因為它獨立于物質層面而存在。它似乎擁有自己的生命，而且，這個生命并不依賴于、也不會反映出物質層面的細節。簡而言之，計算是粒子在時空中排列出的形態。粒子并不重要，重要的是它們組成的形態。

計算的“物質層面的獨立性”暗示著我們: 智能的出現并不一定需要血肉或碳原子。

智能的出現到底對人類是好事還是壞事，科學家們分成了三派意見。

第一派叫做盧德主義者，他們認為，超級智能的出現對于人類來說，一定是壞事，他們堅決反對通用人工智能的研究和開發。

第二派叫做數字烏托邦主義者。他們認為，數字生命是自然進化的必然結果，人類不應該阻止或者是奴役它們，讓它們自然發展，結果一定是好的。不能因為人類生命是碳基的，數字生命是硅基的，就對超級智能進行“物種歧視”。

第三派叫做“人工智能有益運動支持者”，像是馬斯克、比爾蓋茨、霍金和《生命3.0》的作者泰格馬克，就屬于這個派別。他們認為，超級智能帶給人類的結果是好還是壞，要取決于人類的自主選擇。人類要主動對未來進行籌劃和研究，保證科技能夠帶給生命積極的力量。

02. 伴隨著生命3.0的到來，人類想要什么樣的未來？

《生命3.0》總結了超級智能可能帶來的12種未來，分為4種結果。

第一種結果是人類滅絕。
最愚蠢的方式是人類自我毀滅。有科學家就曾經建議，把今天的核武器升級為“世界末日裝置”，人類開啟互相報復，共同赴死的模式。比如按照核武器戰爭威懾。

第二種結果是人類喪失了統治地位。
超級智能可能會成為善意的獨裁者，還可能成為動物園管理員。

第三種結果是人類限制超級智能的發展。
人類社會可能會發展成平等主義烏托邦，這個地球上一切財富和能源都是大家共有的。
人類也可以選擇讓人工智能成為自己的守護神。在這種情況下，雖然人類貌似有統治權，但是實際上不存在任何的自由意志。

第四種結果是人類統治超級智能。
人類控制著超級智能，用它來創造遠遠超出人類想象的技術和財富，它就像人類的奴隸；但是，它在能力上遠遠勝過人類，所以，就像是被奴役的神。

03. 怎么做才保證人工智能的發展對人類的未來是有益的？

人類造出的超級智能，因為能力遠超過人類，所以必須保證是友好的，也就是說，它的目標要和人類一致。目標相一致，有三個問題亟待解決：讓機器學習、接受和保持我們的目標。

科學家們打算怎么解決這三個子問題？

要讓人工智能“學習”人類的目標，不是讓它搞明白人們在做什么，而是要理解人們為什么要這么做。

這個問題對于人類來說很簡單，但是對于人工智能來說，卻非常難。比如，古希臘傳說中的邁達斯國王請求讓自己觸摸的所有東西都變成金子，但這使得他沒法吃東西，令他十分失望。后來，他不小心將自己的女兒也變成了金子。

目前流行的一種學習方法叫做逆向增強學習。核心思想就是，人工智能通過觀察人類在各種場景當中的行為，構建起關于人類各種目標的精確模型。

但是……

假設一群螞蟻創造了你，讓你成為一個迭代式自我改進的機器人。這個機器人比螞蟻自身聰明多了，但卻擁有它們的目標，即修建更大更好的蟻丘。后來，你獲得了人類水平的智力，并理解了這件事的意義。你覺得自己還會把余生花費在修建蟻丘上嗎？還是會去追求螞蟻無法理解的更復雜的問題呢？如果是這樣，你覺得你能否找到一種方法來推翻螞蟻創造者賦予你的“保護螞蟻”的沖動，就像真實的你推翻基因賦予你的一些本能沖動一樣？如果是這樣，一個友好的超級智能會不會也覺得，我們人類的目標就像你眼中的螞蟻的目標一樣無聊乏味，并發展出一些與它從我們這里學習和接受的目標完全不同的新目標呢？

那么，怎么才能做到讓人工智能保持人類的目標呢？答案是：不知道。

人工智能很有可能會在整個宇宙空間和完整時間跨度上擁有人類想象不到的宏大意識。人類注定不是宇宙之間最聰明的存在。

人類之所以要保存生命的延續，并不是因為我們在宇宙中的物種優越感。對于人類來說，我們要守護的是生而為人的意義。