機器之心Pro2017-10-11 18:42:35人工智慧的最終歸宿也許會轉向侯世達（Douglas Hofstadter）。1979 年他寫了《哥德爾、艾舍爾、巴赫》一書，由此獲得普利策獎。現今 72 歲的侯世達一直默然思考著「思考」（thinking），以及如何透過計算機實現它。
侯世達，一個思考「思考」的人
人工智慧研究初期的二十世紀五六十年代，目標是透過模仿創造像人一樣思考和學習的計算機，直觀地理解周遭世界。但是「思考」（thinking）遠比想象的要複雜，1950 年代的計算機還無法實現它。這令人灰心喪氣，最終導致人們徹底放棄了對「思考」的思考，轉向透過海量資料訓練解決具體的任務，即導致了當下的人工智慧（深度學習）大爆發。計算機在國際象棋上戰勝人類，靠的不是對棋藝的不懈追求，而是檢索數百萬棋譜選擇獲勝的最優解。
2017 年，AI 似乎再次與這一古老的問題相遇：計算機如何更像人。深度學習先驅 Geoffrey Hinton 在 Axios 的採訪中說自己陷入了「深深的懷疑」，深度學習本質上是一種體力活。相反，計算機應該足夠靈活，像人一樣學習一切，而無需各種各樣的資料集。
面對 AI 的這些轉變，美國印第安納大學認知科學與比較文學教授侯世達對「智慧」原理思考從未間斷。他認為當下的 AI 毫不「智慧」，擔憂人類由此誤入歧途。關於 AI 當前的現狀，哪些做錯了？前方有哪些危險？帶著這一初衷，Quartz 採訪了侯世達。
Quartz：首先我們談一下計算機是如何理解語言的。為了實現語言之間的準確翻譯，機器必須對世界有深刻的理解，是嗎？
侯世達：當我翻譯之時，我會把 B 語言的譯文與 A 語言的原文對應起來，儘可能做到信達雅。因此，如果 A 語言的原文富有藝術之美，那麼 B 語言的譯文也應如此。但這顯然在谷歌翻譯的能力範圍之外。
谷歌翻譯沒有理解力，致使其翻譯漏洞百出。有句德文的正確英文譯文是「The maid brought in the soup」，而谷歌卻翻成「The maid entered the soup」。它翻對了「maid」，但譯文的意思是錯的，與現實世界大相徑庭。
我不是有意刁難谷歌翻譯，我真正想表達的意思是要始終記住，計算機只使用「詞」，不理解「詞」。
Quartz：這就是你所謂的「伊麗莎效應」（Eliza effect）？
侯世達：伊麗莎效應是指由於我們使用語言，理解單詞或片語具有的意義；因此，當另一實體使用字詞並將其一一呈現在螢幕上，或者說出它們時，我們很容易認為螢幕之後的實體也有「智慧」，也理解字詞的意義。但實際上這完全是錯的。
Quartz：你認為計算機在不理解字詞意義的前提下，有可能像人一樣做到信達雅的翻譯嗎？
侯世達：不，我完全不認為。因為真實世界非常非常複雜。
Quartz：我們需要其他術語來進一步界定 AI 嗎？以進一步證明它無法真正表徵「智慧」？
侯世達：這個問題很有趣。我並不認為我們現在擁有了「智慧」。比如讓我們回到這幾年盡人皆知的自動駕駛汽車。
我曾開車從印第安納布魯明頓（Bloomington）的家裡去芝加哥做演講，一兩個小時後，高速上出現了非常嚴重的擁堵。我離芝加哥還很遠，卻止步不前，我該如何做呢？有些人開始掉頭，下高速，抄小路避開擁堵。這可行，但有些車卻因此陷入草地的泥沼之中。因此，我在想，我要這樣做、冒這個險嗎？
假如我不趕時間，我可以慢慢前行直到穿過擁堵，但是現在我必須儘快趕到芝加哥。我已經堵了一個小時，時間所剩無幾。現在我該如何做？我要承擔多少損失？這次演講對我非常重要嗎？如果我打電話告訴他們我遲到半小時或者一小時呢？因此我在車上獨自思考著，一會我要在限速 70 的車道上開 80 嗎？或者開 90？我到底要開多快？
對我來講，這就是「駕駛」。真正的駕駛有現實世界的很多因素牽涉其中。
如果你放眼世界，其中的情景沒有規則，不會像國際象棋或圍棋那樣井井有條。現實世界中的情景沒有邊界，沒有內外。
Quartz：如果人們認為「機器智慧」也在思考，會困擾你嗎？
侯世達：如果你問我理論上計算機硬體能否做到像人一樣思考，答案當然是肯定的。計算機硬體能做大腦做的任何事，只是現在還未做到。我們對大腦的模仿停留在表面，並且有不少人走錯了方向。有時機器的表現十分出彩。
當時我步入該領域的感受是這樣：建立看起來像是在思考的程式很有趣，建立像人一樣會一點思考的程式也很有趣，這使你覺得正在逼近「思考」的本質，並且你做的越微妙，效果就越好。
我比較認可機器也在緩慢進化的想法，這使我覺得人類才是終極目標，人類智慧是一個奇蹟。
換言之，我認為從計算機智慧通達人類智慧存在著一種漸近的方法，漸近意味著從下方接近它，而不是超越它。這就像是一條曲線逼近一條直線，一直在直線下方平移。
但是，隨著 AlphaGo 和深藍不斷取得勝利，人們開始猜想人類這條線是否會被越過，就像深藍所做的那樣。兩條線匯在一起，它們交叉了。沒有漸近，只有交叉，接著計算機這條線開始直線上升。
對我來講，這是如此不同的一幅畫面，我不喜歡它。
真正使我恐懼的是人類思想覆滅，散入塵埃的場景。人類之於計算機就像蟑螂或跳蚤之於人類，我們沒有得到計算機的幫助或加持，卻被其徹底毀滅。這讓人不寒而慄。
