佛系中老年2019-04-08 13:42:43我認為，人工智慧的安全性問題至少分為三個層面。
第一個，最低等的層面，是人工智慧本身的系統完善程度，比如說此次埃航空難飛機發生事故的原因，按波音公司曾經的說法是，某個感測器失靈，飛行輔助系統在收到錯誤感測資訊後做出的錯誤決定，導致了飛機未能採取正確的飛行姿態，俯衝砸向地面。
這種低階錯誤完全可以透過安裝多個感測器、透過感測器資料對比排除誤差較大的錯誤選項來避免。這種安全措施，可以類比於在飛機上安裝多個發動機避免單個發動機失靈造成飛機失事。然而波音公司竟然沒有采用，讓人非常懷疑他們是為了降低研發成本和時間，趕工造出來的粗製濫造的737MAX8。
第二個安全性問題，在於人工智慧控制權限設定。
在此次埃航空難事故中，飛行員曾多次嘗試與飛控系統爭奪控制權，這也是為何獅航、埃航事故飛機在出事前飛出了異常的波浪曲線。
目前對於飛行員和飛控系統之間爭奪飛機控制權的過程，有兩種解讀：一種說法是飛行員壓根爭不過飛控系統，MCAS無法徹底關閉；還有一種說法是，飛行員可以關閉飛控系統轉為手動駕駛，但是脫離飛控輔助系統後仍然無法正常操控飛機，無奈之下飛行員只能重新開啟自動駕駛系統，在飛控系統的錯誤操作引導下，兩架飛機最終俯衝墜毀。
這裡還有一份補充說明：波音公司在培訓737MAX8飛行員時，培訓內容和手冊均未提及新安裝的MCAS系統。所以獅航和埃航空難飛機的飛行員在飛控系統出現異常時，根本就不知道存在這樣一個致命隱患，也就無從選擇正確的處理方式。
上面說到的兩種安全問題，一個是因人工智慧系統的完備程度而出現，一個是因使用許可權設定而出現。這兩種還可以說是人禍，可以透過人為努力進行強化以期避免。
第三種安全問題就可以被稱為懸掛在人類頭頂的、致命的達摩克利斯之劍了。科學家（以霍金為代表）、企業家（以馬斯克為代表）等等社會各界有識之士，都在擔憂：人工智慧會不會覺醒自我意識？會不會在覺醒自我意識之後認為人類是他們自身發展的障礙？或者認為人類是自然存在的毒瘤，把自身存在或自身存在的環境——自然存在的核心利益，置於人類存在的核心利益之上，並由此而作出對人類極為不利的決定？
關於人工智慧覺醒自我意識的討論很多，有興趣的網友可以去自行搜尋，在這裡談一下我個人的看法。
我認為，對人工智慧的擔憂主要分為三種，分別是“取代人類”、“奴役人類”、“消滅人類”。
一，取代人類。高強度工作取代人類是可接受的，因此而讓部分教育水平不高的人失業，這是政治家應該、必須、也能夠考慮並解決的問題，不值得擔憂。
二，取代人類成為世界主宰，從而奴役人類。記得以前看過這樣一句話：人類奴役自然，也因此淪為自然的奴隸。我對此深以為然。打個比方，在大型電腦遊戲中，扮演主角的我們，和電腦遊戲的後臺系統，很難說誰是主人，誰是被奴役者。世上從來就沒有絕對的自由，我們應用自然的物質存在和內在規律，就必然受到物質存在屬性的限制和規律條件的約束。
對比人工智慧，我目前能想到的，人類與之唯一的區別，或者說優勢是人類具有潛意識，並能夠藉助睡眠返回潛意識海，進行思維放鬆，同時也與整體潛意識海進行思維協調和修整。潛意識，在我們清醒時所表現的特徵（幫助人類以無意識、下意識的狀態，培養生活習慣），幾乎與人工智慧一樣，我們有多少人願意承認，自己的諸多重大選擇，是潛意識支配的結果，而不是自己的顯意識所做的決定？
所以擔憂人工智慧進化出自我意識並轉頭來控制人類，與擔心人類喪失顯意識轉由潛意識支配，沒有什麼區別，與擔心人類社會成為集體夢遊症患者，也沒有什麼區別。
三，消滅人類。透過上文我們知道，有誰會擔心自己會被自己的潛意識幹掉呢？恰恰相反，一些關於夢遊症患者的研究表明，人類在夢遊時所表現出來的肢體靈活性遠遠超過其清醒狀態。
人工智慧，是人類未來進化過程中不可缺少的一環，是人類進一步研究潛意識，並完善自身潛意識輔助系統的重要助手。
總的來說，我對人工智慧的出現和未來發展持有樂觀、樂見的態度。我們唯一需要擔心的，反而是我們人類自己。在研究和發展人工智慧技術時，不要像波音公司這種被貪婪和吝嗇矇蔽雙眼和良心的公司，把未完成品拿出來禍害世間。
要大膽假設，小心求證，頭腦清醒，謹慎前行。
