人工智能—潘朵拉的盒子

 

　　近年來，人工智能即AI的發展神速和愈來愈廣泛應用，引起全球關注。

 

　　去年，Google 子公司DeepMind 開發的AlphaGo 打贏了世界棋王，如今它可以同時跟全球50大高手對戰，照樣完勝，進步的速度非常驚人。不只這樣，現在機器人可以在幾小時內，學會如何走路，學習速度比任何生物都要快。許多人都關注未來5年、10年、20年人類生活在怎樣的世界？最基本的問題是，在大量的工作被機械人取代的情況下，會不會造成失業率高漲？

 

　　美國電動車大廠Tesla 的總裁馬斯克（Elon Musk）在「全國州長協會」會議中表示，政府監管機構必須針對人工智能設立規範，因為這對「人類文明的存在構成重大風險」。

 

　　從美歐到中國，全世界大國都投入了發展AI 的競賽。AI 的應用潛力令人期待，但如果進展太快，會不會反而變成「召喚惡魔」，毀滅人類？

 

　　「人類真的要擔心，」馬斯克近年來不斷呼籲，AI 學習速度突飛猛進，已對人類文明存亡造成根本性威脅。如果不盡早管制，最可怕的情況，是AI 有可能自行散佈假新聞，挑起戰爭，就像電影《未來戰士》（The Terminator）的「天網」那樣，帶來人類末日。

 

　　這樣的預言實在太聳動，近日引來另一位矽谷科技巨頭、Facebook創辦人朱克伯格（Mark Zuckerberg）公開批評，指這種說法「不負責任」，馬斯克立即回應，指「他對這個議題的理解很有限。」

 

　　無論如何，馬斯克建議政府一定要先搞懂AI 有多大本事，還是值得注意的建議。

 

　　台灣《天下》雜誌第628期，將馬斯克參加幾場關於AI的座談會發言加以重點整理。

 

　　馬斯克說：「我從小時候就想知道，人生的意義是甚麼、為甚麼我們會在這裏。隨著年紀增長，我發覺人生愈來愈讓人困惑。因為許多事情都在飛快演變。」

 

　　例如電子遊戲。40年前，我們玩的是模擬乒乓球比賽的「乓」（Pong），黑色螢幕上，就只有左右兩個小方塊，中間是一個小白點，讓玩家打來打去。在那個年代，我們覺得這樣就已經很好玩。到了今天，大家玩的是擬真畫面的遊戲，不但非常逼真，還可以讓數百萬人同時上線，現在又加入了虛擬實境和擴增實境。就算每年只進步0.1％，按照這種速度推斷未來發展，總有一天，電子遊戲將會讓人分不清甚麼是真實，甚麼是虛擬。到時，就會產生混淆：我們怎麼知道某件事以前是否真實發生過？怎麼知道自己是不是正在虛假的遊戲裏？

 

　　未來是很難預測的。1903年，萊特兄弟發明了第一架可操控的動力飛行器；66年之後，人類就登上了月球。如果你在1900年代問人們登月的可能性，他們會說你在開玩笑。網際網路？更是天方夜譚。

 

　　但如今，只要百多美元的裝置，你就能跟全世界進行視訊會議；只要有無線網路，你就能用社群媒體跟幾百萬人進行直播；你可以在網上搜尋幾乎每件事，而且幾乎馬上看得到搜尋結果。這些進展，過去根本不可能預測得到。

 

　　50年後的未來會變成甚麼樣，我們今天所做的任何預測，都將是錯誤的。但馬斯克說：「我可以告訴你我希望的未來是甚麼樣，我希望那時的人類已經登上火星、甚至木星的幾個衛星，我希望那時我們可以在太陽系到處旅行，或許還準備去探索其他星系。」

 

　　但短期之內，比如10年，馬斯克覺得是清楚的，就是「自動駕駛」和「人工智能」這兩種科技，會出現突飛猛進的變化。

 

　　10年後，馬斯克認為幾乎所有的新車都將具備自動駕駛的功能，去年10月後出廠的所有Tesla 汽車都已配備了自動駕駛所需的感測器，也擁有足夠的運算能力，可讓自動駕駛比人類開車更安全。他相信其他的汽車製造商也會跟進。所以，坐車將會像搭電梯一樣，你告訴車子要去哪裏，它就會把你安全地載到目的地，而這將成為常態，自動駕駛必將普及。

 

　　他認為最令人不安的，不是自動駕駛這一類用來達成某種特定功能的狹義人工智能，而是深度的人工智能，有些人把它稱為「通用人工智能」（AGI），它會比地球上最聰明的人更加聰明。

 

　　馬斯克認為這很危險。他說：「不妨這麼想像，如果你相信，未來10年、20年將會有超級智慧的外星人出現在地球，那麼，AI這種數碼超級智能的影響，將會像外星人降臨。」

 

　　他說：「我接觸過最尖端的人工智能，所以認為大家應該要擔心，並要不斷對外發出警告。但是，除非有一天，人們親眼看到機器人在街頭殺人，否則大家恐怕都不會作預警反應。」

 

　　馬斯克說他反對政府過度管制，但是，人工智能，是少數他認為應該主動立法管制的議題，並且必須盡早加以管制，確保企業不會為了市場競爭一味開發而犧牲公眾利益。因為等到我們被動去規範它，那就已經太遲了。

 

　　應該要求開發AI的業者確保他們的技術是安全的，否則，就要減慢研發的速度。政府首先該做的，是做好功課，盡可能搞懂人工智能是甚麼，了解這項科技的最新進展和成就。

 

　　最危險也最難懂的，是人工神經網絡中的深度智慧。它能做甚麼呢？它可以挑起戰爭：藉由散佈假新聞、製造假郵件帳號、偽造新聞稿，以及操縱訊息。

 

　　舉一個假設性的例子，幾年前，一架馬來西亞航空客機在烏克蘭上空被擊落，曾導致俄羅斯和歐盟的緊張升高。假設你是一家人工智能公司，你想要讓股票價值最大化，一個方法就是把業務重心放在軍事領域。發動一場戰爭吧，怎麼做？AI可以駭入某航班的伺服器更改航道，讓它飛入戰區領空，然後再匿名檢舉，說有一架敵方飛機正在飛越，就這樣。

 

　　未來會有很多工作被取代。全世界的工作有12%都跟運輸有關，運輸業將會是最早走向全自動駕駛的行業。機器人可以把每件事做得比人類還好，這真的是最可怕的問題。

 

　　繼7月公開呼籲政府以法規管制人工智能發展後，馬斯克在8月中旬再同116位各國科技公司的總裁和投資者，聯名向聯合國發表公開信，希望馬上禁止國際間開發人工智能自動武器，包括無人機、無人坦克和其他可結合AI 技術操作的武器計畫。這些科技專業人士警告，這類型武器將可能為人類帶來第3次武器革命，不但執政者或恐怖份子能利用，黑客也可以藉入侵網路系統、操控這些人工智能自動武器。這就像是潘朵拉的盒子，一旦被打開，其帶來的傷害恐怕是人類難以控制、也無法面對的。

 

　　本文摘自香港電台第一台 (FM92.6-94.4) 李怡主持的《一分鐘閱讀》。該節目逢周一至周五播出，並存載於港台網站 (rthk.hk)。

 

 

 《經濟通》所刊的署名及／或不署名文章，相關內容屬作者個人意見，並不代表《經濟通》立場，《經濟通》所扮演的角色是提供一個自由言論平台。

• 

《說說心理話》心理急救II：幾個徵兆辨認身邊人需要心理支援！點樣對情緒進行急救、自我照顧？專家分享穩定情緒小練習► 即睇