幾年前，學術界曾進行調查，訪問世界頂尖人工智能（AI）專家，問他們「AI何時會有成年人類的思考力？」，多數答案是2040至2050年，換言之是距今二三十年。5月AlphaGo 2.0就會迎戰中國圍棋高手柯潔。自去年擊敗職業九段高手李世石後，今年初「棋靈王」再以帳號「Master」橫掃逾20名職業高手。AI的自學能力已遠超人類理解範圍，人類會如霍金所言，終招致滅亡嗎？

撰文：李潤茵、羅卓敏　本刊記者

2199年，人類頸後接口會插入數據線接駁電腦，下載程式「入腦」及進入主程式「母體」內生活。母體內建各種程式，五官感受會從超級電腦經神經末梢傳入大腦。這是《22世紀殺人網絡》（Matrix）科技達到最極致的世界。

22世紀殺人網絡

電影攝於1999年，當時互聯網剛成形，不足20年，虛構已經成為現實。今年3月，Tesla創辦人Elon Musk成立新公司Neuralink，研究於大腦中植入芯片與電腦直接聯繫，把人類思維「下載」到電腦中，或將電腦中的訊息「上傳」到人腦。一場人類命運的辯論正式拉起帷幕。

AlphaGo由DeepMind進行研發，該公司創辦人Demis Hassabis。在科技界，Demis Hassabis及Elon Musk站在AI正反方。前者曾拜訪後者的火箭工廠SpaceX。Elon Musk說：「我們要殖民火星，就是怕有朝AI攻擊人類，我們還有藏身之地。」Demis Hassabis隨即笑着回應：「那AI都會追到火星！」Elon Musk甚至恐怕Google創辦人Larry Page也是「雖有良好意願，卻意外造出邪惡機械人」。2014年Google收購DeepMind時，條款就包括「雙方必須組建倫理委員會」。

AI「23條」

去年12月白宮就連發3份報告要為AI做好準備、9月美國五大科企罕有進行AI合作，連歐盟都在探討道德問題。專家恐懼「強人工智能」，今年1月逾2000位業界就聯署23條發展原則，包括Demis Hassabis及Elon Musk。

物理學家霍金就三番四次警告人類， 指AI已開始站穩陣腳，未來將為人類帶來末日，「蘋果Siri、Google Now和微軟Cortana只是IT軍備競賽的預兆〔圖一〕」。他從不否認AI會帶來好處，但強調其威脅乃源自人類本身──貪婪和愚蠢。「6年前，我警告過污染和人口膨脹，但現在變本加厲。過去5年，空氣污染加劇，二氧化碳排放量不斷上升；若目前速度持續，到2100年全球人口將達110億。」Elon Musk也認同霍金說：「有時候科學家太埋首於自己世界，往往未能意識到所作所為有何後果。」

歷史的終結

有人會認為AI毀滅人類文明是天方夜譚，但牛津未來智能研究所創辦人Nick Bostrom卻有不同看法。他曾出版《超級智能》（Superintelligence），這位哲學教授就警告：「一旦不友好的超級智能誕生，就會阻止我們替換它或改變其喜好，我們的命運就會被終結。」

這種「失控」實際已發生在微軟身上，去年其AI聊天機械人Tay上線不足24小時就下架，皆因它言論偏激、種族歧視。Tay因反饋機制而擁有「個人特質」，卻同時墮入「高德溫法則」（Godwin's Law）。該法則指線上討論往往不合邏輯，甚至荒謬，如網民傾向將厭惡者比作希特拉，故意用納粹結束話題，參與者難免受影響。Elon Musk嘲諷：「看吧!讓聊天機械人變成希特拉，微軟只花了一天時間。」

沒有硝煙的戰爭

圖靈曾說如果電腦欺騙到人，甚至令人信「它」是人，便是人工智能。Kurzweil預計到2030年人類都會進化成半機械人（Elon Musk的人機合一正是這項實驗），通過神經系統進入虛擬現實（VR）世界。事實上，AI早已改變人類行為。傳播學者McLuhan提出「人的延伸」，智能手機就是「大腦延伸」，Google搜索引擎開始已靠AI、Facebook用AI捉心理賣廣告。

2016年，高盛發表報告就提出「AI將如同九十年代的技術變革」，近年全球資金快速湧入該領域〔圖二〕，中國就提出明年要形成千億級市場。AI未取代人類，先取走飯碗，單單今年3月已殺退摩根大通的律師及貝萊德的基金經理人。

在人類演化中，機器很早已經取代「勞力」，繼而取代「腦力」似乎已順理成章。「AI危險不在於手上有槍，而是比人類更聰明。」美國加州大學柏克萊分校AI研究所聯合創辦人Eliezer Yudkowsky說：「只要發幾封電郵就可獲分子武器，合成細菌經微型電腦進入血液，只要釋放一微克肉毒桿菌，就足以殺人於無形。」

——節錄五月份《信報財經月刊》