人工智能要立規矩？沈向洋：善惡之心在人類，價值觀是關鍵

“計算機本身並無善惡之念，善惡之心在於人類，在於人工智能係統的設計者。” 9月18日，微軟全球執行副總裁沈向洋在2018世界人工智能大會的分論壇上表示。

近年來，人工智能產業和技術創新高速發展，已經滲透到社會的各個行業。但同時，人工智能技術的大規模應用，也帶來許多爭議和潛在的危機。2018年無人駕駛在全球陸續發生多起交通事故；今年5月，號稱“全球最嚴”數據保護條例的歐盟GDPR也正式生效，將數據隱私問題重新帶回輿論焦點。

沈向洋

在享受人工智能帶來的好處同時，如何才能最好地確保人工智能的安全、可靠？隨著機器越來越聰明，越來越強大，如何避免失去對機器的控製？ 這已成為一個嚴峻的社會議題，值得每一個公民去探索和思考。

在今日的大會的一場分論壇上，微軟全球執行副總裁、微軟人工智能及微軟研究事業部負責人沈向洋與卡耐基梅隆大學教授、1994年圖靈獎得主Raj Reddy在開啟一場尖峰對話，人工智能的倫理角色成為對話焦點之一。

向左走，向右走？Al倫理尚處早期學習階段

目前，自動駕駛技術無疑是人工智能領域最熱門的研究方向之一。Raj Reddy在對話中提到，按照目前的預測和統計數字，如果人工智能汽車能全麵取代現在的人為駕駛汽車，交通事故的發生幾率將下降92%-93%，因為一旦出現事故，人的大腦無法及時做出反應，而自動駕駛則可以自動切換到任何事故的反應，不會做出錯誤的判斷，造成事故的升級。

但正是這種自動反應模式帶來了一定情況下的道德困境。假設汽車在自動駕駛的狀態下遇到突發狀況，汽車不得不選擇向左或右行駛，而向左行駛會撞傷一個老人，向右行駛則會撞傷一個孩子，那麼此刻自動駕駛係統該如何做出選擇呢？

向左，還是向右？ 圖片來自微軟

事實上，目前還沒有一個具體的法規或者規定能夠準確地告訴AI工程師該如何抉擇。沈向洋在此前采訪中曾表示， 對於這些AI倫理問題，人類還處於學習的初期階段。他認為，以後做任何產品，發布之前，都應該有一個AI倫理委員會——就像現有的安全委員會或隱私委員會一樣，審核一些人們平時不會去想，但確實可能會遭遇的事情。

不久前沈向洋聯合微軟公司總裁施博德（Brad Smith）先生共同編著的《計算未來：人工智能及其社會角色》一書，就談及了人工智能發展將麵臨的種種社會倫理挑戰。書中提到，微軟為了解決人工智能開發過程中涉及到的倫理和社會問題，設立了開發和研究人工智能與道德標準（AETHER）委員會，並從負責任的企業的角度提出了開發人工智能的六項基本原則——公平、可靠和安全、隱私與保障、包容、透明和負責，全麵指導微軟人工智能產品和解決方案的開發和部署。

微軟提出人工智能開發的六大原則 圖片來自微軟

AI未來發展：數據越多，隱私保護越關鍵

年初數千萬Facebook用戶數據泄露從而影響美國總統選舉結果的新聞曾掀起軒然大波，而國內大數據殺熟的曝光也引發消費者不滿，數字社會的數據隱私保護和技術倫理問題備受關注。

沈向洋認為，數據的隱私保護對於人工智能的未來發展至關重要。沈向洋在對話中提到：“微軟研究院有一個領域做得非常好，那就是安全的、私人的AI。因為今天我們收集越來越多的數據，所以需要非常謹慎地決定到底誰擁有數據，誰有權使用數據，這些數據可能來自不同的機構。所以我們需要一方麵要保證數據是安全的，第二方麵要利用這些數據進行計算，這對於我們推動AI未來的工作都至關重要。”

沈向洋此前采訪中也曾透露目前美國在利用隱私數據進行人工智能研究上有了比較大的進展，而這一進展對於企業非常重要。因為如果不能解決數據加密和隱私保護的問題，企業無法獲得數據，人工智能的發展也就成為無源之水。

AI加速發展，人工智能立法或提上日程？

在本次“2018世界人工智能大會”上，沈向洋特意強調“我們應該建議政府監管更加嚴格。為了更好鼓勵AI的發展，一方麵我們要看到它的巨大潛力，另一方麵也要看到它對社會的影響。政府必須幫我們建立起更加好的規範，這對人工智能的發展至關重要。”

隨著人工智能的繼續發展， “人工智能法”似乎不可避免地成為了一個重大和全新的法律課題。但是，具體的時間框架如何？該領域又應當以何種方式發展和演變？

沈向洋認為，為了最大限度地發揮人工智能的優勢，同時減少風險，盡量避免意外後果， 未來需要推動政府、企業、非政府組織和民間社團代表、學術研究人員和所有其他利害相關的個人和組織的全麵協作，在公共政策和法律法規等方麵為人工智能發展提供更好的保障。