係統粉 > IT資訊 > 微軟資訊

微軟前執行副總裁沈向洋受聘清華大學,首堂課談AI責任

發布時間:2020-03-05    瀏覽數:
3月5日,清華大學宣布,通過視頻連線為正在西雅圖清華大學全球創新學院(GIX)大樓授課的沈向洋博士頒發雙聘教授聘書,這也是清華大學首次以視頻會議方式在線舉行聘任儀式。

沈向洋是著名的計算機視覺和圖形學專家,1996年加入微軟,1999年回北京參與創立微軟中國研究院。在微軟期間,曆任微軟亞洲研究院院長兼首席科學家,微軟全球資深副總裁、全球執行副總裁。

本次聘任儀式,是沈向洋在去年宣布離職微軟後首次公開亮相。2019年11月13日,微軟CEO薩提亞宣布沈向洋將在2020年初離開微軟。2020年3月2日,“清華大學本科教學”官方公眾號發布了題為《沈向洋雙聘教授聘任儀式暨春風講堂第四講》的通知,正式確認沈向洋去向。

聘任儀式後,沈向洋在線發表了題為“Engineering Responsible AI”的報告並通過在線平台公開直播,這也被視為其在清華的“第一堂課”。

沈向洋稱,近年來人工智能領域取得的進步已經超出了此前的預期。但是,許多人工智能領域的從業人員並未充分考慮其可能產生的社會影響。如今企業界、學術界和政府需要立即采取行動以應對相關的社會挑戰。

所謂Responsible AI,即負責任的人工智能。2018年,微軟發表《未來計算》(The Future Computed)一書,其中提出了人工智能開發的六大原則:公平、可靠和安全、隱私和保障、包容、透明、責任。在報告開始階段,沈向洋再次引用該原則,重申其重要性。

在報告中,沈向洋回顧了當前AI的進展,他認為,如今AI技術已經可以做決策,這是AI技術發展過程中非常重要的一步,但是人們依然缺乏對AI做決定這一過程的理解。舉例而言,當人類在生產電氣零部件時,都會有相應的檢查記錄,哪裏出現問題,就可以對操作文件進行分析,從而找出問題。但是,AI卻沒有這樣的環節,導致問題很難排查發現。

AI這一特點在微軟內部同樣表現如此,“我們對微軟 500名機器學習領域工程師進行了調查,我們問他們如何改善機器學習係統?在經過調查後,得出結論:如今機器學習工程師麵臨的最大問題之一是,他們知道出了一些問題,但是不知道具體是哪裏出了問題,也並不知道為什麼會出現問題。” 沈向洋說。

在對AI訓練結果的解釋性、AI的偏見上,研究人員的缺陷也在影響AI發展。沈向洋以圖形識別狗舉例,盡管研究人員可以創造準確率較高的識別算法,區別圖像中的狼和哈士奇,但仍無法解釋其中原理。實際上,AI的判斷並非通過圖片中的動物部分,而是通過圖片中除了動物之外的部分進行的。

在AI的偏見上,一個經典例子就是黑色人種的人臉識別。通常,AI對黑人女性比白人的麵部識別準確率要低。但經過調整再次訓練模型後,這種識別率的差距可以降低,達到可接受水平。從不斷的訓練中,研究者得出結論,這種偏見來自於訓練采用的樣本數據。因為研究者人員更多采用非黑色人種的數據樣本。

報告中,沈向洋還引用《麻省理工科技評論》的一則新聞報道,該報道稱。通過評估算法,AI可能將錯誤的人送進監獄。在沒有仔細評估的前提下,AI預測犯罪可能會加劇對深色皮膚人士的不平等,而非提高社會安全。

最後,沈向洋總結道,“我們是第一代和AI共存的人類,無論喜歡與否都別無選擇,人類得決定怎麼構建、使用AI。而一個由AI做決定、人類無法理解的世界是不能接受的。”

上一篇:微軟 Edge 瀏覽器已支持 Chrome 商店主題,可直接下載安裝 下一篇:微軟幫助1769所學校部署Office365線上教學服務

相關資訊

最新熱門應用

電腦問答