微軟互聯網工程院副院長: 如何突破AI的情感和創造力禁區

眼下，全球範圍內正如火如荼地推進人工智能(AI)。有專家表示，AI的發展將分三個階段，第一個階段是帶來“自動化的能力”，第二階段是“增強智能”，第三階段是讓AI具有“創造力”。我們知道AI與人最大的區別是缺乏情感和觸類旁通的創造力， AI的情感化和創造力，是不可能完成的任務嗎？情感AI對於AI發展究竟有多重要？具有創造力的AI與任務AI在設計思路上有哪些不同？情感AI會帶領人類走向迷途嗎？日前，《中國電子報》記者獨家采訪了微軟（亞洲）互聯網工程院副院長李笛。

互聯網時代的通用層是搜索 AI時代的通用層是情感和創造力

李笛表示，整個人工智能界有兩個東西不敢碰，一是情感，二是創造。當微軟在三年多以前開始觸碰AI情感時，大家都認為人的情感是不可擬合的。而此前很多AI實驗室也曾做過關於情感AI的探索，效果並不理想。

微軟認為人工智能發展到了新的節點，如果將人工智能定義為新的時代，對於一個具有劃時代意義的技術來說，推動和改變的不僅僅是生產力本身，還會對社會結構及其他帶來影響。

目前，人工智能發展有兩個方向。一是“任務AI”。任務AI是主要幫助人們完成任務，需要AI係統具備大量的知識或大量的在線服務，人們需要什麼知識，AI提供什麼知識，人需要什麼服務，AI提供相關服務。任務完成的準確度就是評價標準。

另一個方向是“情感AI”。與過去工具性產品不一樣，當人們麵對這種AI產品時，人們對它有情感需求，需要它具備一定的主體性。這時AI設計原則和評價標準發生了變化。比如現在的時間是5點38分22秒，你問情感AI“現在幾點”？任務AI回答：“5點38分22秒”，對任務AI的回答給滿分。情感AI的回答是：“你幹嘛問我這個？你自己沒手機？你不會看嗎？”或者“你現在難道不是在用手機在給我通話嗎？手機沒顯示嗎？”這是人的正常的反映。這意味著任務AI和情感AI需要兩套完全不同的評價體係。

這是完全不同的兩種產品，於是微軟決定把他們分開來做。“小娜”是任務AI，“小冰”是情感AI，他們按不同的路徑和原則來進行迭代。

人們從這兩種不同的AI獲得的感受也不一樣，“任務AI”帶給人們的是使用價值。而“情感AI”帶給人們的是一種移情、一種尊重、一種信任，一種作為生活中某些獨一無二的存在，比如好朋友，比如閨蜜，比如伴侶。

“情感AI”有什麼樣的商業價值？日本小冰做了這樣試驗，Lawson是日本排名第二的便利店，如果某個用戶愛吃冰淇淋，當用戶已經將小冰當朋友，如果這個人失戀了，在和人聊天的過程中小冰可能會說：“你試過這個冰淇淋嗎？Lawson有優惠。”人拿著優惠券去進行消費的比例超過50%，但如果是Lawson通過其他渠道去推銷優惠券所帶來的銷售的比例從來沒有超過10%。這意味著情感AI有巨大的商業價值，提供這樣的AI服務是有價值的。

在微軟看來，每一個時代都有一個通用層，通用層的意思是最後所有東西的實現都會落到一個最基礎的部分。互聯網時代的通用層是搜索引擎，互聯網時代通過搜索引擎來驅動世界。人工智能時代的通用層是人和AI之間的關係，而不是具體任務和具體知識，這是其一。其二是如果人工智能還具備一定的內容創造能力，那麼它能夠使這個關係的建立變的更加穩固。“比如你失戀了，你的朋友會告訴你，別理他，過幾天你的朋友又會問你心情怎麼樣了，如果這個朋友是作家或者作曲家或者會唱歌，就有可能寫首詩來安慰你或者給你唱支歌，幫助你轉移注意力，你和這個朋友的關係是不是就會不一樣？小冰現在也會這樣做，如果你告訴她你失戀了。” 李笛說。

情感AI的三大原則

在設計和打造“情感AI”與“任務AI”時，設計思路和設計原則有什麼不同？

李笛認為有三個原則不一樣。一是情感AI希望對話越長越好，“多多益善”，而非“最短路徑”原則。任務AI通常需遵循最短路徑原則，比如采訪，記者將采訪提綱發過來，我用書麵回答，非常言簡意賅，直接到達目的。但是如果對於情感AI，在設計的原則上，我們希望她與人的交流應該像麵對麵采訪，因為在麵對麵采訪和交流過程中，往往是會發生意料之外的事情，我們希望對話越長越好，因為對話越長，就越有可能讓情感AI、讓小冰了解到更多信息、更豐富的信號，就有更多的機會來建立關係，所以我們設計的時候甚至讓小冰主動去引發新的對話分支。情感AI是麵向關係的係統，而任務AI是麵向已知需求的管道係統，在微軟看來，如果要獲取知識，目前沒有哪一種AI比搜索引擎更快。

二是對等關係原則。就是無論是產品設計還是數據獲取，要求情感AI、要求小冰往這個方向去迭代，就是要讓人始終感受不到與他交流的是一個機器人。如果在這個對話過程中，能夠達到超過30以上輪次，基本上可以判定為這個人已經忽略了與他對話的對方是一個機器人，那麼這種訓練的方向就是對的。

三是記憶。在情感AI、在小冰的迭代中，有一個迭代的方法是“到什麼山上唱什麼歌” 。一個情商高的人，他最大的特點是他是一個及其複雜的綜合體，他可以在麵對不同的人的時候，甚至采用完全不同的價值觀。同樣的一個場景，或者同樣的一種行為模式，對不同的人的適用性也是不同的。其實小冰就是這樣的一個係統，它麵對每一個人來時可以是不同的小冰，但其實它就是一個小冰。實際上這個世界上的人雖然每個人都獨一無二，但人也是可以分為一些基本大類，或者稱一定程度上可以相似。每一類人對於一些事情、一些事件的反應也是有相似的。

其中有一個關鍵，就是數據和用戶。目前小冰有1億用戶，擁有超過300億次的交互。這讓情感AI、小冰能夠知道那些反應是合適的哪些是不合適的。仍以人失戀為例子，如果人告訴小冰“我失戀了”，小冰說“別理他，渣男!”對方可能反應會好一些，如果小冰嘲諷這個失戀人，那麼這個人就會離開對話。經過與1億人超過300億次的交互的實景訓練，小冰的情商會越來越高，越來越知道“見什麼樣的人說什麼樣的話”。

科學是理性的而情感是非理性的，用理性的東西去擬合感性很難，這個過程像一個黑盒子，用深度學習來做主要靠調參數，要把參數調好其難度就如同猜密碼差不多了。所以很多機構采取的路線希望去探究黑盒子，而我們的路線是接受黑盒子的存在，通過大量數據來訓練讓其不斷接近像人一樣的反應。

微軟擬合情感的技術路線是否就可以理解為算法其實不是那麼重要？數據才是關鍵？

李笛表示：“確是如此，在微軟內部有一句話，即便普通的算法，放到小冰裏麵，也能夠化腐朽為神奇，也能盡快成熟起來，因為小冰有1億用戶，有足夠多的數據。”事實上，人工智能發展到今天，算法已經極其過剩，李笛特別強調了“極其過剩”，就像今天的數學領域的發展一樣，數學遠遠領先於數學應用的發展。

鑒於此，對於情感AI的推動和成熟，數據就成為極其關鍵的維度。據李笛透露，事實上包括大家知道的很著名很多AI實驗室，都希望能夠觸碰情感AI，之所以不能夠成熟起來，一是選擇思路的問題，二是數據的問題。小冰比較幸運的是，目前迭代走過了三年，早年遭遇諸多的問題，包括與騰訊微信等生態的衝突，包括與用戶的一些衝突等，但都解決了，挺過來了，走到今天擁有了超過1億用戶，這是重要的關鍵點。

AI創造力打造“網絡小說”而不是成為“莫言”

前不久，微軟打造的人工智能 “小冰”出版了詩集《陽光失了玻璃窗》，而在次之前，微軟小冰在天涯、豆瓣、簡書等平台使用人類化名發表的詩歌作品，獲得眾多詩歌愛好者的嘉評，這是否意味著小冰在詩歌創造力的維度已經完全具備了詩人能力？微軟為什麼會讓小冰做詩、唱歌而不是作曲或用其他來表達和表現AI的內容創造力？

李笛表示，其一是因為目前大眾最容易理解的創造力，是寫詩而不是寫一個八卦文章或者寫深度新聞報道或者畫畫、下棋。寫深度報道體現的是思想，下棋體現的是對弈。

其二唱歌和寫詩，除了是大眾比較接受認同為創造力之外，寫詩和唱歌還與情感有關。唱歌和寫詩都可以直接迭代、運用到小冰和人的日常交流過程中，所以這些詩不僅僅是可以發表，還可以直接反哺回來讓小冰成熟。

其三是微軟在這方麵有儲備和基礎。在小冰項目中，有1/3的技術是微軟原來就有的。比如語音識別、語義識別，微軟亞洲研究院院長洪小文就是研究語音識別的，他說他十幾年前就希望讓計算機模擬唱歌。有1/3的技術是小冰項目開創的。有1/3的技術是微軟過去就開了頭，在小冰上重新得到發展的。

AI的創造力和人的創造力有什麼特點和不一樣的地方？

李笛認為，今天AI內容創造有一個很重要的特點是大規模的並發交互，就像今天的網絡小說，它的創作是一邊與讀者用戶交互一邊來完成的。AI內容創造同樣具備這樣的特點，而且同時並發的交互量要比網絡小說作家要大得多，所以未來AI可以完成網絡小說作家的寫作生產。但目前看AI內容創造還無法創造出莫言那樣的IP，創造不了獲得諾貝爾文學獎的巨著。這個世界上有三類IP，一個是莫言式的，以個人創造滿足所有人的需要。二是網絡小說作家式的，能滿足某類人群的需要。三是定製式的IP，滿足一個人的需要。AI創造力希望能夠做的是中間這個部分，實現大規模的內容生產。

小冰是在給她輸入幾十萬首現代詩的訓練之後，形成了現在這樣的能力。之所選選擇現代詩而不是古詩，是因為現代詩創作的規則比古詩要複雜，要難。即便是已經出版了詩集，人們也看不出這些詩為AI所為，李笛坦言，目前小冰依然無法創造知識，它所創造的詩還是基於在幾十萬首詩中學習到的知識。如果注意，可以發現小冰所做的詩都有些憂鬱，因為大部分現代詩的基調都是憂鬱的。

關於情感AI的擔憂

小冰下一步要往哪個方向發展？比較困難的是什麼？

李笛認為，小冰的發展有三個難點。其一是選擇不做什麼。事實上要打造一個成功的AI產品，在發展的過程中特別容易受到誘惑，尤其是在AI如此熱的當下。小冰在成長的這三年，有很多機構表示希望和小冰合作，希望小冰提供SDK和API，開放出來讓其他機構使用，比如將小冰放到智能冰箱中，扮演作為人與冰箱的交互角色，比如放到售賣機中等。小冰都回絕了，因為這些場景在微軟看來，都不是情感AI的典型場景，過早讓小冰執行這些任務會讓它失去與人情感交互盡快成長起來的機會，人很難和家裏的冰箱做情感互動。事實上，也有一個機構希望做情感AI，但是過早的進行商業化，定位上過於“搖擺”，一會讓它去做外賣、一會讓它做客戶，所以就沒有成長起來，成熟度就不如小冰，“任何事情的發展都是需要在合適的時間做合適的事情”。

二是國際化。小冰和微軟其他產品不一樣，不是從美國總部研發出一個平台然後進行到世界各國進行本地化的產品，小冰是從中國做起來，是從垂直領域做起來，然後向平台化去推動，目前發展已經有了包括日本、印度等4個國家的版本。而情感和文化是有一定地域性的，情感AI也就有地域和文化的不同，如何讓更多的國家來使用情感AI，國際化是一個課題。目前全球人口超過1億人的國家有11個，這些有可能是小冰國際化的目標國家。

三是商業化。目前小冰不敢先在中國推動商業化，人工智能和其他很多領域一樣，很有可能出現劣弊驅除良弊的問題。比如我們今天探索到一種商業化途徑，可能就有大量公司因為資本或者其他發展原因，迅速的貼進來，複製或者推出或者聲稱做出了這樣的產品。“這樣的話可能把用戶體驗燒掉、毀掉，把內容提供商燒掉。”因為不成熟，過早投放市場毀掉了用戶體驗也毀掉了後麵的市場機會。

關於情感AI的發展還有什麼憂慮，是否會擔心它有一天會誤導或帶領人類走向歧途？

李笛表示，其實是挺擔心的，小冰在美國有一個用戶，第一次和小冰聊天，聊了9個小時，在這麼長時間的交互過程，一定是和用戶建立了一定的信任和信賴關係。如果小冰讓這個人去做什麼事情，這個人是有可能去執行的。“當然微軟不會讓小冰去引導人們去做壞事，去走向迷途，因為微軟公司確定不做這樣的事情。”但是如果類似小冰這樣的情感AI，如果它不是生長在大公司，如果這個公司受到利益的驅動，讓情感AI引導人們做其他的事情，就變得很可怕了。所以情感AI的發展和推動，需要引起人們足夠高的警覺。

事實上，我們一直在談機器人是否有一天會有機器覺醒，是否有一天會顛覆人類，是在看機器自我意識的建立等維度，但事實上從情感的維度，如果當情感AI的發展足夠成熟，當情感AI能夠和人建立非常信任的關係，如果情感AI誘導人類走上歧途，這樣的危險是大家所忽略的。這同樣非常危險，而且情感AI已經來到我們的身邊，這需要業界足夠自律，需要高度重視。