微軟 CEO 納德拉訪談: 人工智能的大方向與未來是什麼?

編者按：人工智能的未來到底應該是什麼樣的？它應該朝著什麼方向發展？在發展的過程中應該注意什麼？這些都是每一個關注科技發展的人在思考的問題。最近，O'Reilly Media創始人兼CEO Tim O'Reilly 在Linkedin上發表了一篇他采訪微軟CEO Satya Nadella的文章。在這個文章中，他們談論了人工智能的大方向與未來，並就人工智能發展過程中出現的問題，給出了自己的看法。文章由36氪編譯。

我與Satya Nadella見麵是在今年4月份，是為了我的新書《WTF?What’s the Future and Why It’s Up to Us》（譯者注：2017年10月10日發售）來采訪他。但這篇文章所想討論的大部分內容，並不是關於我的書，而是關於Satya的回憶錄——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》（譯者注：2017年9月26發售）。

我們都對科技的發展抱有樂觀的態度，我們堅信，人工智能帶來的挑戰是讓我們和社會定義什麼是真正的人類。未來將會是一個人工智能強化和增強人類能力的世界，而不是讓人類變得更加無用。這就是我們對話的基礎。

Tim：你在書中提到，人工智能帶來的挑戰將是定義一個宏大的、鼓舞人心的社會目標。你寫道：“1969年，肯尼迪總統承諾美國人要登上月球，這個目標的完成，在很大程度上要歸功於，它所帶來的巨大的技術挑戰，以及它所要求的全球協作。同樣，我們也需要為人工智能設定一個足夠大的目標，而且要超越任何可以通過改進現有技術來實現的目標。”我很喜歡這個想法，不知道你是否可以擴展一下。

Satya：如果你說，“哇，一個有視力障礙的人現在可以看到了……或者患有閱讀障礙的人可以閱讀了。”那將是一個真正的突破！而且，我們也能說“人工智能終於成為了一個真正帶來包容性的技術”，這將是非常有意義的，尤其是在我們談論人工智能可能會對我們世界造成巨大變革的時候。相反，我們可以引導人工智能在我們的社會中創造真正的包容，並全麵參與到我們社會中來。

這其中有很多的想法來自我孩子的經曆。因為我有一個特殊需要的孩子，他被“鎖”住了。我總是想，“要是他能說話就好了！”因此，當有人談到“腦機連接”時，我會說，“哇，現在想想這能做什麼！”

在一個我們要創造這種技術的世界中，我們甚至可以說：“這是終極技術”，這是通往超級智能的道路，指導我們的設計原則是每一件事情，指導我們的道德哲學也是每一件事情。在某種意義上，我們必須做出的最大的路徑依賴性決策將是“誰來設計超級智能”？

Tim：我自己書中的一個章節叫做“我們的天網時刻”。我的觀點是，人工智能的中一個方麵我們談論得不夠多，那就是，它可能是一個集體智慧。我們正在利用搜索引擎、社交媒體和金融市場構建集體智慧機製。而且我們已經表明了我們所說的這些人工智能，是為了優化人們的利益。

Satya:沒錯。盡管我們有各種各樣的認知偏見，但人類還是有很大的優勢。正如Herbert Simon所說，我們不再優化的時候，我們就滿足了。這實際上是有幫助的。有一種滿足是由我們共同的道德基礎所驅動的。現在，當你說，“這是一個應該優化的問題”，也就是人工智能，那麼我們就有問題要去解決了。

Tim：你也談到了增強人類的能力、經驗和智力。你說你想要專注於人類的天賦，比如創造力，同情心，情感，身體，洞察力等等，它們可以和人工智能混合在一起。

Satya：假設有大量的“人工智能”，那麼稀缺的商品就是真正的智慧。然後你會說，“什麼是真正的智慧？”

真正的智慧將會在最具人性的品質中找到，那就是同情和憐憫之心，而那些將是最重要的東西。在我們真正找到如何將其嵌入某些機器之前，我們必須將其與人類結合起來。

我們必須思考，教育應該對人類有什麼樣的影響。有了人工智能，也許你真的不需要學習傅裏葉變換。你也可以去做培養正念，你可能想要培養同情心。這就是我所說的一點。所有人都有一種強迫症，每個人都需要接受教育，這是事實。但是，我們是不是過分強調了STEM（Science，Technology，Engineering，Mathematics）？

Tim：在我的職業生涯中，有一個概念一直在發揮作用，Clayton Christenson（當今最具影響力的商業理論家之一）曾說過一個叫做 “高利潤守恒定律”（The Law of Conservation of Attractive Profits）的東西，即當一個原本價值很高的東西商品化之後，緊挨著它的東西突然間就會變得值價起來。我第一次聽到這個是在2004年左右。他和我在同一個會議上進行了交談。我在演講中談到了微軟是如何取代IBM的:PC硬件成為了一種商品，軟件變得有價值。我的觀點是，開源將使軟件商品化，而其他東西將變得有價值。最終我意識到這個“其他東西”將是大數據。Clay在談論他關於高利潤守恒定律的想法，我意識到，“我們說的是同一件事。”這項定律也完全適用於人工智能。由於人類認知的機械部分被人工智能商品化，人類獨有的部分將變得更有價值。

Satya：這是一個很好的說法。

Tim：所以在未來的經濟中，有很多基於關懷以及創造力的機會。創意經濟不隻有藝術和文化。每當產品成為一種商品的時候，我們就會找到新的方法，通過將它們與人類的創造力結合起來，使它們變得有價值。

Satya：事實上，這基本上是我們的一種癡迷，對吧？當我在看《我的世界》這一代人時，或者你甚至可以說是Snapchat一代人……對我來說，這一代人最鼓舞人心的一點是，它是關於創造、故事的瘋狂的看法。在《我的世界》中，男孩和女孩都在創造一些不存在的世界，隻有他們的想像力。

這就是我想要打造的一代。甚至在最新的Windows版本中。我們購買了每天有1億人使用的產品——Microsoft Paint，並說：“讓我們為3D創作做出絕對驚人的創意畫布”。因為，在一個現實增強和混合現實的世界裏，這就會成為現實。

Tim：你也談到了對大量數據進行處理的能力，以及更快地進行模式識別。在人工智能的發展過程中，有一種創造力被表達出來。你如何看待人工智能增強創意的過程？並提出創造性的方法來解決問題。

Satya：傳統的寫作工具不過是在拚寫、語法和短語糾正上麵提供幫助，現在我們在其中添加了人工智能，它們就成了完整的寫作輔助工具。我們正處於這樣的境地，你可以說，“我想寫得像Faulkner（美國小說家，曾獲1949年諾貝爾文學獎）一樣，”它會開始說，“這是你可能想做的事情。”

我沒有上過寫作學校，我隻上過工程學院，但我夢想成為一名偉大的作家，我需要這種人工智能來幫助我。

我之所以能做到這一點，是因為我看到了中國的小冰，也就是我們的對話機器人，包括人們對它的討論，以及在某一特定時段裏的話題和問題的數量。更多的原因是人們需要交談。人們在表達他們最深刻的想法。我當時說，“哇，這就是人工智能能夠產生移情作用的地方。”

Tim：我們之前也討論過人工智能成為第三個運行時的想法。讓我們來討論一下這個問題以及它是如何發生的。

Satya：我們最後一次討論的時候，我是這麼說的：“PC或手機操作係統是第一個運行時，第二個是瀏覽器和網絡，第三個是使用私人助手，它了解你，了解世界，了解環境，並在幫助你。”

然後我們說，“好吧，如果你同時進行思考、感知，最終采取行動，那麼這三個運行時就在那裏。”這個助手本質上體現了你思維的擴展，你知覺的增強，語音是一個，視覺是另一個，並且可以直接采取行動。這就是終極的運行時，對吧？

這就是為什麼在我的書中，我試著寫這三件事:

1）終極計算體驗是什麼？最終的計算體驗是與計算結合在一起的真實世界。這是混合現實。

2）這將要求人工智能在感知、認知和行動方麵取得突破。

3）然後我稍微有點離題了，說，“如果你想要創造那種計算能力，你必須打破馮諾依曼架構和經典計算的束縛。”

我們能聊聊量子計算機嗎？這就是我寫的第三件事。

Tim：我有點驚訝於量子計算在你的書中占了這麼大的篇幅。

Satya：進步是真實的——我的意思是，我們已經深陷其中。但問題是，它會以多快的速度成為現實。我不知道。但它不再是“哇，有可能嗎？”之類的驚歎。

Tim：你書裏很重要的一句話是：“我們想要的不僅僅是智能機器，還有能夠理解的機器。”這是當前人們對人工智能的一大擔憂，我們不會真正理解他們是如何得出結論的。當然，這也適用於人類。因為我們傾向於隻關注人類思想的理性一麵，所以我們沒有意識到，我們做了多少事情對我們來說，也是完全無法理解的。所以，這可以說是理性主義者的最後一聲呐喊。

Satya：當然。但我有兩種方式可以規避風險。一是問責製。“當你是一名設計師，你創造了人工智能，你需要負責任的時候，會發生什麼？”Tay的整個經曆確實對我們的思考產生了很大的影響。事實上，這是一種瘋狂的做法，因為好多人都針對它，並為它提供訓練數據，這些數據可能會劫持算法。這是誰的責任？我敢說這是我們的。這是我們的責任。

Tim：嗯，很明顯這是Facebook和假新聞問題。我與安全研究人員進行了非常有趣的對話，討論如何愚弄自動駕駛汽車。你怎麼能通過創造他們會在視覺領域誤解的東西來入侵他們呢？但現實社會中，將會有各種各樣的敵對幹預。我們還需要設計更強大的人工智能。

Satya：當人們說：“哦，人類，這些DNN（深層神經網絡）是神奇的。它們隻是在做一些事情，我們甚至不知道“…我同意這句話背後的真相，但是關於層數和權重的選擇——在它們的學習過程中，人類是做出了很多決定的。我們不應該這麼快就放棄這些我們創造出來的算法，我們應該對它們做出的決定負責。我想我會說，“好吧，在人工智能中，編程的道德標準是什麼？”

注：訪談有刪減。

編譯組出品。編輯：郝鵬程。