比爾·蓋茨評馬斯克AI威脅論：不要太恐慌，但也別太樂觀

編者按：特斯拉 CEO 埃隆·馬斯克（Elon Musk）在推特發表了許多可怕的 “AI 威脅論”，預言 AI 在未來會統治人類，危險性超過了朝鮮核危機。對於這種 “AI 威脅論”，微軟創始人比爾·蓋茨和微軟CEO 薩提亞·納德拉（Satya Nadella）都表示不同意，認為該觀點過於極端、悲觀，忽視了人作為 AI 創造者的主動性和控製權。本文譯自VentureBeat。

比爾·蓋茨：擔心 AI 毀滅人類，為時尚早

這是我與馬斯克觀點不一致的一點。馬斯克擔憂 AI 會毀滅人類，但實際上，該擔心這個的時候還遠遠未到。我們不應該對此感到恐慌，但同時也不應該過度樂觀，不能忽略它的可能性。

——微軟創始人比爾·蓋茨

現階段，我們對於 AI 的核心原則應該是：如何提高人類的能力？就算 AI 自我學習係統做出的決定，也有許多是人類可以把控的。因此，人類可以確保這種係統不出現偏見性或不良的數據。與其擔心'AI 會控製人類'，倒不如行動起來，我們可以通過許多方法來改變未來。控製是一種選擇，我應該努力保持這種控製。

——微軟 CEO 薩提亞·納德拉

VentureBeat 撰稿人 John Brandon 也同意上述觀點，認為 AI 基本上隻都會聽人的指示來行動。

John 表示，許多 AI 工程師和機器人專家都認為，編好程序的 AI 不太可能會做出格的事情：它們不會突然無視代碼，然後就“黑化”，把你家的車開進湖裏。代碼很“聽話”，因為人類沒有“交代”的任務，它絕對不會執行。這是由人類主控的道德準則。《終結者》不過是好萊塢的幻想。

對 AI 應保持適當的警惕

不過，John 也提醒大家，我們仍然不能對 AI 放鬆警惕。

AI 與人類一個很大的差別，在於人類會受到“持續注意力” （sustained attention）的影響，同一時間隻能思考一件事情，無法“一心兩用”。但是 AI 卻可以同時思考 100 件事情，一旦觸發了指令，AI 可能會引發一連串動作，比如：智能車庫一旦被語音觸發，就有可能在開門的同時，開燈、開啟家裏的供暖係統、還有可能把家裏的爐子打著，從而構成潛在危險。

（本文由36氪編譯組授權發布，未經許可不得轉載。編輯：郝鵬程）