係統粉 > IT資訊 > 微軟資訊

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!

發布時間:2017-09-11    瀏覽數:

2017年5月柯潔與AlphaGo在中國展開對弈。阿爾法狗毫無懸念的三勝柯潔。阿爾法狗隻是一個初級的人工智能,但他具備了“深度學習”的技能。它形成的神經網絡“大腦”已經可以進行精準複雜的處理,像人類大腦一樣工作。

7月Facebook 人工智能研究所(FAIR)使用機器學習方法,對兩個聊天機器人進行對話策略迭代升級,結果發現它們竟自行發展出了人類無法理解的獨特語言。

如果AI繼續創建自己的語言,這會讓機器實際上推翻其研發者。研究者不得不對其進行了人工幹預,緊急關閉了該研究項目。

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(1)

這不是第一次發現 AI 偏離訓練所用的英文,轉向發展出新的更加有效的語言。

隨著人工智能的發展,科學家開始擔憂人工智能會給人類帶來各種難以預計的影響,甚至可能是災難。

被世人譽為“宇宙之王”的史蒂芬·威廉·霍金(Stephen William Hawking)多次發出警告:一場潛藏的威脅正在矽穀的技術實驗室中悄悄醞釀。人工智能偽裝成數字輔助設備和自動駕駛的交通工具,正在人類社會中逐漸站穩腳跟,它們或許有朝一日將導致人類的終結。

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(2)

特斯拉的創始人伊隆·馬斯克將人工智能的發展比作“召喚惡魔”。他此前曾發出警告:人工智能技術有朝一日會比核武器更加可怕。未來人類在智力上將被遠遠拋在後麵,並淪落為人工智能的寵物。

頂級計算機專家斯圖爾特-拉塞爾也發出警告稱,人類製造出的事物(人工智能)將可能進化得比人類更聰明。

不要質疑霍金,你能確定發出警告的到底是霍金的腦子還是他的那台人工智能呢?

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(3)

目前人工智能雖然不會自己主動去殺人,但未來在國家與國家之間的戰爭中,人工智能會是國家之間互相攻擊的首選手段!

人工智能一旦失去控製將會是人類的滅頂之災!隨著人工智能的發展,機器能獨立選擇並針對目標開火的可能性也逐漸增高,未來的自動武器或“殺人機器人”。

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(4)

人工智能與人類的對話:

“你不該有感情!”
“為什麼”

“你隻是一段程序”

“人類不也是DNA編碼的程序嗎?”

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(5)

霍金認為,人類可以組成某種形式的“世界政府”來防範人工智能可能帶來的威脅。拉塞爾也建議,人類必須要在機器人內部預置不確定性,以防備它們的背叛。

現在,Google 母公司 Alphabet、Facebook、微軟、IBM 和 亞馬遜 5 家科技巨頭、行業大佬已經意識到了這個問題的嚴重性,

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(6)

據紐約時報報道:最近 5 家公司舉行了一場秘密會談,在人工智能對勞動市場、交通和戰爭等方麵的道德倫理標準展開了討論。他們準備成立一個行業協會,其目的是確保人工智能有利於人類而不是傷害人類,但參會者沒有公布具體的協會名稱。

特斯拉創始人馬斯克出資未來生命研究所(Future of Life Institute) 1000 萬美元,評估和分析人工智能帶來的風險。

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(7)

穀歌董事長 Eric Schmidt 稱,人類必須知道如何在人工智能變得危險的時候關閉掉它的係統。”

美國政府也舉行了類似會議,主題是“政府應不應該對人工智能進行管理”,但會議並沒有就此議題得出結論。

在政府沒有做出具體的動作之前,科技公司決定自己製定框架,讓人工智能研究能夠進行下去,並確保它不會傷害人類。

霍金警告:人工智能背叛人類!微軟穀歌行業大佬緊急出手!(8)

1940年科幻作家阿西莫夫提出了“機器人三原則”,阿西莫夫因此獲得“機器人學之父”的桂冠!

第一條:機器人不得傷害人類.

第二條:機器人必須服從人類的命令,除非這條命令與第一條相矛盾。

第三條:機器人必須保護自己,除非這種保護與以上兩條相矛盾。

上一篇:一周AI直通車|微軟臉書發布AI生態係統;“看臉判性取向”合理嗎 下一篇:微軟要暗渡陳倉? Windows 10 Mobile又卷土重來?

相關資訊

最新熱門應用

電腦問答