眼爆科技

機器人變聰明不可怕,可怕的是它們又蠢又跳脫

時間:2018-07-31 15:05??編輯:眼爆科技

生日当天买彩票 www.vpgyjt.com.cn 機器人聰明不是事兒,最怕他們數量多又猜不透。

編者按:自從機器人誕生以來,人類社會生產效率有了很大的提高。各種生日当天买彩票的進步令人驚奇又振奮,但也有人提出警告,擔心AI的進步、機器人的發展會是人類的末日,曾為我們服務的機器將反客為主,甚至對人類進行大清洗,這類題材的科幻小說電影層出不窮,也正反映了人類潛意識中的恐懼。目前生日当天买彩票的發展仍未超出人類掌控,機器人還不那么聰明。但萬一有一天,這些不那么聰明的機器人湊一塊兒了,會發生什么呢?在跟人類開戰之前,可能機器人之間就開始內斗了。本文編譯自Fast Company的原題為Don’t Fear Super-Intelligent Robots. Fear Dumb, Unpredictable Ones的文章。

Elon Musk:人工智能是我們目前面臨的最大威脅。

人類發展人工智能,就像在召喚惡魔。我們以為有五角星和圣水就可以抵御惡魔。才不是呢。

特斯拉CEO Elon Musk曾多次警告人工智能對人類的潛在威脅。但是他錯了。簡單的AI程序系統,盡管個別的機器人表現不錯。但有些機器人傻的程度令人震驚,比如傻乎乎的維基百科機器人。

世界人工智能一百強公司的領導們經常提心吊膽,擔心人工智能發展迅速,我們將面臨殺手機器人的威脅。這些AI公司的頭目們,包括特斯拉的Elon Musk和谷歌旗下DeepMind的創始人,甚至給聯合國寫了封公開信。他們警告說,自動武器技術如果落入恐怖分子和獨裁者之手,或者是被黑客入侵,后果不堪設想。

蘋果聯合創始人Wozniak說,我們建造設備來把自己的活兒都干了,早晚有一天他們思考速度會超過我們。那時他們就會將反應‘遲鈍’的人都淘汰掉,來提高效率。

然而,我們實際面臨的威脅其實比想象中的更大。運行過程中,不僅可能人類行為不當,機器本身也有可能出問題。研究顯示,復雜系統的行為可能比個別系統行為的加和更難預測。某種程度上,這也意味著人類社會總體的表現也可能與其中個人的表現非常不同。這一點同樣適用于科技領域——簡單的AI機器人單獨行動時可能運行良好,但一個由這些簡單AI機器人構成的生態系統,能傻到讓你瞠目結舌。

經濟市場和全球天氣這種復雜系統中,單獨元素之間一般都不是簡單線性關系。所以這些系統很難建模,很難理解。例如,氣象學的研究雖然已經進行了很多年,我們還是不能做出準確的長期天氣預測。這一類系統對細微變化非常敏感,其中的反饋回路有時是爆炸性的。同時,想要準確地知道這類系統在任何特定時刻處于什么狀態也異常困難。這種由一大群單獨行動的個體組成的復雜系統,不管是人類社會還是簡單AI機器人生態系統,本身就是難以預測的。

  • 共3頁:
  • 上一頁
  • 1
  • 2
  • 3
  • 下一頁




  • 上一篇:形式重于市值,餐廳機器人離智能化還有一段路要走 下一篇:北京機器人停車場運營滿月 停車入庫實現全自動化