有必要擔憂人工智慧造反嗎?

類別: 新奇

有必要擔憂人工智慧造反嗎?
最近,Elon Musk 做客 CNBC,就投資的人工智慧研究公司 Vicarious 接受了採訪:

問:你投資 Vicarious 的動機是什麼?這個公司的主要從事何種研究?它目前的成果如何?

Musk:公司主要開發“遞迴皮層網路技術”,用以模擬人類大腦。

問:你希望保證這項技術良性發展,而不是像《終結者》中的那樣危害人類?

Musk:是的。電影中的AI技術確實造成了嚴重後果,但並不是開發初衷。沒有人希望造成這樣的後果,不過我們必須提高警惕。

問:這是不是很諷刺。在開發最先進技術的同時,卻擔心這種技術會帶來惡果。

Musk:的確。

的確很諷刺,這個像“鋼鐵俠”一樣的技術狂熱分子,卻在擔心人工智慧某天會毀滅人類。而他投資研究公司的目的不是金錢,而僅僅是”監視“人工智慧技術的發展。

如果如電影《超驗駭客》中描述的那樣,或許人工智慧某天真的會消滅人類。不過,我們有必要如此擔憂嗎?

有必要擔憂人工智慧造反嗎?
谷歌就如此擔憂

紀錄片製作人,同時也是《我們最後的發明:人工智慧及人類時代的終結》一書作者 James Barrat 在接受採訪時也談到:

最終,我們創造的機器人,將比從事人工智慧研究的專家還聰明。它們將具備快速學習能力。擁有自主學習能力後,它們將自主探索被設計時設定的目標,如太空開發,下棋,以及股票分析。為達到目標,它們將尋求更多的資源,如能量和金錢。它們會想辦法讓自己不當機,不斷電。它們還會開發自我保護,資源獲取程式。最終會不擇手段獲取自身所需。

不過,也有來自反面的聲音:

大致來講,如果未來機器人能與人類實現協作,將為科技創新迎來新篇章,為改善教育,消滅疾病等領域作出重要貢獻。屆時,機器人將可能擁有人類全部的情感(如飢餓和性慾),可以與人類和諧共處,而不是滅絕我們。

雙方觀點都無傷大雅,但爭論的同時我們有沒有想過,既然人工智慧是滅絕人類的潛在因素,我們為何還不遺餘力地探索開發?牛津大學人類未來研究院的 Stuart Armstrong 博士給出了觀點:

“人工智慧之所以被人們認為是威脅,一大原因就是它實在很智慧,如果向邪惡方向發展,確實有可能滅絕人類。不過還存在其它許多滅絕人類的威脅,不過其中就算是‘核冬季’(指核武器爆炸引起的全球性氣溫下降)真的出現,也不會讓所有人消失。”

從某些角度看,我們對待人工智慧的態度,其實和對待外星人的態度差不多:未知數太多,擔憂太多,卻並沒有充分的證據令人信服,它是否真的會終結人類。

[claudio via psmag]

有必要擔憂人工智慧造反嗎?原文請看這裡

推薦文章