蘋果 Siri 也許很容易受到亞音速命令的攻擊

類別: IT

前幾天 I/O 大會上,谷歌 Duplex 語音 AI 與商家的對話讓人印象深刻,它展示了在複雜上下文的情境中幫助主人進行訂餐與預約理髮服務的操作,全程除了邏輯線上,語氣也十分生動,與真人別無二致,贏得陣陣驚呼。甚至,據報導,谷歌母公司 Alphabet 董事長 John Hennessy 在事後接受採訪時確認,Duplex 已經通過了圖靈測試。

AI 的突破已經一次又一次為我們帶來驚喜,AI 語音助手也在不斷變得更加智慧與逼真,然而,隨之而來的各種安全問題也引發了人們的思考與恐慌,大到 AI 擁有自主意識後會給人類的命運帶來怎麼的變革,小到 AI 物聯網產品的安全隱患。近日,一項新的研究就表示,谷歌語音助手和其它同型別基於語音命令的人工智慧服務,如亞馬遜 Alexa 和蘋果 Siri,可能會很容易受到亞音速命令(subsonic command)的攻擊。

該研究稱,這些亞音速命令不能被人類聽到,但是 Google Assistant、Siri 和 Alexa 等工具則可以檢測到這些命令,也就是說如果這些指令可以容易地在不知情的情況下被下達給你的語音助手。

據紐約時報報導,這項研究由美國伯克利和普林斯頓大學的團隊以及中國的浙江大學進行。他們目前已經創造了一種方法將 Google Assistant、Siri 和 Alexa 聽到的聲音替換為人耳無法聽到的音訊檔案。雖然人耳聽不到,但是這種音訊卻可以被機器學習軟體聽到並執行。

研究人員聲稱網路犯罪分子可以使用這些亞音速命令來造成各種破壞。他們可能會在 YouTube 視訊或網站上放入音訊,導致 Google Assistant 在未經使用者同意的情況下線上訂購產品,啟動惡意網站等等。如果像 Google Home 這樣的裝置,這些隱形命令可能會讓安全攝像頭、顯示燈熄滅關閉,而門會被解鎖。

目前還沒有相關資訊表明這些亞音速命令被實際用作攻擊手段使用,Google、蘋果和亞馬遜都聲稱已經採取了措施解決了該問題。

來源:androidauthority

蘋果 Siri 也許很容易受到亞音速命令的攻擊原文請看這裡