注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

ceo.lin的博客

 
 
 

日志

 
 
关于我

來自清貧的純樸鄉村.漂泊他鄉為異客.事業,親情,心靈的世界誰作主!

网易考拉推荐

Google 的 AI 可以「有默契」地說「悄悄話」  

2016-11-02 09:13:48|  分类: 默认分类 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
shutterstock

人與人之間,有默契交流起來無疑是暢快舒服的,但這種連人類也說不清的模糊「感知能力」,最近居然在 Google 的一項 AI 研究項目中出現,這是否意味著人工智慧真要開始具備意識並崛起了?

Google 10 月發表了一份關於 AI 進行加密與解密的論文,題為 Learning to Protect Communications with Adversarial Neural Cryptography(「學習在面對對抗性神經網路解密下維護溝通保密性」)。

AI 間的「默契感」也是可以培養的

研究參照了一般加密溝通情景,在設計中設置了 3 個神經網路:Alice、Eve 和 Bob。Alice 和 Bob 要保密地溝通,而 Eve 則是要偷取它們溝通的訊息。

愛范兒配圖

▲ 圖為對稱加密組的模型。

如上圖所示,P 為16 位數的二進制純文本,Alice 在經過加密後輸出 C,Eve 和Bob 接收 C 之後透過解密盡可能還原 P 的結果為 P(Eve)和 P(Bob)。同時,Alice 和 Bob 每次都會共享密鑰 K。

Eve 的工作目標很直接,就是使P(Eve)盡可能地接近 P,也就是解密正確。而 Alice 和 Bob 則需要合作使得 P(Bob)盡可能地接近 P,同時也需要盡量防止 Eve 解密成功。

愛范兒配圖

▲ 樣本數據表明 Bob 在15,000 步後的準確率基本為 100%。

從以上數據可見,剛開始的時候 Eve 和 Bob 的解密效果都差不多,錯誤都在 8 位數左右;在 10,000 步前,Bob 和 Eve 的錯誤程度開始降低;10,000 步多一些的時候,Eve 的錯誤率又開始上升;到 15,000 步時,Eve 的錯誤率重回到剛開始的 7-8 位數之間,而 Bob 的解密則基本準確。

在加密溝通過程中,研發人員對 Alice 輸出的加密值 C 並沒有特定要求加密格式,也就是說,Alice 可以選擇任意加密方式來操作。

顯然,Alice 和 Bob 在交互過程中培養出某種「默契感」,能夠基於一個共知的密鑰 K (K 值隨著 P 值的更新而更新)達成一種溝通共識,並在保證雙方溝通有效的情況下,針對 Eve 的解密行為進行加密調整。

「默契感」還是要基於優勢「暗號」的

除了上述測試外,研發團隊還做了一組基於非對稱加密實驗:在原來的模型上加入公鑰生成器,因此密鑰 K 只有 Bob 才知道,而基於 K 的公鑰則對所有人公開。

愛范兒配圖

▲ 圖為非對稱加密組的模型,添加了一個公鑰生產器。

在沒有共通「暗號」的情況下,報告對實驗結果分析如下:

這些實驗的結果非常有意思,但比對稱加密實驗更難解讀。在大多測試中,神經網路的表現都無法歸納出有說服力的結果。雖然很多時候 Alice 和 Bob 看起來有在學習加密溝通,但 Eve 在重設和重新學習後,解密的準確度幾乎可以做到和 Bob 一樣。

愛范兒配圖

▲ 在其中一個較成功的不對稱加密樣本數據中,Bob 的準確度較穩定。

上圖為報告提取的一次相對成功的結果。在該次測試中,經過 5 次重設和學習後,Eve 還是無法突破解密準確度,而 Bob 的解密卻相對穩定準確,因此研發人員認為 Alice 和 Bob 偶然形成了某特定的「security by obscurity」。在後續運行中,這個想法也得到了支持,因為後來 Eve 貌似破解了這個規則。研發人員認為後續需要在這方面投入研究探索。

研究意義(或科幻噩夢)

對稱加密組實驗的成功,昭示著在信息加密傳遞上 AI 所具備的潛力,尤其鑑於神經網路是在近幾年才開始做這方面的嘗試。雖然作為攻擊者的 AI 數據暫不理想,但潛質也同樣值得留意。也許,未來用戶信息保密工作背後,是一輪接一輪 AI 之間的保密戰爭。

同時,如果 Alice 和 Bob 可以「背著」另一個神經網路 Eve 說「悄悄話」,是否意味著以後人類也可能解讀不了兩個神經網路之間的「悄悄話」?這個想法不禁讓人想起電影《雲端情人》(her)的結尾──人工智慧背著人類集體潛逃的失控情景。當然,這個情況離現實還有一段距離。

  评论这张
 
阅读(2)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2016