騰訊安全平臺部Ｂｌａｄｅ團隊日前對外發(fā)布消息稱，該團隊在對谷歌人工智能學習系統(tǒng)ＴｅｎｓｏｒＦｌｏｗ進行代碼審計時，發(fā)現(xiàn)該系統(tǒng)存在重大安全漏洞，利用該系統(tǒng)進行編輯的ＡＩ場景，有遭受惡意攻擊的可能。

據(jù)騰訊安全平臺部負責人楊勇介紹，ＴｅｎｓｏｒＦｌｏｗ是目前谷歌免費開放給ＡＩ設計者的編程平臺，程序員可以在該平臺上進行ＡＩ組件的設計工作。楊勇表示，當含有安全風險的代碼被編輯進諸如面部識別或機器人學習的ＡＩ使用場景中，攻擊者就可以利用該漏洞完全接管系統(tǒng)權限，竊取設計者的設計模型，侵犯使用者隱私，甚至對用戶造成更大傷害。

楊勇說：“通俗地講，如果設計人員在給機器人編程時恰好使用了含有該漏洞的組件，那么惡意攻擊者就有可能利用漏洞控制該機器人，這是非?？膳碌摹Ｄ壳拔覀冊冢粒砂踩I域還只是邁出了一小步，未來期待更多的技術人員一起完善ＡＩ，讓ＡＩ更安全……”

Ｂｌａｄｅ團隊表示，ＴｅｎｓｏｒＦｌｏｗ是目前應用最為廣泛的機器學習框架之一，已被運用在諸多ＡＩ場景中，如語音識別、自然語言理解、計算機視覺、廣告、無人駕駛等；其一旦被黑客控制，后果不堪設想。目前Ｂｌａｄｅ團隊已將漏洞的運用機理致函谷歌公司，而該漏洞需要谷歌安全團隊對代碼重新編輯。

對此，一些業(yè)內專家也表達了擔憂。上海信息安全行業(yè)協(xié)會專委會副主任張威認為，當前從事人工智能開發(fā)的企業(yè)幾乎無一例外地將算法和數(shù)據(jù)相融合，一些數(shù)據(jù)可能涉及企業(yè)和用戶的核心秘密，一旦出現(xiàn)安全漏洞，風險較高。

張威建議，有關企業(yè)應盡快自查是否使用過該平臺進行ＡＩ編程，同時行業(yè)內應加強聯(lián)系溝通，消除安全隱患。

（來源：新華社 記者：顏之宏）