返回頂部
“隱身衣”“AI換臉”……這些都是自帶流量的熱詞。在第二十三屆高交會(huì)上,一家產(chǎn)學(xué)研機(jī)構(gòu)展示的“隱身衣”和“AI換臉”吸睛無數(shù):工作人員穿上“隱身衣”往智能攝像頭前一站,剛才還被識(shí)別的工作人員瞬間“消失”了。觀眾往鏡頭前一站,你的臉就可以被換到了一個(gè)正在跳舞的身體上!
這是在展示人工智能世界下的“金蟬脫殼”技術(shù)嗎?其實(shí)不是。這是清華人工智能研究院的官方產(chǎn)學(xué)研機(jī)構(gòu)瑞萊智慧科技通過現(xiàn)場技術(shù)演示告訴觀眾,算法漏洞、技術(shù)濫用等新型風(fēng)險(xiǎn)的出現(xiàn)已經(jīng)帶來了嚴(yán)峻挑戰(zhàn),人工智能安全治理成為一項(xiàng)重要課題。
引來很多觀眾圍觀
在本屆高交會(huì)專設(shè)的公共安全專區(qū)(暨第十八屆中國國際社會(huì)公共安全博覽會(huì))現(xiàn)場,這件“隱身衣”引來很多觀眾圍觀。
一款特制T恤上印刷了特定的圖案,能夠讓識(shí)別算法出錯(cuò)、捕捉不到目標(biāo),人一旦穿上便可以實(shí)現(xiàn)“隱身”。當(dāng)然,人工智能可以是尖銳的矛也可以是堅(jiān)固的盾。展會(huì)現(xiàn)場,瑞萊智慧還展示了業(yè)內(nèi)首個(gè)人工智能防火墻系統(tǒng),通過集成多項(xiàng)國際領(lǐng)先的對(duì)抗防御算法,能夠有效檢測和抵御針對(duì)人工智能系統(tǒng)的新型攻擊風(fēng)險(xiǎn),大幅提升人工智能系統(tǒng)的安全性。
用AI技術(shù)對(duì)抗“AI換臉”
當(dāng)前,火爆社交網(wǎng)絡(luò)的“AI換臉”正成為人工智能技術(shù)濫用的重災(zāi)區(qū)。一些明星、名人都曾經(jīng)遭遇過AI換臉技術(shù)的侵?jǐn)_。
研發(fā)人員表示,隨著開源工具的普及,AI換臉的技術(shù)門檻越來越低,因此被大規(guī)模用于非法偽造公眾人物肖像吸引流量牟利,甚至是色情宣傳、操縱輿論、網(wǎng)絡(luò)欺詐等違法犯罪行為。隨著技術(shù)的不斷升級(jí),現(xiàn)有的“換臉”視頻精度已經(jīng)實(shí)現(xiàn)肉眼難以辨別的程度,傳統(tǒng)人工審核團(tuán)隊(duì)束手無策。
DeepReal深度偽造檢測平臺(tái)
展會(huì)現(xiàn)場,記者看到了一款深度偽造內(nèi)容檢測平臺(tái)DeepReal,支持快速、精準(zhǔn)地對(duì)多種格式與質(zhì)量的圖像與視頻進(jìn)行自動(dòng)化的真?zhèn)舞b別,能為遏制和防范深度偽造技術(shù)的大規(guī)模濫用提供技術(shù)支撐。據(jù)介紹,其檢測準(zhǔn)確率高達(dá)99%以上。
瑞萊智慧副總裁唐家渝表示,伴隨規(guī)模化建設(shè)和應(yīng)用加速發(fā)展,保證人工智能“安全、可靠、可控”成為其未來發(fā)展最重要的趨勢。新安全問題需要新解決方案,為應(yīng)對(duì)人工智能新型安全風(fēng)險(xiǎn)需構(gòu)建新一代安全體系。隨著攻擊形式的不斷增加、安全問題的不斷升級(jí),對(duì)于未知威脅難以進(jìn)行風(fēng)險(xiǎn)預(yù)判和策略調(diào)整,因此需打造動(dòng)態(tài)升級(jí)、科學(xué)前瞻的防御機(jī)制。(廣州日?qǐng)?bào) 全媒體記者王納)
