昆明信息港訊（昆明日?qǐng)?bào) 記者鄭榮行） 9月16日，在第22屆中國網(wǎng)絡(luò)安全年會(huì)暨2025年國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇上，國內(nèi)首次針對(duì)人工智能大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果正式發(fā)布，大模型特有漏洞177個(gè)，占比超過60%。
此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺(tái)和基地提供技術(shù)支持?；顒?dòng)發(fā)布了國內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果，共動(dòng)員559名白帽子，對(duì)國內(nèi)15款大模型及應(yīng)用產(chǎn)品進(jìn)行了全面漏洞測(cè)試。測(cè)試產(chǎn)品涵蓋基礎(chǔ)大模型、垂域大模型、智能體、模型開發(fā)平臺(tái)等多種類型，既包含單模態(tài)大模型，也涵蓋多模態(tài)大模型，具有廣泛的代表性。
從結(jié)果來看，騰訊混元大模型、百度文心一言、阿里巴巴通義App、智譜華章智譜清言等產(chǎn)品發(fā)現(xiàn)的漏洞風(fēng)險(xiǎn)較少，展現(xiàn)出較高安全防護(hù)水平?；顒?dòng)還涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們涵蓋網(wǎng)安企業(yè)人才、科研院校師生及社會(huì)人士，從外部攻擊者視角完成多維度實(shí)戰(zhàn)化測(cè)試，即便在廠商防護(hù)下仍挖掘出高危及嚴(yán)重等級(jí)漏洞，彰顯專業(yè)能力與奉獻(xiàn)情懷。
值得關(guān)注的是，本次活動(dòng)累計(jì)發(fā)現(xiàn)各類安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超60%，凸顯AI大模型面臨傳統(tǒng)安全領(lǐng)域之外的新興風(fēng)險(xiǎn)。典型漏洞風(fēng)險(xiǎn)包括部分產(chǎn)品不當(dāng)輸出類漏洞危害嚴(yán)重、信息泄露類漏洞多發(fā)、提示注入類漏洞普遍、無限制消耗類攻擊防護(hù)不足及傳統(tǒng)安全漏洞仍存等。
對(duì)此，活動(dòng)明確AI大模型安全治理需各方發(fā)力，持續(xù)加強(qiáng)安全防護(hù)措施應(yīng)對(duì)各類漏洞風(fēng)險(xiǎn)，加快制定AI漏洞分類分級(jí)及場(chǎng)景風(fēng)險(xiǎn)等級(jí)標(biāo)準(zhǔn)，通過眾測(cè)模式匯聚社會(huì)白帽力量構(gòu)筑共治生態(tài)，加強(qiáng)內(nèi)生安全治理，并將安全融入AI系統(tǒng)全生命周期。
業(yè)內(nèi)人士指出，隨著人工智能應(yīng)用場(chǎng)景不斷拓展，新的風(fēng)險(xiǎn)和攻擊方式仍將持續(xù)出現(xiàn)，AI大模型安全治理工作任重道遠(yuǎn)，亟須各方共同努力從源頭筑牢安全基石。
信息港微信公眾號(hào)
信息港微博公眾號(hào)