國(guó)家市場(chǎng)監(jiān)督管理總局主管

中國(guó)消費(fèi)者協(xié)會(huì)主辦

維護(hù)消費(fèi)者合法權(quán)益,引導(dǎo)消費(fèi)者合理消費(fèi)

當(dāng)前位置:首頁(yè) > 科技
防范“AI換臉”風(fēng)險(xiǎn) ZOLOZ Deeper問世
2024-04-16 17:18 本文來源:中國(guó)消費(fèi)者報(bào)•中國(guó)消費(fèi)網(wǎng) 作者:聶國(guó)春

中國(guó)消費(fèi)者報(bào)北京訊(記者聶國(guó)春)4月16日,深度偽造(Deepfake)綜合防控產(chǎn)品ZOLOZ Deeper在北京正式發(fā)布,該產(chǎn)品以攔截用戶刷臉過程中的“AI換臉”風(fēng)險(xiǎn),目前已率先應(yīng)用在身份安全領(lǐng)域。

ZOLOZ DEEPER產(chǎn)品介紹。資料圖片

1月,一跨國(guó)公司香港分部職員收到該公司英國(guó)總部首席財(cái)務(wù)官的信息,聲稱要進(jìn)行機(jī)密交易,分別邀請(qǐng)?jiān)摴緮?shù)名財(cái)務(wù)職員進(jìn)行多人的視頻會(huì)議。由于視頻會(huì)議中各人均顯示了與現(xiàn)實(shí)相同的容貌,職員不疑有詐,前后轉(zhuǎn)賬15次,共計(jì)2億港元。根據(jù)香港警方掌握的消息,詐騙者通過該公司的YouTube視頻和從其他公開渠道獲取的媒體資料,成功仿造了英國(guó)公司高層管理人員的形象和聲音,再利用深度偽造技術(shù)制作偽冒視頻,造成多人參與視頻會(huì)議的效果,然而會(huì)議內(nèi)只有參加的職員一人為“真人”。

ZOLOZ產(chǎn)品總監(jiān)陶冶介紹說,ZOLOZ Deeper搭建了端云一體的全鏈路技術(shù)體系,以應(yīng)對(duì)系統(tǒng)、服務(wù)器、應(yīng)用等多環(huán)節(jié)的深度偽造安全威脅。其前端通過精密的傳感器校驗(yàn)與多維特征動(dòng)態(tài)風(fēng)控,對(duì)攝像頭狀態(tài)、設(shè)備及網(wǎng)絡(luò)環(huán)境、輸入圖像等進(jìn)行嚴(yán)格審查,確保軟硬件環(huán)境安全無(wú)風(fēng)險(xiǎn),采集到的生物特征數(shù)據(jù)真實(shí)無(wú)篡改;在用戶操作過程中,運(yùn)用深度學(xué)習(xí)模型對(duì)用戶面部動(dòng)態(tài)進(jìn)行細(xì)致入微的分析,捕捉微表情、肌肉紋理、眼神流轉(zhuǎn)等細(xì)微特征,精準(zhǔn)判斷其是否為真人實(shí)時(shí)互動(dòng)。

作為螞蟻數(shù)科的科技品牌,ZOLOZ以生物識(shí)別技術(shù)見長(zhǎng),歷經(jīng)支付寶APP等大規(guī)模場(chǎng)景驗(yàn)證。據(jù)悉,螞蟻數(shù)科每個(gè)月會(huì)進(jìn)行超過2萬(wàn)次的攻防測(cè)評(píng),模擬上百種偽造攻擊情況,力爭(zhēng)跑在深度偽造技術(shù)的前面。

為持續(xù)提升ZOLOZ的安全水位,守護(hù)用戶的安全感,陶冶在現(xiàn)場(chǎng)宣布,ZOLOZ聯(lián)合螞蟻安全響應(yīng)中心設(shè)立了超百萬(wàn)的獎(jiǎng)金池,支持安全極客來挖掘ZOLOZ Deeper的漏洞,并通過“螞蟻集團(tuán)安全響應(yīng)中心”官網(wǎng)提交漏洞情報(bào)。

據(jù)了解,目前ZOLOZ Deeper主要用于基于圖像識(shí)別的身份安全認(rèn)證領(lǐng)域,基于視頻和實(shí)時(shí)通訊識(shí)別用于金融防詐和社交防騙的深度防偽產(chǎn)品還在開發(fā)中。


責(zé)任編輯:溫馨寧