中國(guó)經(jīng)濟(jì)周刊-經(jīng)濟(jì)網(wǎng)訊 隨著環(huán)球影城走紅，阿里安全的圖像偽造檢測(cè)AI發(fā)現(xiàn)，有不法分子試圖通過(guò)偽造的環(huán)球獨(dú)家旅游咨詢點(diǎn)線下門臉圖像和“票務(wù)咨詢”電話進(jìn)行欺詐牟利，經(jīng)AI技術(shù)迅速自動(dòng)識(shí)別該門臉圖的PS痕跡，工作人員在線下地點(diǎn)再次進(jìn)行人工審核，發(fā)現(xiàn)實(shí)際區(qū)域并無(wú)該咨詢點(diǎn)，且該“票務(wù)咨詢”電話為詐騙電話，于是攔截了這一申請(qǐng)。

偽造圖像檢測(cè)AI發(fā)現(xiàn)用戶上傳的圖片存在修改痕跡

安全專家介紹稱，近年來(lái)大量詐騙違法人員引入偽造各類證件、轉(zhuǎn)賬記錄等技術(shù)手段實(shí)施詐騙，識(shí)別破解難度大幅增加。2月17日，阿里安全在天池平臺(tái)針對(duì)性上線篡改圖像檢測(cè)大賽，邀請(qǐng)各路安全技術(shù)人員參與“篡改截圖”比賽，考驗(yàn)AI的防守性能。阿里高級(jí)安全專家渡明表示，舉辦此次大賽一方面旨在推進(jìn)相關(guān)防篡改技術(shù)的進(jìn)步，助力解決網(wǎng)絡(luò)詐騙的社會(huì)問(wèn)題，另一方面也是為了給行業(yè)培養(yǎng)更多安全技術(shù)人才。

當(dāng)前，國(guó)內(nèi)外學(xué)術(shù)屆對(duì)圖像篡改檢測(cè)的研究集中在自然圖像篡改檢測(cè)，但日常帶來(lái)風(fēng)險(xiǎn)損失的假圖通常是資質(zhì)證書(shū)、文案、截圖等，現(xiàn)有的篡改檢測(cè)方法直接應(yīng)用到這些新類型圖像時(shí)，準(zhǔn)確性能大幅下降。

偽造圖像檢測(cè)AI發(fā)現(xiàn)“營(yíng)業(yè)執(zhí)照”的偽造痕跡

“若篡改檢測(cè)技術(shù)能得到推廣普及應(yīng)用，會(huì)很大程度遏制網(wǎng)絡(luò)詐騙。”渡明稱，希望通過(guò)真實(shí)場(chǎng)景中大量出現(xiàn)的篡改圖像檢測(cè)比賽，讓篡改檢測(cè)領(lǐng)域更加關(guān)注此類高風(fēng)險(xiǎn)篡改圖像，進(jìn)而促進(jìn)檢測(cè)技術(shù)進(jìn)步。

中國(guó)人民大學(xué)計(jì)算機(jī)視覺(jué)方向的研究生鹿月與輪輝在2021年參加了阿里安全舉辦的AI挑戰(zhàn)者計(jì)劃第五期“偽造圖像的對(duì)抗攻擊”比賽，他們?cè)诒荣愔谐恋淼恼撐难芯砍晒挥?jì)算機(jī)視覺(jué)三大頂會(huì)之一的ICCV收錄。之后，兩人又收到阿里安全的面試邀請(qǐng)，并最終獲得媒體安全團(tuán)隊(duì)實(shí)習(xí)機(jī)會(huì)。

現(xiàn)在鹿月投入到了實(shí)習(xí)項(xiàng)目“盜圖識(shí)別”研究中，她對(duì)新研究能實(shí)際接入產(chǎn)業(yè)應(yīng)用而感到興奮，“比如我也注意到現(xiàn)在網(wǎng)絡(luò)上一張P圖就能編造很多假新聞和謠言，希望檢測(cè)技術(shù)能夠幫助發(fā)現(xiàn)這些假圖，識(shí)破謠言。”鹿月說(shuō)。

據(jù)阿里安全介紹，目前新一代安全架構(gòu)核心技術(shù)偽造圖像檢測(cè)AI已經(jīng)應(yīng)用在聊天信息、資質(zhì)證明、物流風(fēng)控、轉(zhuǎn)賬記錄、媒體內(nèi)容等領(lǐng)域的真實(shí)性檢測(cè)中。

“很開(kāi)心以往的參賽選手能將研究和實(shí)際應(yīng)用結(jié)合，我們也希望以創(chuàng)新性的比賽培養(yǎng)更多技術(shù)人才，推動(dòng)該領(lǐng)域的技術(shù)進(jìn)展，從源頭以科技創(chuàng)新解決社會(huì)生產(chǎn)、生活的安全問(wèn)題。”渡明說(shuō)。

責(zé)編：周琦