新華社廣州6月8日電? 題：“AI詐騙潮”真的要來(lái)了？
新華社“新華視點(diǎn)”記者
通過(guò)AI換臉和擬聲技術(shù)，10分鐘騙430萬(wàn)元；AI虛擬人在聊天中篩選出受害者，人工接力實(shí)施詐騙……近期，多起宣稱(chēng)利用AI技術(shù)實(shí)施詐騙的案件引發(fā)關(guān)注。
“新華視點(diǎn)”記者近日與公安部門(mén)核實(shí)確認，“AI詐騙全國爆發(fā)”的消息不實(shí)，目前此類(lèi)詐騙發(fā)案占比很低。但公安機關(guān)已注意到此犯罪新手法，將加大力度會(huì )同有關(guān)部門(mén)開(kāi)展技術(shù)反制和宣傳防范。
專(zhuān)家表示，隨著(zhù)AI技術(shù)加速迭代，由于使用邊界不清晰，涉詐風(fēng)險正在積聚，需要高度警惕。
“換臉”式詐騙引發(fā)焦慮：你會(huì )被親友的臉騙到嗎？
近日，內蒙古包頭警方通報一起利用AI實(shí)施詐騙的案件，福州市某公司法人代表郭先生10分鐘內被騙430萬(wàn)元。據通報，騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝熟人實(shí)施詐騙。
該案披露后，不少報道稱(chēng)需警惕“AI詐騙潮”到來(lái)，并曝光多起類(lèi)似案件。如江蘇常州的小劉被騙子冒充其同學(xué)發(fā)語(yǔ)音、打視頻電話(huà)，小劉看到“真人”后信以為真，“借”了6000元給騙子。
那么，“AI詐騙潮”是否真的到來(lái)了？
記者調查了解到，AI在技術(shù)上確實(shí)能做到換臉、擬音，但被用來(lái)進(jìn)行“廣撒網(wǎng)”式詐騙需要具備很多條件。
一位被列入公安部專(zhuān)家庫的民警告訴記者，這類(lèi)詐騙如果得手必須做到：收集到被換臉對象的個(gè)人身份信息、大量人臉圖片、語(yǔ)音素材，通過(guò)AI生成以假亂真的音視頻；竊取被換臉對象的微信號；充分掌握詐騙對象個(gè)人身份信息，熟悉其與被換臉對象的社會(huì )關(guān)系，綜合作案成本很高。
他認為：“相關(guān)報道對一些案件的典型細節描述不夠準確。AI涉詐案件仍屬零星發(fā)案狀態(tài)?！彼f(shuō)，成熟的類(lèi)型化詐騙犯罪往往具有在全國多地集中爆發(fā)的特點(diǎn)，但當前沒(méi)有成規模的AI詐騙類(lèi)案件發(fā)生。
公安機關(guān)研判，近期網(wǎng)上“AI換臉換聲詐騙在全國爆發(fā)”傳言不實(shí)，全國此類(lèi)案件發(fā)生不到10起，但該動(dòng)向值得高度關(guān)注。網(wǎng)上一鍵換臉功能的App、小程序有技術(shù)濫用風(fēng)險，需要加強技術(shù)防范反制等工作。
AI進(jìn)入快速迭代期，涉詐犯罪風(fēng)險正在積聚
“當前AI技術(shù)發(fā)展來(lái)到螺旋式上升的拐點(diǎn)，未來(lái)幾年技術(shù)迭代將會(huì )按月計算?！毕愀劭萍即髮W(xué)（廣州）協(xié)理副校長(cháng)、人工智能學(xué)域主任熊輝說(shuō)。
工信部信息顯示，伴隨AI技術(shù)快速發(fā)展，合成技術(shù)門(mén)檻持續降低，逐漸向低算力、小樣本學(xué)習方向演進(jìn)，利用手機終端即可完成，對算力和數據的要求下降明顯。同時(shí)，隨著(zhù)AI大模型的技術(shù)加持，正逐步由面部合成向全身、3D合成發(fā)展，效果更加逼真。
國家開(kāi)發(fā)投資集團特級專(zhuān)家、廈門(mén)美亞柏科AI研發(fā)中心總經(jīng)理趙建強表示，AI技術(shù)正加速向網(wǎng)絡(luò )詐騙、虛假信息、色情等領(lǐng)域滲透。如在一些網(wǎng)絡(luò )平臺上假冒明星、公眾人物生成視頻圖像，吸引網(wǎng)民。此外，AI技術(shù)也可能被用來(lái)規?；貙?shí)施違法犯罪，如批量、自動(dòng)維護網(wǎng)絡(luò )賬號，發(fā)送虛假信息，模擬人工在線(xiàn)聊天等。
值得關(guān)注的是，當前AI技術(shù)不再是實(shí)驗室的半成品，引發(fā)熱議的“換臉”“擬音”技術(shù)已有較成熟的開(kāi)源軟件，使用門(mén)檻低。
記者注意到，網(wǎng)絡(luò )上不乏AI換臉教程。在國內某知名App上輸入“換臉”，彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉算法”等。一條名為“史上最強AI換臉軟件正式上線(xiàn)了！技術(shù)門(mén)檻大大降低”的鏈接，介紹了一款換臉軟件，通過(guò)視頻演示教程，手把手教授如何使用。
“老話(huà)說(shuō)‘眼見(jiàn)為實(shí)’，但今后眼睛看到的也不一定是真實(shí)的?！北本┦刑煸蓭熓聞?wù)所合伙人楊虎城表示，未來(lái)涉及AI合成技術(shù)的詐騙、敲詐勒索等違法犯罪和肖像、名譽(yù)等民事侵權問(wèn)題可能逐步顯現。
“從現有案例看，這些技術(shù)已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然AI詐騙案件未成氣候，但這一趨勢值得關(guān)注，必須提早防范?！币晃环丛p民警說(shuō)。
工信部相關(guān)負責人表示，隨著(zhù)AI技術(shù)的不斷發(fā)展，通過(guò)少量圖片、音頻信息合成特定視頻，利用人工智能模型批量設計詐騙腳本等成為可能，客觀(guān)上降低了電信網(wǎng)絡(luò )詐騙的實(shí)施難度，AI類(lèi)新型犯罪爆發(fā)可能性進(jìn)一步提升。
盡快完善相關(guān)法規制度，為AI技術(shù)發(fā)展立規劃線(xiàn)
中國移動(dòng)信息安全中心品質(zhì)管理處副處長(cháng)周晶告訴記者，近年來(lái)，國際國內各界在積極探索深度合成技術(shù)的有效治理路徑，研判AI技術(shù)給社會(huì )帶來(lái)的風(fēng)險和潛在威脅，正設法將AI技術(shù)發(fā)展納入一定規則中，做到安全可控。
業(yè)內人士建議，要加強AI反制技術(shù)研究，“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術(shù)的反制研究，在公安、金融的視頻認證場(chǎng)景已有應用。有一線(xiàn)民警建議，要加強AI安全技術(shù)應用研發(fā)，將AI技術(shù)應用于犯罪識別、預警、對抗中，實(shí)現以“白”AI對抗“黑”AI。
其次，加強源頭治理和行業(yè)引導，及時(shí)更新、完善相關(guān)法律、標準、規則，為AI技術(shù)發(fā)展保駕護航。
“數據是AI犯罪的源頭，保護好公民的個(gè)人隱私數據安全，就能在最大程度上降低AI違法犯罪的能力?！毙茌x說(shuō)。
中國互聯(lián)網(wǎng)協(xié)會(huì )監管支撐部主任郝智超建議，AI技術(shù)發(fā)展還要有相關(guān)法律法規來(lái)劃紅線(xiàn)、踩剎車(chē)。需進(jìn)一步加強對個(gè)人隱私數據泄露問(wèn)題的關(guān)注，明確信息監管紅線(xiàn)，對AI技術(shù)的研發(fā)、傳播、使用做到有規可循，并根據技術(shù)發(fā)展實(shí)際情況，及時(shí)完善對技術(shù)服務(wù)商行為的規范引導。
此外，還要有針對性地加強反詐宣傳。熊輝表示，未來(lái)AI可根據大數據創(chuàng )造出無(wú)比接近真實(shí)的“真實(shí)”?！耙ㄟ^(guò)不斷的教育改變大眾觀(guān)念，讓人知道眼見(jiàn)不一定為實(shí)，有圖不一定有真相，提升對網(wǎng)絡(luò )信息的辨識力?！彼f(shuō)。
公安部有關(guān)負責人表示，當前，詐騙集團利用區塊鏈、虛擬貨幣、遠程操控、共享屏幕等新技術(shù)新業(yè)態(tài)，不斷更新升級犯罪工具，與公安機關(guān)在通訊網(wǎng)絡(luò )和轉賬洗錢(qián)等方面的攻防對抗不斷加劇升級。公安機關(guān)會(huì )同相關(guān)部門(mén)與詐騙分子斗智斗勇，不斷研究調整打擊防范措施，確保始終保持主動(dòng)權。
工信部表示，下一步，將強化監管執法，積極會(huì )同網(wǎng)信、公安等部門(mén)，督促企業(yè)健全完善深度合成信息管理及技術(shù)保障措施；鼓勵技術(shù)攻關(guān)，凝聚產(chǎn)學(xué)研用各方力量，提升深度合成風(fēng)險技術(shù)防范能力；加強行業(yè)自律，建立健全深度合成技術(shù)相關(guān)行業(yè)標準、行業(yè)準則和自律管理制度，督促指導深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規范、依法開(kāi)展業(yè)務(wù)和接受社會(huì )監督。（記者毛鑫、王成、熊豐、高亢）
