中新社北京6月9日電   AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚(yú)郵件......近日兩起詐騙金額上百萬(wàn)元(人民幣，下同)的案件引起人們關(guān)注。AI技術(shù)快速發(fā)展，挑戰也逐漸顯現。

　　近日，內蒙古包頭警方通報一起利用AI實(shí)施詐騙的案件，在這一案件中，福州市某公司法人代表郭先生10分鐘內被騙430萬(wàn)元。據通報，騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝熟人實(shí)施詐騙。

　　今年4月份，在安徽安慶經(jīng)開(kāi)區發(fā)生一起AI換臉詐騙，詐騙分子使用一段9秒鐘的智能AI換臉視頻佯裝“熟人”，讓受害人放松警惕被騙走245萬(wàn)元。

　　AI詐騙是利用AI技術(shù)，模仿、偽造他人的聲音、面孔、視頻等信息，進(jìn)行欺騙、敲詐、勒索等的犯罪活動(dòng)。早在2019年，華爾街日報就報道過(guò)詐騙犯利用深度偽造語(yǔ)音技術(shù)冒充英國某能源公司高管詐騙24萬(wàn)余美元。

　　中國信息通信研究院云計算與大數據研究所內容科技部研究員呼娜英對中新社記者表示，當前，隨著(zhù)深度學(xué)習等AI技術(shù)的成熟，AI詐騙新手段體現出詐騙手段愈發(fā)多樣、詐騙門(mén)檻大幅降低、辨別難度不斷加大等特點(diǎn)。

　　在網(wǎng)上，高逼真的換臉付費軟件價(jià)值僅在幾百元至幾千元之間。

　　“基于公開(kāi)發(fā)布的數據信息、照片、視頻，利用深度合成等AI技術(shù)生成高度逼真的圖像、視頻和語(yǔ)音等內容，這些以假亂真的虛假信息更易取得對方信任，從而使得受害者放松警惕。”賽迪研究院網(wǎng)絡(luò )安全研究所所長(cháng)劉權對中新社記者表示。

　　防范AI詐騙也需要多管齊下，齊抓共治。今年4月，中國國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》向社會(huì )公開(kāi)征求意見(jiàn)，其主旨思想是促進(jìn)生成式人工智能技術(shù)的健康發(fā)展和規范應用。

　　劉權認為，該辦法建立了AI服務(wù)的管理框架，對生成式人工智能服務(wù)提供者和使用者進(jìn)行了規范化管理，要求提供生成式人工智能產(chǎn)品或服務(wù)的企業(yè)或個(gè)人進(jìn)行實(shí)名認證、信息公示、申報安全評估、履行算法備案和變更、注銷(xiāo)備案手續等措施，有助于減少非法個(gè)體或組織實(shí)施AI詐騙的可能性。

　　呼娜英表示，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》，細化了深度合成技術(shù)支持者、服務(wù)提供者、服務(wù)使用者以及應用程序分發(fā)平臺的主體責任，規定的落實(shí)將有效遏制AI換臉等詐騙事件。

　　有專(zhuān)家進(jìn)一步提出，立法部門(mén)應加快對AI技術(shù)的運用進(jìn)行立法規制，不妨對人工智能設備和軟件的使用和注冊進(jìn)行明確限制，防止“AI”技術(shù)的運用“無(wú)序化”“無(wú)法化”。

　　奇安信董事長(cháng)齊向東表示，人工智能技術(shù)被傳統犯罪分子用來(lái)偽造聲音、偽造圖像、偽造視頻、偽造證據，以假亂真，人們很難去甄別。要解決這些挑戰，只有靠技術(shù)和它進(jìn)行對抗。

　　因此相關(guān)部門(mén)應持續AI反詐技術(shù)的研究，提升防范AI欺詐的技術(shù)手段，利用機器學(xué)習和數據挖掘、區塊鏈等技術(shù)加強對AI應用的監管與審查，及時(shí)發(fā)現和防范違法行為。

　　此外，還應提高公眾反詐意識與防范AI詐騙的能力。中國互聯(lián)網(wǎng)協(xié)會(huì )日前也對AI換臉新騙局做出提醒，包括做好個(gè)人信息安全第一責任人，加強個(gè)人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個(gè)人生物信息給他人等。

　　治理AI詐騙需要多管齊下。劉權表示，應加強跨部門(mén)、跨行業(yè)的協(xié)同配合，建立聯(lián)合公安、工信、網(wǎng)信、市場(chǎng)監管部門(mén)等政府部門(mén)，以及電信企業(yè)、通訊軟件提供商、銀行等企業(yè)的工作機制，共同監管和維護網(wǎng)絡(luò )安全。(來(lái)源：中新網(wǎng) 記者 劉育英)