科技日報記者 張夢然
伴隨人工智能(AI)技術在手機設備中的迅速發展，利用仿冒人臉等手段實施詐騙犯罪的風險與日俱增。針對這一問題，各國手機企業正加快安全領域的技術創新。而中國榮耀手機日前宣布，將于2025年4月在全球范圍內商業化應用“AI換臉”檢測技術，這也將是目前首個“AI反詐”技術的商業化應用。
“AI換臉”技術已被一些不法分子用于網絡詐騙、誹謗等違法犯罪行為，帶來了很大的社會隱患。根據Entrust網絡安全研究所的數據，2024年每五分鐘就發生一次深度偽造攻擊，數字文件偽造同比2023年增加了244%。2023年11月至2024年11月，全球92%的企業經歷了身份欺詐，但與之伴隨的，卻是應對深度偽造風險協議的缺失。畢馬威公司調研報告稱，從2023年第一季度到2024年第一季度，數字經濟中的深度偽造現象同比增長顯著，其中網游為1520%、市場營銷為900%、金融科技為533%、加密貨幣業為217%和咨詢業為138%。德勤公司報告則顯示，在財務損失方面，生成式AI可能使欺詐損失從2023年的123億美元，增加到2027年的400億美元，復合年增長率為32%。
在2024年舉行的柏林消費電子展上，中國榮耀宣布研發出了全球首個基于設備端的“AI換臉”反詐檢測技術。該技術基于深度學習模型，通過分析圖像中的面部特征和行為模式，能夠實時識別出AI生成的偽造內容。據悉，在即將舉行的2025年世界移動通信大會（MWC 2025）上，榮耀將把這一技術作為“阿爾法戰略”一部分，公布相關戰略與詳細內容。
聯合國工業發展組織印尼、東帝汶及東盟事務代表馬可·神谷稱，在移動設備上使用AI深度偽造檢測是一種強有力的武器，可以對抗深度偽造。它能夠檢測出人眼可能忽略的深度偽造內容中的缺陷，例如眼神接觸、光線、圖像清晰度和視頻播放，從而阻止人們繼續參與可能危及其安全的活動。這使得個人、中小企業和各行業能夠在享受數字通信便利的同時，不必擔心隱私泄露和欺詐風險。
