文 | 中国联合网络通信集团有限公司 王智明 丁莹 于城

深度伪造是一种基于人工智能的内容生成或篡改技术，通过算法对图像、视频、音频等多媒体内容进行高度逼真的合成、替换或修改，制造出虚假但难以分辨真伪的信息。虽然深度伪造技术为数字内容创作和娱乐产业注入了创新活力，但这一技术的滥用也催生了新型犯罪。近年来，利用语音克隆、视频合成、图像生成等人工智能技术实施的数字克隆人诈骗案件，在全球范围内呈现出爆发式增长的趋势，不法分子借助这些技术伪造政府官员、企业高管、亲朋好友等特定身份实施精准诈骗，不仅给受害者造成了巨额损失，更对社会的安全稳定构成了严重威胁，成为当前网络安全领域亟待解决的突出问题。

我国于2024年3月1日颁布《网络安全技术 生成式人工智能服务安全基本要求》（GB/T45654——2025），从训练数据安全、模型安全、安全措施三个核心层面，构建生成式人工智能服务的安全保障体系，其对违法不良信息、虚假内容及风险行为的防控，可间接为防范诈骗相关风险提供支撑。欧盟的《人工智能法案》于2024年8月1日正式生效，其中明确规定要对深度伪造内容进行强制性的标识与检测。这些政策文件的出台，直接反映了全球社会对数字克隆人诈骗威胁的重视程度正在不断提升。然而，对于数字克隆人诈骗这种新型安全挑战，传统的反诈骗手段和防护措施已难以应对。因此，构建一套涵盖技术检测、法律规制、社会共治等多维度的综合防护体系已迫在眉睫。面对此类诈骗，不仅需要持续完善法律法规与行业标准，更应推动检测技术研发、增强公众防范意识，并强化跨部门协同与国际合作，以系统化治理应对不断演进的风险挑战。

一、数字克隆人诈骗的技术原理与危害分析

数字克隆人诈骗的核心技术以深度伪造为基础，涵盖语音克隆、视频合成和自然语言处理等前沿人工智能技术。深度伪造技术通过深度学习算法实现，其中生成对抗网络（GAN）和变分自编码器（VAE）等模型，能够生成高度逼真的人脸图像、视频内容和语音片段。语音克隆技术利用神经网络模型，仅需少量目标人物的语音样本，就能合成出与目标声音高度相似的人工语音，实现声音的“复制”和“转移”。视频合成技术则通过计算机视觉和深度学习算法，将静态图像或视频片段进行动态合成，生成包含目标人物面部表情、口型动作和肢体语言的完整视频内容。自然语言处理技术则负责生成与目标人物语言风格、表达习惯高度一致的文本内容，使整个诈骗过程更加真实可信。

数字克隆人诈骗具有明显的技术特征和攻击模式。从技术层面看，这类诈骗通常采用“多模态融合”的攻击方式，即同时利用语音、视频、图像和文本等多种媒体形式，构建完整的虚假身份信息。犯罪分子首先通过社交媒体、公开资料等渠道收集目标人物的基本信息，包括照片、视频片段、语音样本等，然后利用人工智能技术进行深度伪造和合成，最终形成极具欺骗性的诈骗内容。从攻击目标看，数字克隆人诈骗呈现出明显的“精准化”和“定制化”特征。犯罪分子不再采用传统的“撒网式”诈骗方式，而是针对特定目标群体进行精准画像和个性化定制，通过分析目标人物的社交关系、经济状况、行为习惯等信息，设计出更加符合目标人物心理预期的诈骗剧本。这种精准化攻击方式大大提高了诈骗成功率，也增加了防范难度。从时间特征看，数字克隆人诈骗往往选择在特定时间节点实施，如节假日、重要会议期间等，利用目标人物注意力分散、判断力下降等心理特点，提高诈骗成功率。同时，犯罪分子还会利用时差、网络延迟等因素，制造紧急感和紧迫感，迫使受害者仓促做出决策，压缩其理性思考的时间。

数字克隆人诈骗的危害涉及多个层面且影响深远。在经济层面，此类诈骗案件通常涉案金额巨大，受害者损失惨重。由于人工智能克隆技术的欺骗性极强，受害者往往事后才会发觉被骗，资金追回难度极大。在社会层面，数字克隆人诈骗严重破坏了社会信任，加剧了社会焦虑和恐慌情绪。诈骗分子利用数字克隆技术伪造政务公告、金融机构指令、医疗诊断报告等关键领域信息，使得人们无法准确判断这些网络信息的真实性。当公众面对看似权威的克隆信息时，难以辨别其真伪，在决策时易出现偏差，对信息真实性的判断困境会直接引发“信任危机”。

二、构建多层次防护体系的应对策略

构建有效的防护技术体系是防范数字克隆人诈骗的基础和关键。首先，需要建立多模态人工智能内容检测平台。整合图像、视频、音频、文本等多种模态媒体的检测技术，构建统一的检测标准和接口规范，实现多模态内容的协同检测和综合分析。例如，通过标准化数据格式与接口协议，实现图像篡改检测、音频合成识别、文本生成溯源等技术模块的实时数据互通与结果交叉验证，提升多维度识别的精准度。通过深度学习算法优化和模型训练数据扩充，不断提升检测算法的准确性和鲁棒性。其次，建立实时监测预警系统。在关键信息基础设施和重要网络节点部署人工智能内容检测设备，建立7×24小时不间断的监测机制，实现对可疑内容的实时识别和快速预警。通过建立风险等级评估体系，对检测到的可疑内容进行分级处理和差异化响应。再次，加强技术标准建设。制定人工智能内容检测的技术标准和规范，建立统一的检测算法评估体系和性能测试方法，推动检测技术的标准化、规范化发展。同时，建立技术共享和协作机制，促进检测技术的持续创新和迭代升级。

健全的法律法规体系是防范数字克隆人诈骗的重要保障。首先，加快立法进程。制定针对人工智能克隆技术和深度伪造内容的法律法规，明确技术开发、使用、传播的法律边界和责任认定标准，完善法律责任追究机制，同时完善相关配套法规和实施细则，以确保法律法规的可操作性和执行效果。其次，建立跨境执法协作机制。加强与国际组织和相关国家的执法合作，建立信息共享、证据交换、联合执法等协作机制，有效应对跨境数字克隆人诈骗犯罪。我国可通过与相关国家签署双边或多边协议，建立常态化的跨境执法协作关系。再次，明确技术开发者和使用者的法律责任，建立技术伦理审查和风险评估制度，确保人工智能技术的健康发展。我国《生成式人工智能服务管理暂行办法》明确要求人工智能服务提供者承担内容安全责任，为数字克隆人诈骗法律规制体系建设提供了重要依据。

构建社会共治机制是防范数字克隆人诈骗的重要支撑。首先，加强公众教育和培训。通过多种渠道广泛开展人工智能克隆技术知识普及和防范技能培训，提高公众的认知水平和防范能力。确保老年群体、青少年、农村居民等薄弱环节的防范知识培训实现全覆盖。其次，建立多方协作机制。明确政府、企业、社会组织和个人等各方主体的责任分工，政府负责政策制定和统筹协调，企业提供技术支持和产品服务，社会组织参与宣传教育和志愿服务，个人提高防范意识和反诈技能。建立信息共享、资源整合、协同响应的协作机制。再次，完善举报奖励制度。建立数字克隆人诈骗的举报平台和奖励机制，鼓励公众积极举报可疑线索，实现全社会共同防范。通过完善举报人保护制度，消除举报人的后顾之忧，提高公众举报的积极性和有效性。

加强技术伦理建设和行业自律是防范数字克隆人诈骗的长效机制。首先，建立人工智能技术伦理委员会。由政府、企业、学术界和社会组织等各方代表组成，制定人工智能技术开发和应用的伦理准则和行业标准，建立技术伦理审查和评估机制，确保人工智能技术的健康发展。其次，推动行业自律建设。鼓励人工智能技术企业建立内部伦理审查机制，制定技术开发和应用的行为准则，建立行业自律组织和监督机制。通过行业自律，形成技术发展的良性生态，减少技术滥用的可能性。再次，加强国际合作与交流。积极参与国际人工智能技术治理的讨论和合作，借鉴国际先进经验，推动建立全球性的人工智能技术治理框架和标准。通过国际合作，共同应对人工智能技术带来的全球性挑战。2019年，中国人工智能产业发展联盟组织研究起草了《人工智能行业自律公约（征求意见稿）》，推动我国人工智能行业的伦理自律。2024年，在中国信息通信研究院深度观察报告会主论坛上，中国人工智能产业发展联盟发布了《人工智能安全承诺》，该承诺旨在推动行业自律，建立高效协同的治理机制，从构建安全团队、进行模型安全测试、保障数据安全、提升基础设施安全、增强模型透明度、开展前沿安全研究等方面，为企业提供安全管理指引，协力共促人工智能应用以人为本，智能向善。2025年7月，中国信息通信研究院牵头发布《中国人工智能安全承诺框架》，进一步完善人工智能安全治理相关内容。

三、结 语

数字克隆人诈骗作为新型网络安全威胁，其危害严重性不容忽视。面对这一挑战，需要政府、企业、社会组织和个人等多方主体共同努力，构建涵盖防护技术、法律规制、社会共治、伦理建设和行业自律的多维度综合防护体系。通过加强技术研发、完善法律法规、增强防范意识、建立协作机制等措施，有效防范数字克隆人诈骗，维护社会安全稳定，推动人工智能技术的健康发展。同时，人工智能技术的发展是不可逆转的历史趋势，关键是要在促进技术发展的同时有效防范技术滥用。通过建立完善的技术治理体系，实现技术发展与安全防护的良性互动，为人工智能技术造福人类社会奠定坚实基础。这需要我们在实践中不断探索和完善，形成更加成熟和有效的治理模式，为构建安全、可信、可控的人工智能技术生态贡献力量。

（本文刊登于《中国信息安全》杂志2025年第7期）