民革哈尔滨市委会

近年来，随着人工智能、大数据等新兴技术的蓬勃发展和广泛应用，技术变革为国家提供了更多交融进步的机会，让社会工作便利高效。作为人工智能深度学习领域的一个分支，深度伪造技术在近几年迅速兴起。然而，新技术的益处通常伴随着安全风险，部分伪造技术的不当使用影响了社会秩序和网络环境，造成信息虚假，人类难以识别信息真伪，对国家乃至世界都造成了一定危害。

深度伪造技术具有强大的应用潜力，它的开发对社会多个方面都有正面影响。在艺术作品中，电影制作者们利用深度伪造技术调节演员的面部表情和肢体动作，让影视剧的视觉体验更丰富；在教育上，专业人员开发出虚拟教师代替传统真人老师与学生互动，提高了学生的学习积极性。2021年10月，Adobe公司为大众带来了一款基于深度伪造技术的原型工具，可以直接调整人物面部表情、外貌长相、五官比例等等。这样的先进技术在为社会带来了福利和好处的同时，也让大众面对了更多的安全问题。社会上关于滥用新型技术为非作歹，导致社会秩序混乱，人心惶惶的事例也逐渐增多。许多不法分子利用该技术制作虚假视频，合成虚假照片随意散布在网络上，造成社会恐慌，威胁国家安定。也有部分不怀好意之人利用深度伪造技术盗用他人身份，冒充他人姓名对公民进行敲诈勒索、网络攻击、舆论谩骂、诋毁他人声誉等等。

调研发现，深度伪造技术主要会引发以下安全风险：

侵害个人肖像权、隐私权和名誉权，对其身份信息构成威胁。不法者可能会利用深度伪造技术对该公民制作合成虚假私人视频或色情视频，此类视频在网络上的广泛传播和蔓延，会影响广大网友的信息识别能力，对该公民的名誉造成巨大影响。

广大网友对新媒体失去信任度，社会和谐力下降。若深度伪造技术的不当使用开始应用于随意篡改新闻报道和新闻媒体，并通过官方渠道进入广大网友的视野中，会导致网友对新闻媒体传递信息的信任度降低。此时若新闻媒体相关官方人员仍然置之不理或不及时加以制止，长此以往会使新闻媒体失去公信力。

部分企业经济损失，信誉度下跌。深度伪造技术若利用于企业高级负责人员的相关技术视频或公开讲话和演讲，随意篡改人员表情和说话内容，容易导致社会人员对该企业发生错误认知，造成不可挽回的负面影响，使公司收益下滑，信誉度降低，失去公信力。

为此建议：

制定和完善有关深度伪造技术等新型技术的法律法规。目前，各国已经意识到了深度伪造技术对社会大众可能会带来的潜在危害，并从国家政策开始入手对相关技术进行管制。现有中国、德国、美国等多个国家已经列出了相关法律，从违法性质、处罚标准、责任主体等层面进行规章制度。但是法律颁布时日不长，多个方面还没有得到完善。各国应严格落实国家有关法律调控，明确违法犯罪条款，着重于对个人权益和国家安全的保护。

强化人民群众的信息识别能力和数据辨别意识。对于未成年人，尤其是中小学生，学校应定期组织网络安全意识的相关讲座，对于学生的信息数据鉴别能力进行教育拓展。对于手机使用不熟练的老年群体，由于其极容易受到负面大数据的影响，从而对社会信息产生错误认知和判断，社会面应进行帮助，社区可以组织志愿小组对独居老人进行上门的知识传授，加强整体的认知识别能力，从自身出发，加强自身意识抵御外界干扰。

加强新闻媒体防范意识，提高技术人员专业能力和态度。着重培养新闻媒体工作人员的防范意识和责任意识，及时发现不良深度伪造技术的使用并对该视频进行处理。设立监察小组，严格审查媒体公司发布的每一则新闻，确保其真实性和安全性，设立高级密码，强化科技防范，设置奖惩机制，对严格落实国家政策和企业管理条例的工作人员进行表彰，对于责任意识低，遇到不当行为或类似不当深度伪造技术使用却不加以制止，造成社会面影响的人员，根据程度轻重给予警告、罚款、开除等不同惩罚措施。