不久前，有网友称知名医生张文宏深夜直播带货推销“保健品”，引发关注。视频中，被AI合成的“张文宏”反复介绍一种产品，形象和声音很像张文宏本人。对此，张文宏本人回应称，这样的卖货账号不止一个，而且一直在变，他多次向平台投诉但屡禁不绝。
被AI仿冒困扰的不止张文宏一人。如何识别AI换脸换声？AI在商业中的合法使用场景如何界定？如何防止AI技术被滥用？部分政协委员对此进行了解读。
如何识别AI换脸换声？
随着技术发展，AI生成的画面、声音、视频越来越逼真，普通用户愈发难辨真伪，因此也出现了不少利用AI进行违法犯罪的案例。那么，如何识别AI换脸换声？
全国政协委员、金杜律师事务所高级合伙人张毅介绍，在特定场景下，如深度伪造的实时视频，可以在视频对话时，临时要求对方在脸部前面挥手等方式进行识别。实时伪造的视频，在挥手过程中，会造成面部数据干扰，所伪造的人脸会产生一定的抖动、闪现或其他异常情况。若是短视频换脸，一般出于娱乐大众的目的，仿真度一般较低，只要注意观察细节，如眨眼频率、声画同步情况等，便容易发现是否为人工智能生成内容。
“依法进行生成式人工智能的内容标识，应成为识别主要方法。”张毅介绍，《互联网信息服务深度合成管理规定》要求深度合成服务提供者对深度合成的内容添加显式或隐式水印。《人工智能生成合成内容标识办法（征求意见稿）》《网络安全技术人工智能生成合成内容标识方法（征求意见稿）》亦均有相关规定。
“所以说，AI换脸不是想换就能换，有可能涉及肖像权及个人信息权益侵害问题，进而承担相应的法律责任。”张毅提醒说。
如何合法使用AI声音和人脸数据？
目前，国内市场上存在多种提供AI生成视频服务的新型软件，“合法边界”问题成为大家热议的重点。
谈到合理合法使用AI声音和人脸数据，张毅表示要坚持几个原则：首先是合法获取，即取得数据主体的明确同意。对此，《中华人民共和国民法典》有明确规定。其次是明确用途，即取得授权同意。若对声音、人脸数据用于与收集时告知的目的不符的其他用途，也可能存在数据滥用的法律风险，如侵犯个人信息保护。再次是数据保护。采取必要的技术措施保护声音和人脸数据在存储和传输过程中的安全，否则可能存在数据泄露的法律风险，如个人信息泄露导致的侵犯隐私权问题。同时，要严格遵守行业标准。比如，电商场景、游戏场景中若自动生成的内容包含侮辱、诽谤、淫秽、暴力及虚假宣传等，可能违反《互联网信息服务管理办法》。
如何防止AI技术被滥用？
任何技术的应用和发展都应建立在符合道德伦理、社会规则和法律的前提下。如何防止AI技术被滥用，让“科技向善”落地有声？
张毅建议，一是在源头端，需要进一步加强公民个人信息保护，尤其是加强对生物特征等隐私信息的技术、司法保护力度。二是在技术端，研发AI产品的企业和使用AI产品的平台要做好“守门人”的工作，不仅要确保所有的开发和使用活动符合相关的法律法规，也要增强透明度，向用户清晰说明产品功能、数据使用及潜在风险。三是在法律制度层面，要进一步完善人工智能等领域相关法律法规。
“首先，尽快推进人工智能法出台，让人工智能监管有法可依。其次，加强行业标准制定，确保企业在使用AI技术时遵守法律和伦理规范。此外，完善的责任追究机制也至关重要，以明确各方在人工智能滥用时的法律责任。最后，可以推动跨部门协作和信息共享，以提升对AI技术综合监管能力，确保技术发展与社会利益之间的平衡。”张毅进一步建议。
监管如何跟上技术发展？
AI技术快速发展，监管如何跟上？
“当前，明确AI在商业中的合法使用场景刻不容缓。”十三届全国政协委员，云南联通党委书记、总经理张云勇表示。
张云勇建议，首先，完善法律法规，加强监管力度。应进一步完善相关法律法规，明确AI技术在直播带货等商业行为中的使用场景负面清单，确保AI合成技术用于商业宣传和带货的视频内容合法合规。
其次，加强技术监测与信息共享。识别AI换脸直播带货的技术涉及到机器学习算法、图像与音频分析技术、人工审核与AI算法辅助等多个方面，只有综合运用这些技术，才能提高识别AI换脸内容的准确性和效率，进而保护消费者免受欺诈。因此，要推动建立跨平台的信息共享和协同机制，对AI直播带货侵权行为账号相关责任人进行联合打击和治理。
再次，强化安全合规主体责任。一方面，直播平台应承担起对直播主体的监管责任，强化技术手段应用，加强对直播带货内容的审核和管理。另一方面，电商平台应建立健全内部质量管理体系，要严格筛选主播和经过AI处理的视频及商品，营造健康有序的直播环境。
张云勇进一步建议，要鼓励行业协会制定直播行业带货的行业标准和行为准则，引导企业自觉遵守，强化直播营销平台、直播间运营者、直播营销人员的主体责任。推进行业信用体系建设，向社会公布行业内从业人员、平台等信用等级，推动“直播带货”信用体系建设。
十三届全国政协委员、第五空间信息科技研究院院长谈剑锋建议，要进一步扩大监管范围，不仅要监管技术应用，还要在前端的技术研发立项阶段就进行源头管理。同时，适当整合监管手段。对生成式人工智能技术的发展，不仅要在各个分领域做相应调整，还要做好系统整合，用好技术和法律的合力，健全适用性高的人工智能技术法律体系。
“在人工智能技术迅速发展的背景下，监管必须具备灵活性和适应性。”张毅表示，在法律层面，可以采取灵活审慎的立法策略。针对突出问题，可以通过出台司法解释、监管部门指导意见等形式解决；在涉及具体场景问题时，可以通过先行先试、监管沙盒等方式进行探索，也可以先出台地方立法或部门规章，再逐步推进立法。
在张毅看来，人工智能应用涉及面较广，跨界合作至关重要。政府、行业和学术界需要共同参与，分享最佳实践和技术标准，从而制定出科学合理的监管政策，也可以考虑借助AI手段进行监管。
