“在人工智能的生成式活动中，如何保障其他可版权内容的合法权利及自然人的人格权利？人工智能生成的内容是否具有可版权性？人工智能生成内容的可信任度如何确保？”在今年全国两会上，全国政协常委，中国作协副主席、书记处书记邱华栋用“三连问”，引发人们对当前人工智能热的“冷思考”。

人工智能为版权保护带来挑战

“生成式人工智能的训练活动普遍存在‘零告知’‘零报酬’使用大量可版权内容的情况，且权利人难以知晓人工智能对其作品的使用行为，这无疑是不公平的。”邱华栋说出了知识分子们的隐忧，磨平笔杆子练出来的硬实力，是否会被人工智能轻而易举地“超车”？生成式人工智能大模型，让人们震撼于势不可当的科技进步的同时，也为版权保护带来了挑战。

“人工智能为代表的科技革命正在颠覆人类的传统认知，特别是对影视、视频、广告等行业或将带来不小的冲击。”作为知识产权法学专家的全国政协委员、陕西省高级人民法院副院长巩富文，也第一时间注意到了人工智能相关问题及其法律风险。

“人工智能活动未经授权使用自然人人格特征的情况多有存在，侵犯个人人格权的同时造成公众混淆。使用者利用人工智能程序进行自然人面部操控、声音伪造生成视频、音频等内容并上传至互联网平台用以广泛传播，这不仅构成对自然人肖像权、声音权、姓名权等人格权利及个人信息的严重侵犯，更是利用深度合成手段混淆社会公众视听的风险行为。”邱华栋坦言。

对此，邱华栋建议，要以尊重和保护权利人权益、畅通产业获得授权的通道并助推产业高质量发展为目的，鼓励建立版权内容合法流通机制，激发著作权集体管理组织海量会员作品和法定地位优势，探索多元化版权授权模式方式，便利权利人授权以及权利人和人工智能开发者间商业交流，推动高质量、多元化正版授权数据库建设。“仅由人工智能生成而不具有人类创造性参与的内容不应受版权或其他权利保护。对此还要明确很多执行标准，比如，多大程度的人类参与行为才能达到‘具有人类创造性’的要求；该如何衡量这种参与程度等。”

对人工智能的伦理担忧正日益紧迫

伦理和道德是人类才具有的特征，很难融入人工智能。人工智能的快速发展，但又缺乏人类的道德标准，为了达到目标，可能会不择手段，进而对人类社会造成威胁和伤害，如何才能减少和避免人工智能这种不受控制发展带来的种种风险？

“人工智能技术一经诞生，不仅暗含巨大的道德隐忧、伦理缺失、安全风险，而且，随着大数据、大模型及高算力的加速迭代，人工智能引发的问题，也正日益现实化、紧迫化。总的来看，全球人工智能治理，远远滞后于人工智能技术的迅猛发展。”巩富文说，比如个人身份信息、社交媒体账户、购买历史记录等数据隐私如果泄露，可能会导致身份盗窃、诈骗和其他形式的滥用。解决这个问题的一种方法是加强数据隐私保护法律和规定，并确保AI技术的使用符合这些法律和规定。

同时，算法歧视、能够自主执行任务的武器系统、人类与机器的关系等，都需要制定更加严格的法律和规定，确保AI技术的使用符合道德和社会责任的标准。“要坚持以人为本、智能向善、安全可控、伦理先行，在国家层面设立多部门参与、具有权威性、能快速有效响应、实现敏捷治理的人工智能伦理委员会，全面整合网络安全法、数据安全法、个人信息保护法、科技伦理审查办法（试行）等法律法规，建立科技伦理审查及负面清单准入、分级分类管理、协同监管等制度，确保人类‘守法’、机器‘守德’。”巩富文认为。

我国宜尽快启动人工智能立法

2024年3月13日，欧洲议会批准通过了《人工智能法案》，标志着世界上首次全面规范人工智能的法律诞生。

“要想长远发展人工智能，必须打造一个行稳致远的法治轨道。有了人工智能监管的‘先手棋’还不够，我们应该站在打造现代化产业体系、推动新质生产力发展的高度，来强化法治顶层设计，制定出台人工智能促进法，把激励创新创造放在首要位置。”巩富文认为，《人工智能法案》的发布对其他国家、组织的人工智能立法起到了借鉴和助推作用。

“相关法律法规和部门规章应规定人工智能开发者负有公示版权内容使用情况并加以标识的义务，保障版权内容使用可追溯，并明确不履行与不充分履行的责任等；要在行业政策、各类标准中，进一步落地落细落实人工智能领域的版权保护。”邱华栋建议加快落实人工智能领域版权保护的多方主体责任，构建多主体参与的共建共治共享体系。建立起安全评估可靠、监管有力、投诉畅通、保护执法高效的机制链条，切实推动多方主体共建充分尊重和保护版权的网络清朗空间。

全国政协委员、同济大学城市风险管理研究院执行院长伍爱群认为，鉴于人工智能立法在人工智能产业发展和治理领域的基础性、引领性和支撑性作用，世界主要经济体均将人工智能综合立法列为人工智能发展战略的重要环节。我国在人工智能所涉众多领域虽已具备一定的法律基础，但分散化、单一化的立法使其难以有效支撑人工智能领域的稳健发展。因此，应尽快启动人工智能立法准备工作。

“目前，我国的算法安全治理逐步形成以分类分级为内核、以算法安全主体责任为杠杆，以算法权利体系为外部约束的整体化治理路径。治理框架虽初具雏形，但落地方案仍处探索之中。”伍爱群认为，未来应通过健全算法治理工具体系的方式推进算法精准治理的落地，同时注重算法治理规则与个案司法裁判的良性耦合，以全要素视角打造“数据、平台、算法”多层互嵌的一体化治理格局，为人工智能综合性立法奠定制度基础。

“要加快构建自主可控、安全可靠、竞争力强的人工智能产业，切实以法治之力‘为明天的科技锻造后天的产业’，提供固根本、稳预期、利长远的服务保障。”巩富文说。