第05版:评论

以“善治”促“善智”

张毅

《 人民政协报 》 ( 2024年07月25日   第 05 版)

党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》指出,要“完善生成式人工智能发展和管理机制”“加强网络安全体制建设,建立人工智能安全监管制度”。近年来,人工智能技术发展迅速,作为新一轮科技革命和产业革命的核心驱动力,被广泛应用于诸多领域。但与此同时,新技术所带来的数据安全、算法黑箱、新型纠纷等风险也层出不穷,如何建立人工智能领域的法律监管体系备受关注。

我国高度重视人工智能的发展和治理,“人工智能法草案”已经连续两年被列入预备提请全国人大常委会审议项目,人工智能法专家建议稿、学者建议稿讨论不断,但其起草的重点及难点也是显而易见的。

首先,技术发展迅速,治理对象和方式变化多。人工智能治理的重点一般围绕数据、算法和平台,但仅在2023年内,生成式人工智能的发展便形成了“基础模型—专业模型—服务应用”的分层业态。这种新发展降低了平台对数据资源及要素运用的核心掌控能力,也导致平台不再是治理的主要核心。由于技术发展,人工智能的应用前景和发展方向难以预测,加之立法机构对快速发展的底层技术难以深入理解,将导致治理对象和治理方式变化加速。

其次,人工智能发展具有跨界性和跨国性。一方面,我国正开展“人工智能+”行动,人工智能从研发到场景应用再到产业全链条赋能,涉及领域复杂多样,立法的系统性和协调性难度也相应加大。另一方面,在不同的国家和地区,人工智能治理的监管理念、标准体系等方面存在巨大差异。所以人工智能立法不仅体现本国的立法和监管智慧,还将被置于“放大镜”下被其他各国审视,成为国家竞争力的重要组成部分。

此外,人工智能技术创新带来伦理道德等新型安全风险。人工智能的决策基于算法和模型得出,其可能会输出违背人类伦理道德的结果,如歧视性决策、侵犯隐私等,所以人工智能立法需要找到技术创新和伦理道德之间的平衡点。此外,人工智能系统若被黑客攻击、病毒感染,可能危及个人信息、社会秩序乃至国家安全,所以,人工智能安全体系构建也应得到重视。

人类与人工智能将长期共存,技术与风险的不确定性将是治理需要面对的常态。人工智能立法需要统筹高质量发展和高水平安全,促进人工智能健康发展。

“以人为本”,定位“促进”。通过“以人为本”,可以防止因过度追求技术理性导致人的主体性的消解,这也符合我国在参与人工智能全球治理中提出的,以人为本、智能向善、造福人类的原则。同时,不发展就是最大的不安全,借鉴我国在互联网产业发展监管的成功经验,统筹考虑促进产业转型升级、保障公民权益和社会公正等多层次需求,探索好监管和发展的平衡关系,以立法和监管推动人工智能技术与产业的健康发展。

采取灵活审慎的立法策略。比如,针对突出问题,可以通过出台司法解释、监管部门指导意见等形式解决;在涉及具体场景问题时,可以通过先行先试、监管沙盒等方式进行探索,也可以先出台地方立法或部门规章,再逐步推进立法,有效解决技术快速发展带来的监管“真空”问题。

注重系统性和协调性。在系统性方面,一是健全人工智能研发与应用法律制度,不仅要为技术创新提供法律支持和保障,也要对人工智能提供者及产品及服务加诸相应的合规义务。二是构建人工智能风险防控和责任追究机制,比如在大模型备案和相关评估制度落实的基础上,明确人工智能产业链上各主体的法律责任,也可采取权责相统一原则,确保责任认定明晰。三是完善人工智能监管与治理体系,针对不同行业的人工智能应用,要明确各部门监管职责;也可将人工智能应用按风险等级进行划分,分级分类进行监管。此外,可考虑探索将人工智能技术应用于人工智能监管,提高监管效率。在协调性方面,应充分考虑既有法律规范体系,注意加强人工智能立法与个人信息保护法、数据安全法、网络安全法等现有法律的衔接,避免冲突和矛盾的产生。

具有前瞻性和国际视野。人工智能是一种动态发展的通用技术,其产生的潜在风险与行业应用密切相关,所以立法工作中应预留“领域接口”,以应对技术发展的不确定性。同时,人工智能已经成为当今国际竞争的关键领域,因此,立法工作一方面应对域外的遏制予以回击,另一方面要确立我国的理念制度,方便未来我国人工智能产业国际化发展和参与人工智能治理国际规则制定。

人工智能立法不仅关系着人工智能技术产业的长远发展,更会深刻地影响人工智能时代的个体权利、社会运行和国际地位等,要本着发挥法治固根本、稳预期、利长远的作用,尽快推进人工智能立法。

(作者系全国政协委员,上海市新的社会阶层人士联谊会会长,金杜律师事务所高级合伙人)

2024-07-25 张毅 1 1 人民政协报 content_65343.html 1 以“善治”促“善智” 65,343 /enpproperty-->