第02版:要闻

七部门联合发文为生成式人工智能“立规” 传递了哪些信息?

张云勇

《 人民政协报 》 ( 2023年07月19日   第 02 版)

2023年5月,习近平总书记在主持召开中共中央政治局会议时指出:“要重视通用人工智能发展,营造创新生态,重视防范风险。”这为统筹安全与发展,推动生成式人工智能生态健康生长提供了科学依据。以此为指引,近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(以下简称《办法》),对生成式人工智能服务进行了框架性规范,开启了包容审慎促进生成式人工智能健康发展和规范应用的新时代。

2022年底,以ChatGPT为代表的生成式人工智能异军突起,掀起了通用型人工智能模型技术引领与应用创新的发展浪潮。半年多来,生成式人工智能始终是数字经济生态中的焦点,其“破坏性创新”的属性深刻影响着人工智能产业的发展方向。所谓“破坏性创新”,启蒙于著名奥地利经济学家、被誉为“创新理论鼻祖”的熊彼特提出的“创造性毁灭”理论,旨在阐明技术革新引发的垄断与效仿行为对竞争与创新之间关系的影响。其后,美国学者克里斯坦森对相关理论进行了引申完善,提出了“破坏性创新”的概念,进一步阐述了新旧技术的冲击、竞争和代替对市场规则、市场格局带来的颠覆。由于生成式人工智能依然是在算力、算法、数据“三驾马车”驱动下的计算智能,故而尚无法确信无疑认定其是颠覆性的技术更替,但其很大程度上展现出“破坏性创新”的性质,对数字经济生态以及人工智能产业格局带来了非常显著的影响,而且此种影响以双刃剑的形式存在,利弊兼具。人工智能产业的深耕者一方面惊叹于大算力、大数据、大模型支撑下的通用型人工智能在自主学习、内容生成方面呈现出的功能丰富与性能跃迁,加大投资规模,深入推动通用人工智能技术演进研究,另一方面也困惑于相关应用在可靠性、完备性、客观性、多样性方面带来的安全风险与伦理挑战,展开深层次监管思考。同理,对于广大用户而言,一方面,大家在信息查询、知识学习、内容创建等方面得到了ChatGPT等通用型人工智能模型的强有力支撑,另一方面,也会受困于难以辨识此类模型应用带来的隐私泄露、信息欺诈等问题,从而导致利益受损。

基于此背景,七部委联合发布《办法》,倡导包容审慎、分级分类的监管理念,充分诠释了面对“破坏性创新”,开展“试验性监管”的辩证思维与科学思想。所谓“试验性监管”,即是强调监管方式的灵活性及兼容性,为新技术、新模式提供安全的应用环境以及开放的成长空间。严谨审慎,让信息安全的屏障再度筑牢。围绕生成式人工智能技术,当前主要面临的风险包括数据合规风险、算法漏洞风险、内容滥用风险等。数据合规风险涉及训练样本数据的确权、收集、使用、维护等行为中的不当操作,从而导致敏感数据盗取、个人隐私泄露、数据非法跨境、训练精度缺失等问题。算法漏洞风险涉及基于概率统计理论的人工智能算法的不可解释性、人工干扰性等问题,从而导致训练模型在推理应用中展现出可靠性不足的问题,比如某些算法生成的内容带有较为严重的偏见型意识形态指向。内容滥用风险涉及利用人工智能技术生成虚假信息,导致诈骗、造谣等扰乱公共安全秩序的事件发生,因此,有效监管势在必行。近期,美国联邦贸易委员会(FTC)已对OpenAI公司展开了算法模型风险的全面调查,意大利数据保护局全面禁止使用ChatGPT,荷兰数据保护局致函OpenAI等事件充分说明了世界各国都在审慎思考生成式人工智能带来的信息安全问题。当然,七部委联合发布的《办法》中,也重点体现了从数据、算法、应用等角度加强合规管控,保障网信安全的监管思路。比如《办法》中规定了生成式人工智能服务规范,明确了防范未成年人用户过度依赖或者沉迷生成式人工智能服务,设置了安全评估、算法备案、投诉举报等制度框架等。

科学包容,让科技创新的“子弹”多“飞”片刻。科技是第一生产力,加快实现高水平科技自立自强,是推动高质量发展的必由之路。近期,欧盟议会通过了禁止公共场合“人脸识别”法律草案,此项监管是否适度,依然需要时间检验。对于中国而言,数字中国、网络强国建设依然面临半导体芯片制造等“卡脖子”问题,在严谨审慎推进生成式人工智能监管的同时,也要积极培育开放灵活的科技创新生态,避免用力过猛、矫枉过正,导致创新动能不足,错失数字经济发展的关键窗口。正因如此,《办法》在促进生成式人工智能发展方面,同步制定了“安全缓冲区”式的框架措施,比如明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容。支持政、产、学、研、用、融在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新。推动生成式人工智能基础设施和公共训练数据资源平台建设、推动公共数据分类分级有序开放。特别是围绕数据资源基础制度、基础设施的建立,今年3月,国务院机构改革方案明确提出组建国家数据局,为解决数据分散治理问题、平衡数据发展与安全、提速数字中国建设,打造数字经济快车道提供了机构改革先机,将会对生成式人工智能技术发展与应用起到积极促进作用。《办法》的发布,展现了国家坚持发展和安全并重、促进创新和依法治理相结合的包容审慎原则,是对网络安全法、数据安全法、个人信息保护法、科学技术进步法等重要规定的场景化完善。相信以此为依托,中国生成式人工智能技术创新与产业发展能够加速演进,在安全可靠、开放灵活的生长环境中,以数字化、网络化、智能化书写中国式现代化发展的新篇章。

(作者系十三届全国政协委员,十三届云南省政协委员,云南联通党委书记、总经理)

2023-07-19 张云勇 1 1 人民政协报 content_46652.html 1 七部门联合发文为生成式人工智能“立规” 传递了哪些信息? 46,652 /enpproperty-->