本报记者 李元丽

近日，以“共建网络世界、共创数字未来——携手构建网络空间命运共同体”为主题，聚焦全球网络前沿技术发展新趋势、网络空间治理新态势的2022世界互联网大会乌镇峰会正式召开。

谈及人工智能模式优化和治理体系的构建，人工智能领域代表企业瑞莱智慧CEO田天在接受记者采访时表示，在数智化时代，人工智能与云计算、区块链等技术一样，是基础设施的重要组成部分。放眼未来，人工智能若要实现高质量发展，需要突破伦理规则和技术安全两大关键问题。

一是随着人工智能逐步成为经济社会的关键角色，它与人类的交互规则构成了伦理问题。田天以人机控制权分配、人工智能采信度等举例说，作为一项具有开放性但又远未成熟的新技术，人工智能不可避免地会对现有伦理关系与社会结构造成冲击。比如，人类对机器控制权的不适当让渡，会导致恶性事故的发生，典型的例子如自动驾驶汽车电子刹车系统失控引发交通事故，以及过度信任算法而忽视算法偏见导致的不公平事件等。

二是技术安全问题。田天解释道，与传统软件系统运行逻辑的确定性不同，当前主流的人工智能应用基于第二代深度神经网络技术，其模型参数从数据中学习而来，决策逻辑和链路天然存在大量不确定性，只需在输入数据中添加细微的扰动噪点，就能够使模型出错。以当前落地应用最为广泛的人脸识别为例，这一技术实现的整个过程为黑箱模式，主要依靠海量人脸数据进行特征提取、训练和识别，从而能够利用相关漏洞，采用多种形式进行攻击。例如，在人脸照片上添加少量干扰或将对抗补丁打印制作后由真人佩戴，以这种定向攻击的形式破解人身核验。

面对这些问题，田天表示，我们需要从伦理规则和技术规则两方面加以解决。一是伦理规则建设。这涉及人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题，需结合具体应用场景，打造可量化、可度量、可执行的具体标准，再落实到算法、代码层面。二是技术路径优化。在数据、算法、算力三大要素基础上，将知识要素融合进来，发展安全、可靠、可信和可扩展的第三代人工智能，不断提升人工智能的鲁棒性（指异常情况下系统的生存能力）和可解释性，同时持续提高人工智能伦理安全、技术安全的敏捷测评水平，使之成为保障人工智能产业高质量发展的关键能力。

面向未来，田天表示，人工智能伦理规则与安全技术将进一步筑牢人工智能内生安全，为产业未来发展绘好底色。瑞莱智慧将持续聚焦人工智能创新研究，锚定人工智能治理风向，为人工智能的高质量发展锐意拓新、添砖加瓦。