对人工智能的争论包括反对的声音一直都存在。近几天，我对这件事做了些初步思考。

3月29日，一封“公开信”在互联网上开始流传，这封信由非营利性的“生命未来研究所”发布，包括马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和 StabilityAI首席执行官埃马德·莫斯塔克等在内的1000多人在这封“公开信”上署名。

在这封“公开信”里，他们呼吁，所有人工智能实验室应暂停训练比ChatGPT-4更强大的人工智能系统至少6个月，并共同开发和实施一套高级人工智能设计和开发的共享安全协议，由独立外部专家进行严格审核和监督。

我们应该注意的是，高调反对的声音更多的是从人类道义的角度出发，背后也许是在争取时间，他们反对的似乎不是人工智能，而是ChatGPT，但ChatGPT本身又是人工智能发展的一个阶段性重要成果。他们提出延缓半年时间很令人玩味。

ChatGPT的进展确实是一项划时代的进步，继续发展下去很大概率会出现超出人类目前想象能力的结果，我们不清楚是否会失控，不知道如何控制其风险以及人类是否有能力控制。

目前关于ChatGPT的争论更多的是出于商业炒作目的，其中也有一定夸大成分。这次联合签名希望争取半年的缓冲，以便做好控制风险的准备，但AI这种技术显然是无法控制住的，何况半年时间？

从技术角度来看，只要算力够，神经网络的拟合能力理论上可以训练出世界万物之间的关系，非常接近人类智能的模型，甚至有可能培养出感知能力。如果和量子并行能力结合，训练会更加突飞猛进。

凡事必有一利一弊。我们在享受科技发展给我们带来的方便的同时，也必须要面对其负面的甚至是危害的结果。对AI的控制不是某个团体，包括单个国家的力量能做到的。人工智能算法和人类数据的发展从公开领域都可轻易获得，要控制唯有从算力角度考虑，这和控制核试验一样，只有政治才能发挥这样的控制作用，因此，需要大国间合作制定出相关的控制规则，延缓人工智能的发展对人类的可能产生的不可逆伤害。

但是，达成这项协议显然有点一厢情愿。目前来看各国之间的利益无法调和，尤其是个别国家考虑的是如何用技术的领先来实现其掌控世界的目标。

当然也可以从科技伦理角度来讨论，科技伦理是人类自我约束的道德理念在科技领域的体现。问题是现有的科技伦理能否有能力解决人类面临科技迅猛发展而引发的困境和焦虑？霍金的警告言犹在耳！

（作者系工业和信息化部党组成员、总工程师，全国政协社会和法制委员会委员）