微软人工智能CEO关于管控人工智能风险的十个建议

文丨汤一凡（方塘传媒编辑传播中心见习编辑）

【一】

当下，关于人工智能发展和应用利弊的辩论正在变得越来越激烈。乐观者认为，它将创造出前所未有的繁荣，悲观者认为，它的迅速扩散已经并将继续带来不可忽视的威胁——当人工智能服务的获取和使用成本足够低时，各种可能的恶意行为者便会在难以想象的范围和规模上制造出混乱、冲击甚至是灾难。

“任何事情都有多面性，技术也不例外。”由微软人工智能CEO、DeepMind联合创始人穆斯塔法·苏莱曼和作家、数字出版人和企业家迈克尔·巴斯卡尔合著的《浪潮将至：技术、权力与未来的冲击》一书，深入探讨了人工智能将带来的巨大益处以及其背后所隐藏的挑战与威胁。

作者认为，这是一本关于技术失败以及如何遏制技术失败的书。

关于“技术失败”，作者给出的定义是“技术背离了初衷和承诺，对人类社会产生了非常严重的负面影响”。例如，随着合成生物学技术的“民主化”，在一个小车库里，仅仅一个人便可以制造出危害数亿人生命的新型病原体。

应对此类情况的出现，唯有实施“遏制”。尤其是在面对日益强大的人工智能时，“遏制”显得尤为重要——管理人工智能这项飞速发展的技术，以确保它不会超出我们能控制的范围，甚至威胁到全球秩序与人类福祉。

【二】

不过，值得警惕的事，人工智能的发展几乎无法被有效控制或限制。

首先，人工智能技术的突破速度是空前的，自OpenAI2023年推出GPT-4模型后，凭借其自身超强的语言生成能力，迅速被全球各大企业采用，推动了无数行业的创新。随着这些技术的不断进步，全球战略技术竞赛也越演越烈。美国、欧洲和中国等经济体在AI领域的投入不断加大，任何一方都不愿落后。这种“非对称性”的竞争导致人工智能技术无法停止，反而加快了其发展。

其次，人工智能作为一种跨国界的技术，无法被单一国家或地区有效遏制。即使某个国家设立了严格的技术管控和伦理法规，全球其他地方的人工智能发展仍然可能突破这些界限。全球化竞争使得单一国家的“遏制”措施显得力不从心。

再次，人工智能有着广泛的通用性和迅速的扩展性，几乎我们能想到的所有领域，目前都有AI技术涉足。相较于那些受限的、面向单一任务的技术，管控人工智能的难度将与日俱增。对于一般人来说，人工智能的使用门槛将越来越低，随着GPT的API端口开放，几乎每个人都可以用相对简单的步骤定制出专属于自己的AI智能体。

还有就是，人工智能技术的“自我演化”能力，也让其发展的未来充满了更大的不确定性。深度学习算法通过大量数据训练，不仅能够执行人类设定的技术，还能够自我优化。就像万维钢在《拐点》一书中所提到的人工智能技术的“涌现”现象，当投喂的数据达到了一定的规模，模型会自动出现一些始料未及的能力。这让持续地人为干预和监督变得越来越不可能，甚至人类根本无法理解人工智能的决策过程。

【三】

人类当然不应坐以待毙。

在这本书中，作者提出了十条人类可行的应对措施，可谓是为我们积极应对人工智能发展所可能带来的风险，提供了方法论和路线图。

一是加强技术安全性，确保技术可控。而且，加强人工智能技术的安全性，不仅需技术手段上的创新，也需要完善的法律和监管框架。

二是确保技术透明度和问责制。透明度需要成为AI技术能够被社会接受和信任的基础，为了确保技术的可控性，我们需要对AI的开发和运用进行审计，确保其运行过程中的透明性和问责制。有效的审计机制应当包括对AI系统的数据来源、算法模型、决策过程等方面的全面审查。此外，开发者需要对其技术的社会影响承担责任，确保每一项技术运用都符合伦理和法律要求。

三是适当放慢技术发展速度，为监管机构以及开发防御技术争取时间。为了避免技术的发展过于迅速，导致社会无法适应，我们需要通过国际技术合作和技术标准的制定来放慢技术发展的速度。

四是开发者实现负责任的开发。开发者是人工智能技术的源头，其道德责任和技术控制能力决定了AI技术的未来走向。要确保开发者一开始就将伦理责任融入技术的设计与开发过程，从源头上控制潜在风险。

五是协调技术背后的组织驱动力与遏制目标之间的关系。企业在推动技术发展的过程中，必须在盈利驱动力与社会责任之间找到平衡，确保AI技术符合社会伦理要求。

六是支持政府构建技术、监管技术，并实施缓和措施。各国政府需要制定完善的AI监管政策，为技术的发展提供法律框架。

七是建立国际合作体系，协调法律制度与管控项目。人工智能是全球性的技术，因此国际合作至关重要。通过建立全球性的技术规范和道德框架，各国可以共同应对人工智能带来的挑战。

八是培育一种善于分享经验和教训的文化。面对人工智能带来的技术挑战，社会应当鼓励技术共享和经验传播。

九是需要公众在各个层面积极参与。公众的参与对于推动AI技术的伦理发展至关重要，包括但不限于对各个技术遏制环节施加必要的压力，以确保其承担相应的责任。此外，广泛的社会运动也能够为技术带来正向的监督，推动技术更符合人类社会的长远利益与福祉。

十是要整体协调所有的措施，确保每一方力量都能发挥作用。只有全社会共同参与进来，才能确保AI技术能够在健康、有序的框架内发展。

“在这个充满变数的时刻，有一件事是确定无疑的：先进技术的时代已经到来，我们必须做好准备，直面挑战。”作者在书中呼吁。