ChatGPT之父：AI安全始于足下_世界观热点

6月10日，在2023北京智源大会“AI安全与对齐”论坛上，被称为“ChatGPT之父”的OpenAI创始人兼CEO Sam Altman(萨姆·奥特曼)以视频连线的方式现身，首次对中国观众发表演讲。

图：张宏江和Sam Altman对话

在他的开场主题演讲中，萨姆·奥特曼围绕模型的可解释性、可扩展性和可泛化性给出了见解。随后，萨姆·奥特曼与北京智源研究院理事长张宏江开展了尖峰对话，主要探讨在当前的AI大模型时代，如何深化国际合作，如何开展更安全的AI研究，以及如何应对AI的未来风险。

【资料图】

“我们正在看到人工智能能力的迅速增长，现在需要做的是负责任地将其应用到世界中去。”萨姆·奥特曼说。

“未来10年内，我们可能会拥有超强的AI系统。”在与张宏江的对话中，萨姆·奥特曼认为，这些系统最终可能超过人类最大体量公司的总体生产力，这里的潜在收益是巨大的。

与此同时，管理风险、共同努力实现预期目标非常必需。随着越来越强大的人工智能系统的出现，全球合作的利益也变得前所未有地重要。如果不做好规划，一个未对齐的AI系统可能会通过提供不平衡的建议来破坏整个集体系统。因此，萨姆·奥特曼强调，推进AGI安全是行业寻找共同立场的最重要领域之一。

萨姆·奥特曼认为，保证AGI技术的安全需要国际合作与协调。首先，需要在具备包容性的过程中建立国际规范和标准，并为所有国家使用AGI设置平等、统一的护栏。其次，需要通过国际合作，以可验证的方式建立全球对AI系统安全开发的信任机制。

“千里之行，始于足下。”萨姆·奥特曼援引《道德经》的话表示，最具建设性的第一步是国际科技界的合作，推动增加AGI安全技术进展的透明度和知识的机制，发现紧急问题的研究人员应该与更多人共享研究成果。更加深入地思考如何在鼓励推动国际合作的同时尊重和保护知识产权，推动并引导与安全研究一致的投资。

同时，萨姆·奥特曼还介绍，GPT-4从完成预训练到部署，花了8个月的时间来研究如何前置预判风险并给出对策，“GPT-4的对齐程度超过当前所有的代码”。

“随着未来的模型变得越来越智能和强大，作为助手，我们将找到更好的学习技术，在充分发挥AI的非凡好处的同时降低风险。”萨姆·奥特曼说。

在回应张宏江关于国际合作的相关问题时，萨姆·奥特曼表示，保证AI的安全和有益不仅是一个技术问题，这还需要了解不同国家的用户偏好。中国拥有一些世界上最优秀的AI人才，“我希望中国的AI研究人员在解决AI系统对齐难题上做出重要贡献。”

“我们看到中美和世界各地的研究人员为实现共同目标而携手努力的巨大潜力。”萨姆·奥特曼说，“我们希望全世界的研究人员参与其中，在应对AI领域的技术挑战方面开展合作，利用AI解决全球重大问题，改善人类生存条件和质量。”

关键词：