人工智能为经济发展提供了重要机遇,但____。图灵奖得主、多伦多大学教授杰弗里·辛顿认为,目前的人工智能已经可以通过学习掌握“欺骗”人类的方式,“一旦人工智能具备了‘欺骗’的能力,就有了‘控制’人类的能力,这样的超级智能可能会带来很大的安全风险。”
在通用人工智能(AGI)时代到来之前,人工智能的安全风险主要来自“人”。我们不应该假设机器是公正的,因为机器可能会试图改变人类的行为。更准确地说,是机器的所有者想要改变其他人的行为。综上,随着人工智能的本事越来越大,人工智能的“对齐”问题浮上水面。所谓“对齐”,即人工智能系统的目标要和人类的价值观与利益“对齐”,保持一致。____?OpenAI首席执行官山姆·阿尔特曼认为,①在人工智能技术的研发过程中要重视安全风险,②建立统一的国际标准,③以可验证的方式建立人工智能安全开发的信任体系。④今年2月,⑤中国在《全球安全倡议概念》中提出加强人工智能领域安全治理,⑥表示应加强对人工智能潜在风险的预防。⑦中国在人工智能领域拥有优秀的大量人才,⑧可以在人工智能安全治理领域发挥了领导作用。