这份由18个国家签署的长达20页的协议规定了“安全设计”原则。根据该原则,在这些国家开发人工智能的公司必须致力于以帮助用户和多数公众避免滥用这些系统的方式开发和部署人工智能系统。除了美国外,英国、德国、以色列、澳大利亚、新加坡等人工智能发展水平较高的国家也加入了该协议。
尽管不具有法律约束力,但这是各国达成的第一个关于人工智能安全的详细国际协议。美国网络安全和基础设施安全局局长珍•伊斯特利(Jen Easterly)表示,该协议最重要的一点是将安全,而不是技术或市场视为人工智能系统设计的第一优先因素。
除了“安全设计”原则外,刚签署的协议还提出了许多其他建议,如:提高系统安全性以避免被入侵;数据保护;密切监控软件供应商。然而,该协议并未解决其他近年来存在争议的问题,如:人工智能使用的道德规范,如何收集数据来构建人工智能模式。