美国、英国以及一些其他国家签署了一项确保人工智能“设计安全”的协议

周日,美国、英国和其他十几个国家公布了一份被一名美国高级官员称为首份关于如何保护人工智能免受流氓行为侵害的详细国际协议,推动企业创建“设计安全”的人工智能系统。

该协议不具约束力,主要包含一般性建议,例如监控人工智能系统是否被滥用、保护数据不被篡改以及审查软件供应商。

美国网络安全和基础设施安全管理局局长Jen Easterly表示,许多国家都认为人工智能系统需要优先考虑安全,这一点很重要。

Jen Easterly对路透社表示:“这是我们第一次看到有人肯定这些功能不应该只是为了炫酷,以及我们能多快把它们推向市场,或者我们能如何竞争以降低成本。”他补充说,指导意见代表着“在设计阶段需要做的最重要的事情是安全。”

该协议是世界各国政府为促进人工智能发展而采取的一系列举措中的最新举措,这些举措几乎都不具有法律效力。

除了美国和英国,签署新指导方针的18个国家还包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡。

该框架涉及如何防止人工智能技术被黑客劫持的问题,并包括一些建议,例如只有在经过适当的安全测试后才发布模型。

它没有解决人工智能的适当使用,或者如何收集这些模型所需的数据等棘手问题。

人工智能的崛起引发了一系列担忧,包括担心它可能被用来破坏民主进程、加剧欺诈、或导致大量失业,以及其他危害。

欧洲在人工智能监管方面领先于美国,欧洲立法者正在起草人工智能规则。法国、德国和意大利最近还就如何监管人工智能达成了一项协议,支持对所谓的人工智能基础模型“通过行为准则进行强制性自我监管”,这些模型旨在产生广泛的产出。

拜登政府一直在向国会施压,要求制定人工智能相关的法规,但由于美国国会两极分化,在通过有效的法规方面进展甚微。

白宫试图减少人工智能对消费者、工人和少数群体的风险,同时在10月份发布了一项新的行政命令,以加强国家安全。


订阅《国际商业新闻IBNEWS中文网 官方公众号:IBNEWS