是时候谈一谈杀手机器人了

这是一个很久以前就从科幻小说中跃入现实的概念,取决于你对“机器人”的定义有多宽泛。军用无人机在几十年前就放弃了阿西莫夫的机器人第一定律–“机器人不得伤害人,也不得因不作为而使人受到伤害”。

由于杀手机器人在国内执法中的前景越来越好,这个话题又开始沸腾了。这个时代最知名的机器人制造商之一波士顿动力公司在2019年展示了其Spot机器人作为马萨诸塞州警察训练演习的一部分在我们的舞台上部署的片段,引起了一些公共政策危险信号。

这些机器人没有武装,而是作为演习的一部分,旨在确定它们如何帮助警察在人质或恐怖分子情况下免受伤害。但在人们的生命面临直接风险的情况下部署机器人的前景足以促使美国公民自由联盟进行调查。

该联盟告诉TechCrunch:我们迫切需要政府机构提高透明度,他们应该向公众坦诚他们测试和部署新技术的计划。我们还需要全州性的法规来保护人工智能时代的公民自由、公民权利和种族正义。

与此同时,去年,在部署Spot应对布朗克斯入室抢劫事件的图片曝光后,纽约市警察局在公众的强烈反对下终止了与波士顿动力公司的协议。

就其本身而言,波士顿动力公司在反对将其机器人武器化方面一直很有发言权。上个月,它与其他领先公司Agility、ANYbotics、Clearpath Robotics和Open Robotics一起签署了一份公开信,谴责这一行动。

它指出:我们认为,给远程或自主操作的机器人添加武器,向公众广泛提供,并能够导航到人们生活和工作中以前无法到达的地方,会带来新的伤害风险和严重的道德问题。这些具有新能力的机器人的武器化应用也将损害公众对该技术的信任,从而损害它们将给社会带来的巨大利益。

这封信部分被认为是对Ghost Robotics与美国军方合作的回应。当它自己的一只机器狗在推特上显示出使用自主步枪的图像时,这家费城公司告诉TechCrunch,它对其军事伙伴如何使用这些系统采取了不可知论的立场。

我们不制造有效载荷。我们要为这些武器系统做推广和宣传吗?可能不会。这是个很难回答的问题,因为我们是卖给军方的,我们不知道他们用它们做什么。

我们确实对它们的销售地点进行了限定,我们只卖给美国和盟国政府,我们甚至不向敌对市场的企业客户出售我们的机器人。我们在俄罗斯和中国收到很多关于我们机器人的询问。我们不向那里发货,即使是我们的企业客户。

波士顿动力公司和Ghost Robotics公司目前陷入了一场涉及多项专利的诉讼中。

本周,当地警方报告网站Mission Local再次对杀手机器人表示担忧。该网站指出,该市监事会下周正在审查的一项政策提案包括关于杀手机器人的语言。“执法设备政策”以旧金山警察局目前拥有的机器人的清单开始。

总共有17个–其中12个正在运行。它们主要是为探测和处理炸弹而设计的,也就是说,没有一个是专门为杀人而设计的。

政策指出:“本节所列的机器人不得在训练和模拟、逮捕罪犯、重大事件、紧急状况、执行搜查令或评估可疑装置时使用。只有当公众或警察的生命损失风险迫在眉睫,并且超过了旧金山警察局可用的任何其他武力选择时,机器人才会被用作致命的武力选择。”

实际上,根据这些措辞,机器人可以被用来杀人,以便有可能拯救警官或公众的生命。在这种情况下,它似乎是无害的。也许,至少,它似乎属于“正当”致命武力的法律定义范围。但是,在这个似乎是对政策的深刻改变中出现了新的担忧。

首先,使用拆弹机器人来杀死嫌疑人并不是没有先例。2016年7月,达拉斯警察就是这样做的,这被认为是美国历史上的第一次。“我们认为没有其他选择,只能使用我们的炸弹机器人,并在其延伸部分放置一个装置,让它在嫌疑人所在的地方引爆,”警察局长David Brown当时说。

第二,很容易看到新的先例是如何被用于CYA场景的,如果机器人被有意或无意地以这种方式使用。第三,也许是最令人震惊的是,人们可以想象,这些语言适用于收购未来的机器人系统,而不是纯粹为发现和处理爆炸物而设计。

加州围绕杀手机器人的重新对话部分是由于第481号议会法案。该法律于去年9月由州长加文·纽森(Gavin Newsom)签署成为法律,旨在使警方的行动更加透明。这包括执法部门使用的军事装备清单。

旧金山文件中包含的17个机器人是一个较长清单的一部分,该清单还包括Lenco BearCat装甲车,闪光弹和15挺冲锋枪。

上个月,奥克兰警方表示不会寻求武装远程机器人的批准。

该部门在一份声明中说:奥克兰警察局(OPD)不会在该部门增加武装遥控车辆。OPD确实参加了与奥克兰警察委员会和社区成员的特设委员会讨论,探索该车辆的所有可能用途。然而,在与局长和执行团队进一步讨论后,该部门决定不再想探索这个特定的选项。

该声明是在公众强烈反对之后发表的。