西方立法者误解的人工智能神话

虽然美国和欧盟在如何监管科技方面可能存在分歧,但他们的立法者似乎在一件事上达成了一致:西方需要禁止人工智能驱动的社交评分。

根据他们的理解,社会评分是一种专制政府对人们的可信度进行排名,并对他们的不良行为进行惩罚的做法,如偷窃或不偿还贷款。

欧盟目前正在谈判一项名为“人工智能法案”的新法律,该法案将禁止成员国,甚至可能禁止私营公司实施这样的系统。

德国智库墨卡托中国研究所的分析师Vincent Brussee说:“问题是,这基本上是在禁止稀薄的空气。”

早在2014年,中国宣布了一项为期六年的计划,以建立一个奖励在社会中建立信任的行为和惩罚相反行为的系统。八年过去了,中国才刚刚发布了一项法律草案,试图将过去的社会信用试点编入法律,并指导未来的实施。

当地有一些有争议的实验,比如2013年在荣城的一个实验,它给每个居民一个1000的起始个人信用评分,可以根据他们的行为来判断增加或减少。现在人们可以选择退出,而且当地政府已经取消了一些有争议的标准。

但这些并没有在其他地方获得更广泛的关注,也不适用于整个中国人口。没有一个全国范围内的、无所不包的社会信用体系,以及对人进行排名的算法。

正如我的同事Zeyi Yang所解释的,“现实是,这种可怕的系统并不存在,而且中央政府似乎也没有太大的欲望来建立它。”

这个神话起源于中国科技公司阿里巴巴开发的一个名为芝麻信用的试点项目。Brussee说,这是在大多数中国人没有信用卡的时候,利用客户数据评估人们的信用度的一种尝试。这项努力与整个社会信用体系混为一谈。

具有讽刺意味的是,当美国和欧洲的政客们将这一问题描述为来自专制政权的问题时,西方已经有了对人进行排名和惩罚的系统。为自动化决策而设计的算法正在大规模推出,并被用来拒绝人们的住房、工作和基本服务。

例如,在阿姆斯特丹,当局已经使用一种算法,根据他们成为罪犯的可能性,对来自贫困地区的年轻人进行排名。他们声称其目的是为了防止犯罪,并帮助提供更好的、更有针对性的支持。

但实际上,人权组织认为,这增加了污名化和歧视。最终被列入这一名单的年轻人面临警察更多的拦截,当局的家访,以及学校和社会工作者更严格的监督。

政府迫切需要对当局和公司使用人工智能来决定我们生活的方式进行诚实、彻底的审计。


订阅《国际商业新闻IBNEWS中文网 官方公众号:IBNEWS