“太危险”:为什么连谷歌都不敢发布这项技术?

想象一下,你漫步在一条繁忙的城市街道上,拍下一个陌生人的照片,然后把它上传到搜索引擎上,搜索引擎几乎能立即帮你识别出这个人。

这不是假设。PimEyes被认为是网上最强大的公开面部识别工具之一。

在TikTok上,PimEyes已成为网络侦探识别陌生人的强大工具,有数百万观看量的视频展示了PimEyes和其他搜索工具的组合,例如,如何找出泰勒-斯威夫特(Taylor Swift)演唱会上随机摄像师的名字。TikTok的社区指南禁止含有可能导致跟踪、身份盗窃和其他犯罪的个人信息的内容。但这段特殊的视频在周三上午仍在播放。

它最初是由波兰的两名计算机程序员于2017年创建的,是一种人工智能工具,就像类固醇的反向图像搜索——它扫描照片中的人脸,并爬行到互联网的黑暗角落,显示出许多人甚至不知道的自己在餐馆背景或参加音乐会时的照片。

虽然该公司声称这是一项可以帮助人们监控自己在线状态的服务,但它却引发了争议,因为它被用作跟踪者的监控工具,收集了无数儿童的照片,并在未经许可的情况下将死者的照片添加到数据库中。

由于美国没有任何管理面部识别技术的联邦法律,预计未来几年,模仿PimEyes的服务将会激增。

记者Kashmir Hill说,如果每个人都决定在公共场合随时使用这项技术,那么后果将不堪设想。

《纽约时报》记者Hill说:“在火车上发生了一些事情,你撞到别人,或者你穿了一些令人尴尬的衣服,有人可能会拍下你的照片,找出你是谁,然后在推特上发关于你的推文,或者叫出你的名字,或者在网上写一些关于你的坏话。”Hill最近出版了一本关于面部识别技术的书,名为《你的脸属于我们》(your Face belong to Us)。

PimEyes CEO:该服务有许多“合法用途”

PimEyes的基本版对任何人都是免费的,但该公司提供了高级功能,比如当新照片出现在网上时,用户可能会感兴趣的图像提醒,但需要每月支付订阅费。

TikTok用户指出,人们可以选择不让自己的照片出现在PimEyes数据库中,但对该搜索工具的测试表明,这种方法并不总能保证将自己从该公司的海量照片库中删除。

东欧格鲁吉亚研究人工智能的学者Giorgi Gobronidze,他现在是PimEyes的首席执行官,他说该公司有大约12名员工。

在接受美国国家公共电台(NPR)采访时,他表示,滥用该工具的情况被夸大了,并指出该网站的检测工具只截获了数百起滥用该服务的案例,比如跟踪或搜索儿童。

当有人搜索PimEyes时,照片上的人的名字不会出现。但不需要太多的网络侦探工作就能把这些碎片拼凑起来,找出某人的身份。

Gobronidze强调,从技术上讲,PimEyes并不能单独生成某人的身份。

他说:“我们不识别人的身份,我们会识别那些识别与搜索内容相似的图片的网站。”

PimEyes的规则规定,人们只能搜索自己,或者是同意搜索的人。但没有什么能阻止任何人在任何时候对其他人进行搜索,不过Gobronidze说:“人们并不像我们有时想象的那么可怕。”

他接着说:“PimEyes可以用于许多合法目的,比如保护自己免受诈骗。或者弄清楚你或你的家人是否被身份窃贼盯上了。”

Gobronidze说,由于担心政府当局可能利用该服务针对抗议者和持不同政见者,PimEyes目前在包括伊朗、中国和俄罗斯在内的27个国家屏蔽了该服务。

谷歌不敢发布的技术

《纽约时报》记者希尔表示,Meta和谷歌等大型科技公司已经开发出了超级强大的面部搜索引擎。

然而,这一工具被武器化的可能性是如此之大,以至于一些高管——比如前谷歌首席执行官埃里克·施密特——一直不愿将其推向世界,这在快节奏、竞争激烈的硅谷几乎是不可想象的举动。

Hill说:“早在2011年,埃里克·施密特就说过,这是谷歌开发的一项技术,但他决定保留,因为如果它被独裁者使用,那么它在坏人手中就太危险了。”

这项技术的潜在用途可能是有益的。例如,对于盲人来说,或者快速识别你忘记名字的人,以及正如该公司所强调的那样,密切关注自己在网络上的照片。

但这项技术有可能损害公民的隐私。例如,政府和私营公司可以利用这项技术在公共场合对人们进行侧写或监视,这一点已经引起了研究该工具的隐私专家的警惕。

波士顿大学法学院(Boston University School of Law)专攻面部识别技术的教授Woodrow Hartzog说,“这些好处被政府和行业用作借口,只是为了扩大他们的权力和利润,没有任何有意义的收获。所以,我根本不认为有了面部识别,人类会比没有它更好。”

就像苹果的面部识别一样,只是使用了类固醇

当然,一些版本的面部识别工具已经问世了。用苹果的Face ID解锁iphone。在机场,运输安全管理局可以通过面部扫描来确认某人的身份。

但是面部搜索引擎将这个想法带到了一个完全不同的高度。

虽然大型科技公司一直在退缩,但推动这项技术的小型初创公司正在获得动力,比如PimEyes,以及另一家名为Clearview AI的公司,该公司为执法部门提供人工智能面部搜索引擎。

Clearviewi没有安排任何人接受采访。

Hartzog说,华盛顿需要在这些工具变得过于普遍之前对其进行监管,甚至是彻底禁止。

Hartzog说:“我认为这确实应该告诉你,面部识别是多么具有放射性和腐蚀性,大型科技公司一直拒绝涉足这一领域,即使它可以赚到很多钱。”

就像人工智能聊天机器人一样,面部识别搜索引擎也可以起飞

大多数硅谷观察人士预测,这只是时间问题。

把人工智能聊天机器人看作一个有益的教训。多年来,硅谷的巨头们一直在实验室里开发强大的聊天机器人,但一直保密,直到一家规模较小的初创公司OpenAI将ChatGPT向公众开放。

科技分析师表示,为了保持竞争力,大型科技公司最终可能别无选择,只能公开先进的面部搜索引擎。

Hatzog说,他希望这样的未来永远不会发生。

他说:“如果面部识别技术得到广泛应用,那么隐藏在众目睽睽之下的能力实际上就会终结,我们一直在这样做,却没有真正考虑到这一点。”

行走的条形码

在欧盟,立法者正在讨论禁止在公共场所使用面部识别技术。

Brussels的活动人士Ella Jakubowska希望监管机构能更进一步,彻底禁止这些工具。

Jakubowska发起了一项名为“重塑你的脸”的活动,该活动警告人们不要去看医生,在大学校园里散步,甚至过马路,都会让人的脸被扫描。在世界上的一些地方,它已经成为日常生活的一部分。

Jakubowska说:“我们在意大利看到了生物识别技术的使用,他们称之为‘智能’监控系统,用来检测人们是否在闲逛或非法侵入。”

Jakubowska表示,欧盟所谓的人工智能法案将提出有关如何监管人脸、指纹和声音等生物识别数据的规定。

她说:“我们不接受这样的想法:作为人类,我们应该被当作行走的条形码,以便政府可以监视我们,即使我们没有做错任何事。”

与此同时,在美国的一些地方,比如伊利诺斯州,有法律保护人们免受私人公司如何扫描和使用他们的脸。该州的一项法律对未经同意扫描居民面部的公司处以经济处罚。

但在联邦法规出台之前,私营公司记录人脸的方式和地点几乎不受限制,而且在很大程度上取决于开发这些工具的亿万富翁科技公司。