为什么谷歌也不敢发布这项技术

因佛科技 2024-05-10 08:14:37

作者 | Bobby Allyn

译者 | 平川

策划 | 褚杏娟

想象一下,你在一条繁忙的城市街道上闲逛,顺手拍下一个陌生人的照片,并上传到搜索引擎,然后它几乎立即就可以帮助你确认这个人的身份。

这不是一个假设。现在,一个名为 PimEyes 的公共网站实现了这种可能。它被认为是最强大的在线面部识别工具之一。

在 TikTok 上,PimEyes 已经成为互联网侦探识别陌生人的强大工具。例如,有一个播放数百万次的视频演示了如何将 PimEyes 和其他搜索工具结合使用找出 Taylor Swift 演唱会上任意一位摄影师的名字。TikTok 的社区指南明令禁止包含可能导致跟踪、身份盗窃和其他犯罪的个人信息。但本文撰写时这个视频还在。

这个网站最初是由来自波兰的两名计算机程序员于 2017 年创建的,是一种和反向图像搜索类似的人工智能工具——它扫描照片中的人脸,并在互联网的黑暗角落里爬来爬去,然后显示许多人自己甚至都不知道其存在的照片,背景有餐馆,有音乐会。

当把一张人脸照片上传到 PimEyes 时,这个搜索引擎就会生成结果。有些结果,比如这组照片中的最后一张,是一个与搜索无关的人。(来自 pimeyes.com)

虽然该公司声称这项服务可以帮助人们监控自己在网络上的存在状态,但仍然引发了不小的争议,因为跟踪者以它为监控工具收集了无数儿童的照片,还在未经许可的情况下将死者的照片添加到其数据库中。

由于美国没有任何管理面部识别技术的联邦法律,所以可以预计,未来几年,模仿 PimEyes 的服务将会大幅增加。考虑一下,每个人都在公共场所随时使用这项技术会带来什么后果。

《纽约时报》记者 Kashmir Hill 最近出版了一本关于面部识别技术的书。她说道,“比如在火车上,你撞了别人,或者穿了一些令人尴尬的衣服,有人可能就会拍下你的照片,找出你是谁,然后发关于你的推文,或者叫出你的名字,或者在网上写一些关于你的坏话。”

PimEyes CEO:这项服务有许多“合法用途”

PimEyes 的基础版对任何人都是免费的,但该公司也提供了一些高级功能,比如当网上出现新照片时,它会提醒用户那可能是他们感兴趣的图像,但这项功能需要按月支付订阅费。

TikTok 用户指出,人们可以选择不让自己的照片出现在 PimEyes 数据库中,但对该搜索工具的测试表明,这并不能保证自己的照片一定可以从该公司的海量照片库中删除。

Giorgi Gobronidze 是一名来自东欧格鲁吉亚的人工智能研究学者,他现在是 PimEyes 的首席执行官。根据他的透露,该公司有大约 12 名员工。

在接受美国国家公共电台(NPR)采访时,Gobronidze 表示,该工具的滥用情况被夸大了。同时他还指出,该网站的检测工具只截获了数百起滥用该服务的案例,如跟踪或搜索儿童。

当人们用 PimEyes 搜索时,它并不会显示照片上的人的名字。尽管如此,把这些碎片信息拼接起来,确定某个人的身份,并不需要多少网络侦探工作。

Gobronidze 强调,从技术上讲,PimEyes 并不能单独生成某个人的身份信息。“我们不识别人的身份,我们只识别那些包含与搜索内容相似图片的网站。”PimEyes 明确要求,人们只能搜索自己或者是同意让其搜索的人。尽管如此,没有什么能阻止任何人在任何时候对其他人进行搜索。不过,Gobronidze 也说道,“人们并不像我们有时候想象得那么可怕。”

他还表示,“PimEyes 有许多合法的用途,比如保护自己免受诈骗。或者确定你或你的家人是否被身份窃贼盯上了。”但由于担心政府当局可能利用该服务针对抗议者和持不同政见者,目前,PimEyes 在部分国家屏蔽了该服务。

为什么谷歌不敢发布这项技术

《纽约时报》记者 Hill 表示,Meta 和谷歌等大型科技公司已经开发出了超强的面部搜索引擎。

然而,这一工具被武器化的可能性是如此之大,以至于一些高管,比如前谷歌首席执行官 Eric Schmidt,一直不愿将其推向世界。在快节奏、竞争激烈的硅谷,这几乎是不可想象的举动。

Hill 表示,“早在 2011 年,Eric Schmidt 就说过,这是谷歌已经开发完成但决定保留的一项技术,因为一旦它落入坏人手中,比如独裁者,就太危险了。”

这项技术有一些潜在的有益的用途。例如,当你忘了一个人的名字,它可以帮你快速识别,或者正如该公司所强调的那样,密切关注自己在网络上的照片。

但这项技术有可能损害公民的隐私。例如,政府和私营公司可以利用这项技术在公共场合对人们进行侧写或监视,这一点已经引起了研究该工具的隐私专家的警惕。

波士顿大学法学院专攻面部识别技术的教授 Woodrow Hartzog 认为,“这些好处只会被政府和行业拿来当借口,他们的目的只是为了扩大他们的权力和利益,而不会带来任何有意义的好处。所以,我根本不认为人类有了面部识别会比没有它时更好。”

像 Apple Face ID 这样还可以,但不宜扩大

当然,已经有一些版本的面部识别工具问世了,比如用苹果的 Face ID 解锁 iPhone。在机场,运输安全管理局可以通过面部扫描来确认某人的身份。

但是,面部搜索引擎将这个想法提升到了一个完全不同的高度。

在这方面,大型科技公司一直裹足不前,而推动这项技术的小型初创公司获得了良好的发展势头,比如 PimEyes 以及另一家名为 Clearview AI 的公司(为执法部门提供人工智能面部搜索引擎)。

Hartzog 说道,华盛顿需要在这些工具变得过于普及之前对其进行监管,甚至是彻底禁止。“这确实可以说明,面部识别有多大的放射性和腐蚀性,这也是为什么大型科技公司一直拒绝涉足这一领域,即使那可以赚很多钱。”

面部识别搜索引擎会像 AI 聊天机器人一样快速流行

根据硅谷大多数观察人士的预测,这只是时间问题。

人工智能聊天机器人是一个有益的教训。多年来,硅谷的巨头们一直在实验室里开发强大的聊天机器人,只不过一直保密,直到一家规模较小的初创公司 OpenAI 将 ChatGPT 向公众开放。

科技分析师表示,为了保持竞争力,大型科技公司最终可能别无选择,只能公开先进的面部搜索引擎。

但 Hatzog 表示,他希望这样的未来永远不会到来。“如果面部识别技术得到广泛应用,那么我们将无处可藏,我们并没有真正地考虑过这一点。”

“行走的条形码”

在欧盟,立法者正在讨论在公共场所禁用面部识别技术。

布鲁塞尔活动人士 Ella Jakubowska 希望监管机构能更进一步,彻底禁止这些工具。

Jakubowska 发起了一项名为“要回你的脸”的活动,旨在警告人们,当你去看医生、在大学校园里散步,甚至过马路时,你的脸都会被扫描。在有些地方,那已经成为日常生活的一部分。

Jakubowska 说道,“我们在意大利看到了生物识别技术的应用,他们称之为’智能‘监控系统,用来检测是否有人在闲逛或擅自进入。”

Jakubowska 表示,欧盟所谓的人工智能法案将提出有关如何监管人脸、指纹和声音等生物识别数据的规定。“我们不接受这样的观点:把人类当作行走的条形码,即使我们没有做错任何事,政府也可以监视我们。”Jakubowska 说道。

与此同时,在美国的一些地方,比如伊利诺斯州,对于私营公司如何扫描和使用人们的面部信息,有专门的法律规定。未经同意扫描居民面部的公司将受到经济处罚。

但在联邦法规出台之前,私营公司记录人脸的方式和地点几乎不受限制,而且在很大程度上,决定权在开发这些工具的市值数十亿美元的科技公司手里。

原文链接:

0 阅读:0

因佛科技

简介:感谢大家的关注