“我以前从未见过如此大胆的匿名攻击”:Clearview人工智能和可以通过一张照片识别你的令人毛骨悚然的技术

2024-10-22 21:21来源:本站编辑

在《你的脸属于我们》(Simon & Schuster出版社,2023年出版)的节选中,记者克什米尔·希尔回忆了人脸识别技术公司Clearview AI的出现,这家公司凭借其人工智能(AI)软件闯入了公众的视野,据说只要拍一张人脸照片,就能识别出几乎任何人。


2019年11月,我刚刚成为《纽约时报》的一名记者,就得到了一个令人难以置信的消息:一家名为Clearview AI的神秘公司声称,它可以仅根据面部快照识别几乎任何人。

当我收到这封邮件时,我正在瑞士的一家酒店房间里,这是我最近一次乘坐国际飞机旅行,因为我已经怀孕六个月了。这是漫长的一天的结束,我很累,但电子邮件给了我一个震动。我的消息来源发现了一份标有“特权和机密”的法律备忘录,明视公司的一名律师在备忘录中表示,该公司从公共网络(包括Facebook、Instagram和linkedIn等社交媒体网站)上抓取了数十亿张照片,以创建一款革命性的应用程序。

给Clearview一张随便一个人在街上的照片,它就会吐出它在互联网上看到过这个人的脸的所有地方,这可能不仅会泄露他们的名字,还会泄露他们生活中的其他个人细节。该公司向全国各地的警察部门出售这种超能力,但试图对其存在保密。

不久前,自动面部识别还是一种反乌托邦的技术,大多数人只会把它与科幻小说或《少数派报告》(Minority Report)等电影联系起来。工程师们在20世纪60年代首次试图将其变为现实,他们试图通过编程让一台早期的计算机将某人的肖像与更大的人脸数据库进行匹配。在21世纪初,警方开始尝试用它来搜索嫌疑犯的面部照片数据库,寻找未知犯罪嫌疑人的面孔。但事实证明,这项技术在很大程度上令人失望。它的表现因种族、性别和年龄而异,即使是最先进的算法也很难做到像将嫌疑犯照片与模糊的ATM监控图像匹配这样简单的事情。

Clearview声称自己与众不同,声称其“98.6%的准确率”和大量的照片收集与警方以前使用的任何照片都不一样。

当我一遍又一遍地阅读Clearview的备忘录时,我想,如果这是真的,那就太了不起了。十多年来,我一直在报道隐私及其不断受到的侵蚀。我经常把我的节奏描述为“迫在眉睫的科技反乌托邦——以及我们如何努力避免它”,但我以前从未见过对匿名如此大胆的攻击。

隐私是一个出了名的难以定义的词,1890年《哈佛法律评论》(Harvard Law Review)的一篇文章将其最著名的描述为“不受打扰的权利”。撰写这篇文章的两位律师,小塞缪尔·d·沃伦和路易斯·d·布兰代斯,呼吁隐私权和其他权利——生命、自由和私有财产——一起受到法律的保护,这些权利已经被庄严地载入了宪法。他们的灵感来自于当时的一项新技术——1888年发明的便携式伊士曼柯达胶片相机,它使人们可以在摄影棚外用相机“即时”拍摄日常生活的照片——以及像我这样爱管闲事的媒体人。

沃伦和布兰代斯写道:“即时摄影和报纸企业已经侵犯了私人和家庭生活的神圣领域,无数的机械设备威胁着实现‘在壁橱里窃窃私语将会在屋顶上宣布’的预言。”

相关:“人工智能教父”Yoshua Bengio说,如果我们不监管人工智能,人类将面临“灾难性”的未来

这篇文章是有史以来最著名的法律论文之一,路易斯·布兰代斯后来加入了最高法院。然而,隐私从未得到沃伦和布兰代斯所说的应有的那种保护。一个多世纪过去了,仍然没有一部包治性的法律保证美国人能够控制对他们拍摄的照片、对他们的报道,或者对他们的个人数据的处理。与此同时,总部设在美国和其他隐私法薄弱的国家的公司正在创造更强大、更具侵入性的技术。

我注意面部识别已经有一段时间了。在我的职业生涯中,在福布斯(Forbes)和Gizmodo等网站,我报道过数十亿美元公司的重大新产品:Facebook在照片中自动标记你的朋友;苹果和谷歌让人们通过看手机来解锁;微软(Microsoft)和英特尔(Intel)的数字广告牌配备了可以检测年龄和性别的摄像头,向路人展示合适的广告。

我曾经写过,这种有时笨拙且容易出错的技术如何让执法部门和行业兴奋不已,但却让注重隐私的公民感到恐惧。当我仔细思考Clearview声称它能做什么时,我想起了几年前我在华盛顿特区参加的一个联邦研讨会,在那里,行业代表、政府官员和隐私倡导者坐下来敲定了道路规则。

他们一致同意的一件事是,任何人都不应该推出识别陌生人的应用程序。他们说,这太危险了。酒吧里的怪人可以拍下你的照片,并在几秒钟内知道你的朋友是谁以及你住在哪里。它可以用来识别反政府抗议者或走进计划生育诊所的妇女。它将成为骚扰和恐吓的武器。在数亿或数十亿人的规模上进行准确的面部识别,是这项技术的第三条轨道。现在,Clearview,一个在该领域不知名的参与者,声称已经建造了它。

我对此表示怀疑。创业公司以夸夸其谈而臭名昭著,这些夸夸其谈最终被证明是骗人的。就连史蒂夫•乔布斯(Steve Jobs)在2007年首次在舞台上展示iPhone时,也伪造了它的功能

我们倾向于相信计算机几乎具有神奇的力量,它们可以找出任何问题的解决方案,并且有足够的数据,最终比人类解决得更好。因此,投资者、客户和公众可能会被那些渴望做一些伟大的事情,但还没有完全实现的公司的离谱言论和一些数字花招所欺骗。

但在这份机密的法律备忘录中,Clearview的知名律师保罗·克莱门特(Paul Clement)声称,他曾在乔治·w·布什(George W. Bush)总统任内担任美国司法部副部长,他已经与自己公司的律师一起试用了该产品,“发现它能返回快速准确的搜索结果”。

克莱门特写道,200多家执法机构已经在使用该工具,他已经确定,他们“在使用Clearview用于其预期目的时,不会违反联邦宪法或相关的现有州生物识别和隐私法。”不仅数百个警察部门在秘密使用这项技术,而且该公司还聘请了一位高级律师,向警察保证他们这样做并不构成犯罪。

我回到纽约的最后期限是即将到来的分娩。我有三个月的时间来弄清这个故事的真相,但我越深入挖掘,它就变得越奇怪……

对面部识别的担忧已经持续了几十年。现在,这个模糊的怪物终于找到了它的形式:一家拥有神秘创始人和不可思议的大数据库的小公司。而组成这个数据库的数百万人中没有一个人表示同意。Clearview人工智能代表了我们最可怕的恐惧,但它也最终提供了面对它们的机会。


查看协议

蜕变网声明:未经许可,不得转载。