沿岭资讯

著名分析师 Benedict Evans:人脸识别与AI伦理

匿名 发布时间: 2019-11-02 08:43:48

神一局是一个36氪以下的编辑团队。它专注于科学技术、商业、工作场所、生活等领域。重点介绍国外的新技术、新观点和新趋势。

编者按:对于人脸识别,不同的地方监管政策是不同的。显然,欧盟的这一部分要严格得多,但我们在这里似乎没有太多顾虑。应该如何看待这项技术,如何对其进行监管?A16z著名vc本尼迪克特·埃文斯提出了自己的观点。最初的标题是:人脸识别和人工智能的伦理。36kr由两部分组成并出版。这是第二部分。

本尼迪克特·埃文斯:人脸识别与人工智能伦理(一)

到目前为止,我一直在讨论当人脸识别系统(或任何机器学习系统)给出不准确的结果时会发生什么,但是另一个等价的和相反的问题是,人们可以开发一个能够提供准确结果的系统,然后将这些结果应用到我们不喜欢的东西上。脸部的使用是一个很容易被注意到的问题——你可以在街对面看到你的脸,但你甚至不知道,你也不能改变它。

人脸识别确实有一些令人担忧的用例。然而,这项技术可以应用于各种各样的事情,并不是所有的事情都如此令人担忧。

我们可以看看师旷科技今年8月发布的长达600页的ipo招股说明书。师旷科技是提供所谓“智慧城市物联网”的大公司之一。该公司表示,它拥有106家中国城市客户,比2016年增加了30家。公司拥有1500名研发人员,2019年上半年业务收入达到1亿美元。

师旷科技提到的用例包括:

警方可以辨认出一名不记得姓名和居住地的老年痴呆症患者。

可以在大型办公楼自动调度电梯

有可能检查享受住房补贴的房客是否非法转租他们的公寓。

它可以用来建立一个允许进入幼儿园的人的白名单。

有助于识别收银员和顾客。

像今天的数据库一样,人脸识别将被用于社会的各个方面,包括许多今天看起来不像人脸识别用例的东西。其中一些会成为问题,但不是全部。哪个?我们怎么知道?

今天,当您考虑这个问题时,您将使用一些类似这样的框架:

它是由国营还是私营公司完成的?

它是主动的还是被动的——你打算使用它(比如,在前台登记),还是只要你穿过门,甚至穿过街上的大厅,它就会发生?

如果是被动的,会被披露吗?如果它被激活,你有选择吗?

它是真实世界的身份链接还是仅用作匿名id(例如,流量统计是通过传输系统生成的)?

还有,这是为了我自己的方便,还是纯粹为了他人的利益?

当然,会有一些问题与数据库而不是面部识别本身真正相关:您将数据存储在哪里,谁有权访问这些数据,以及我是否可以要求您查看或删除这些数据?

因此,我认为大多数人都适应了海关将你的脸与护照和文件上的照片相比较并记录下来的机器。我们可能不反对使用面部识别的银行。这是因为它是显而易见的,并且有如此明确的理由,这是由一个企业调用的,你承认它有这样做的正当理由。同样地,我们接受我们的手机公司知道我们在哪里,我们的银行知道我们有多少钱,因为他们必须这样工作。如果是为了我们,我们可能不会接受——我的电话公司不应该知道我的工资。不同的实体有不同的权限。我相信超市会好好照顾我孩子的生活,但我不相信它的流媒体音乐服务。

另一方面,想象一下房地产开发商使用面部识别来标记和跟踪在购物街上行走的每个人,看看他们进入了哪些商店,看了哪些产品,拿起来试穿,然后把它们与销售点和信用卡联系起来。我想大多数人会对此感到非常不舒服——这是一个被动的行为,由一家私人公司做的,你甚至可能不知道这已经发生了,这不符合你的利益。这是未经同意侵犯你的隐私。

但另一方面,如果这是匿名进行的,这种跟踪可以吗?如果它从来不与信用卡和姓名相联系,只用于流量分析?如果它用衣服和步态而不是脸来跟踪购物中心周围的人呢?如果公共交通机构使用匿名面孔通过该系统获取典型的出行指标,会怎么样?这与零售商使用信用卡(可以与购买时的身份相关联)和交通管理部门使用车票和智能卡有什么不同?也许我们同意的还不太清楚。

原则上,追踪顾客的零售商并不能让很多人满意,即使它不涉及任何面部识别(即使他们已经这样做了几十年),但是另一个非常明显的公共安全用例——通缉犯的识别呢?

(我想)我们都可以接受把一张人脸照片和一张“通缉犯”海报相比较的想法。我们知道警察会把它们放在办公室里,也许其中一些还贴在巡逻车的仪表板上。与此同时,摄像机在车牌识别中的应用已经非常广泛。但是,如果一辆警察巡逻车有一套摄像头,扫描100码内的每一张脸,然后将其与全国通缉犯数据库进行比较,会怎么样呢?如果amber alert告诉城市里的每一辆自动驾驶汽车扫描过往车辆并返回面部照片呢?(在所有这些情况下,假设我们都在寻找真正的罪犯。我不知道会有多少共识。

你可能会说警察不可能在任何时候扫描“所有”面部照片,但是可以通过扫描视频找到特定的面部。这听起来不一样,但为什么?什么是可重新审视的逻辑链?这让我想起了美国法院的裁决,该裁决限制了警方在嫌疑人车上安装全球定位系统跟踪器的方式——他们不得不使用旧的方法手动跟踪它们。我们是不想要它,还是不想让它太容易或太自动化?在极端情况下,美国枪支机构被禁止将枪支记录存储在可搜索的数据库中——一切都必须模拟,只能手动检索。我们可能不都喜欢自动化本身的一些东西——当理论上有小规模可能性的东西在大规模上实际可行时,我们可能不高兴。

然而,就数据库的经验而言,有些事情仅仅是因为它是新的,我们不熟悉它,面部识别也是如此。对于任何给定的用例,这种矛盾心理部分是由于它的新颖性,可以解决和调整:

这可能是我们一点都不喜欢的新的不好的东西。

或者,这可能是新的东西,但我们决定不在乎

我们可能认为这只是旧事物的新表达,我们并不担心。

这也有可能是以前做过的,但不知何故,用面部识别来做是不同的,或者只是增强我们的意识。

事实上,上述所有讨论都与观点、文化和政治有关,与技术无关。虽然我们大多数人都同意黑色或白色,但实际上两者之间有很大的灰色区域,理性的人不会同意这种二元论。此外,不同的地方可能有不同的情况——例如,对国民身份证的态度就是一个很好的例子。英国没有这种事情,而且一直拒绝这样做,因为大多数人认为这是对公民自由的根本侵犯。然而,法国,一个“自由”的地方,有这样的东西,并不担心它。理论上,美国没有这种东西。事实上,背后有一套。尽管德国出于明显的历史原因强烈反对实际的干预形式,但他们仍然想要这种东西。

这里不一定有正确的答案,也没有办法通过任何分析过程找到答案——这是一个社会、文化和政治问题,结果无法预料。美国禁止建立枪支数据库,但美国也有一家名为“守护神扫描”(super scan)的公司扫描你的驾照,然后将其与600多家酒吧和夜总会共享的38,000人的私人黑名单(另一个数据库)进行比较。与此同时,许多州的车管所向私营公司出售个人信息。如果你在1980年,你能想象吗?

技术产业对这些问题最明显的最初反应是在不同的公司建立不同的伦理委员会,并为工程师、研究人员和公司建立行为准则。这两种方法背后的理念是:

承诺不使用(广义上的)“坏数据”来制造东西

保证不发展“坏事”。在建立道德委员会的情况下,有一套程序来决定什么是坏的。

这是必要的,但我认为这还不够。

首先,在我看来,承诺你不会开发出一个会产生不准确结果的产品实际上等同于向自己保证你不会搞砸。没有人愿意把事情搞砸。你可以列出你想避免的失败类型,并在某些领域取得进展,但你不能阻止它们。你不能阻止别人搞砸。

回到数据库,我的一个朋友史蒂夫切尼最近在博客上写道,他被警察拦住并戴上手铐,因为赫兹错误地报告他租的车被偷了。这不是机器学习的失败,而是40年前的失败。超过大多数数据库工程师的年龄,我们一直在讨论数据库将如何出错,但我们仍然无法避免它出错。最重要的是逮捕史蒂夫的警察知道数据库的概念,并且有常识和授权——他只是找错了人。

这让我们回到前面提到的面部识别花招——你可以保证不犯错误,但是错误总是不可避免地更有价值的宣传——你不能只是假设计算机必须是正确的。我们应该向第三级外包商的工程师宣传这一点,因为他们负责整合“商店扒手识别”系统,但我们也应该向警官、律师和法官宣传这一点。毕竟,只要允许人们接触这些错误,它们就会继续出现在每一个计算机系统上。

其次,任何公司的任何人都可以判定人脸识别用例(或任何种类的机器学习项目)是邪恶的,所以他们不会做这样的系统。但是“邪恶”常常是一种观点,正如我之前讨论的,在许多情况下,理性的人会不同意我们关于某样东西是否存在的观点。师旷科技也有一个伦理委员会,该委员会同意发展“智慧城市物联网”。

此外,正如师旷技术和许多其他例子所显示的,这种技术正日益商业化。最极端的工作仍然局限于相对较少的公司和机构,但是现在任何软件公司都可以免费获得“人脸识别”技术。你可以决定你不想开发x或y,但这与x或y是否会被开发无关。那么,你的目标是阻止你的公司开发它,还是阻止它的开发和使用?

当然,这将把我们带到另一个反应链,即从单个城市到整个欧盟的各级政府都在促进人脸识别的监管。当然,这些实体有强制力——它们仍然不能防止你搞砸,但是它们可以强制审计、捕捉错误、采取补救措施或事后施加惩罚,并且(例如)有权请求查看或删除“你的”数据,并且它们还可以禁止或限制特定的用例。

我认为这里的挑战是找出适当的抽象层次。麦道夫的庞氏骗局爆发时,我们并没有说excel需要更严格的监管,也没有说他的房东应该及时发现他在做什么——正确的干预是金融服务。同样,我们监管金融服务,但抵押贷款、信用卡和股票市场零售银行的资本要求是分开处理的。制定法律来规范使用面部解锁手机,或者将自己变成小啊·毛,或者识别超市礼品卡持有者的系统,或者确定警察可以在哪里使用摄像头以及如何存储数据,都不太可能非常有效。

最后,这种对话往往会变成中美争端。然而,美国以外的人不知道或不关心美国宪法的内容。师旷科技已经向中国以外的15个国家的客户提供了“智能城市物联网”产品。我认为,这里真正有趣的问题远远超出了人脸识别的范围,但涉及到互联网的许多其他方面,即模式竞争的问题。一方面,可以称之为隐私和技术监管的“欧盟模式”(美国公司必须遵循这一模式,就像德国公共关系局一样)已经传播到了何种程度。另一方面,中国模式将在多大程度上传播到那些认为它比欧盟或美国模式更有吸引力的地方。

译者:博西。

pk10聊天室

淄博两名原局长出事了!一名被双开,其单位多名党员干部被查!还