6月8日，IBM首席执行官Arvind Krishna向美国国会五位议员发出近千字公开函，呼吁国会颁布改革措施，以推进种族平等，反对种族歧视。IBM在信函中宣布将停止提供人脸识别及分析技术，并反对将任何技术应用于大规模监控、种族定性、侵犯基本人权自由、或其他任何不符合IBM信任与透明价值观的任何行为当中。同时，IBM向科技媒体网站The Verge表示，除对现有客户提供必要的技术支持以外，将全面退出人脸识别技术的研发业务，不再出售、营销、更新或开发其他新产品。
　　IBM明确表示此次决定是基于近期美国黑人乔治·弗洛伊德因警察暴力执法而惨死，以及近年来多起因种族歧视或执法权滥用导致的黑人悲剧，使其认为反对种族歧视已经成为全社会面临的非常紧要的议题，而科技的使用也是其中的重要环节。
　　函件中指出：IBM公司自1953年9月开始研发第一台商用计算机起，就一直致力于推广和支持种族平等，IBM希望与国会通过限制警察权力，增强有色人种社群的教育及职业培训，负责任的使用新技术等三个方面，共同促进公正和种族平权。现在正是全面展开国会对话，讨论人脸识别技术是否或应当如何被执法机构应用的最佳时机。
　　从笔者长期观察的现象来看，不仅是IBM有此种技术伦理上的考虑，实际上，伴随人工智能技术的不断发展，很多私人公司都开始研发和提供人脸识别技术，技术市场高度繁荣。但该技术导致的潜在风险一直存在，也引发了社会的高度关注和争议。在这种敏感情况下，研发人脸识别技术的美国科技公司多少受到影响，面临相关诉讼，也开始纷纷采取应对措施。例如：谷歌、Snapchat等大型硅谷科技公司都曾面临关于面部识别的诉讼。专门研发人脸识别等人工智能技术的公司Clearview AI因从社交媒体上抓取大量人像信息，用于人脸识别的数据库建设，并被广泛应用于私人公司或执法部门当中，而面临多起隐私权诉讼。Facebook也遭遇一项涉及人脸识别技术使用的集体诉讼，因涉及人数众多、金额巨大而受到广泛关注。该案自2015年被起诉，认为Facebook在加标签功能中，未经用户许可，对用户照片中的面部进行识别，因此违反了伊利诺伊州《生物信息隐私法》。联邦法院的法官在2018年对该案进行了有利于原告的判决，Facebook提出上诉但以失败告终，最终于2020年1月达成高达5亿5千万美元的和解。而对于更为巨型的亚马逊公司，由于曾将人脸识别技术出售给俄勒冈州和佛罗里达州的执法部门，甚至引发了更大的波澜：在2019年3月，来自谷歌、Facebook、斯坦福大学、杜伦大学、蒙特利尔大学、哈佛大学、多伦多大学、阿姆斯特丹大学等多个公司或研究机构的共77名人工智能研究员发表联名公开信，要求亚马逊停止向执法机构出售“有缺陷的”人脸识别技术。出于技术被滥用的担忧，于2019年5月针对人脸识别的应用发起了股东投票，虽然最终仅获得2.4%的股东投票认为应当停止将人脸识别技术出售给政府机构，但有27.5%的股东投票支持对亚马逊的Rekognition人脸识别服务是否会妨害民权和隐私进行进一步研究。然而，在巨大的社会声浪下，最终，奥兰多警察不得不在同年7月放弃亚马逊的人脸识别平台项目。
　　作为一个有长期技术和政策研究传统的老派技术公司，IBM的此次表态其实并非该公司首次关注人脸识别的风险问题。2018年，麻省理工学院研究员Joy Buolamwini发表的研究报告中表明，IBM的Watson’s视觉辨别平台对于深肤色女性的判断错误率高达35%，而对浅色皮肤男性的判断错误率却小于1%。对此，IBM表达了高度重视，并于2019年1月公布了包括一百万面部图像及视频印象的Flickr网络相册数据库，希望以此建立更加多元化的数据体系，帮助其人工智能驱动的人脸识别技术提高准确性和公正性，从而降低技术对于少数族裔的人脸识别偏见。
　　美国企业研究人员和学术界的这种忧虑，其实并非杞人忧天。由于技术的缺陷，导致人脸识别技术的应用面临年龄、种族、性别歧视的极大可能。但由于在平衡技术伦理和现实需求之间的冲突问题上迟迟没有突破性的理论进展，导致人脸识別领域一直缺乏相关法律法规的监管，技术滥用风险极高，而公众的忧虑也始终无法得到安抚。
　　一方面，美国国家标准技术研究所在2019年12月的一项研究显示，实验性证据表明，市场上现有的面部识别技术算法存在偏见，受年龄、性别、种族的影响非常大。该研究测试了全球99家机构的189种算法，发现即使最先进的面部识别算法也不足以应对执法部门或国家安全等关键领域中的应用。其中，针对黑人女性的一对多搜索错误率最高，而针对亚裔、非裔、美洲印第安人及太平洋岛民的一对一搜索则全部产生误判。儿童及老人的误判率也更高。在某些情况下，对亚裔和非裔的误判率比白人甚至高出百倍，识别率最高的人群则是中年白人男性。而在该研究中未涉及测试的亚马逊Rekognition人脸识别项目也曾经在2018年美国非营利性人权组织美国公民自由联盟的一项研究中，被发现准确率存疑，甚至在对535名国会议员的面部扫描当中，将其中28名国会议员识别为罪犯。

　　另一方面，美国目前仅通过普通法确定了政府视频监控应当以不侵犯公民对隐私的预期为基本原则，尚缺乏联邦层面针对人脸识别技术领域的权威法律。州法层面，2008年伊利诺伊州颁布《生物信息隐私法》，要求在收集信息时充分告知用户并获取书面授权，并规定生物信息不得对外出售或披露。虽然并非针对人脸识别技术，但该法案首次在美国境内对生物识别信息进行了规范，其内容与2018年颁布的欧盟《通用数据保护条例》中的包括个人面部信息在内的“个人敏感信息”这一特殊数据类型的规定非常相似，均采取了比较严格的立法态度。 　　2019年，包括加利福尼亚州、马萨诸塞州、新罕布什尔州等在内的4个州，以及包括旧金山、奥克兰、萨默维尔等在内的多个美国城市在先后发布行政命令和法规，禁止本州或城市警察系统内的摄像头使用人脸识别技术，但并未禁止其他摄像头使用该技术，也为禁止联邦执法机构的使用。
　　今年3月31日，华盛顿州刚刚签署了关于人脸识别的SB 6280号法案，成为美国第一部全面限制执法部分使用人脸识别技术的系统性法律，也被认为可能成为今后美国立法的范本。该法要求政府部门除紧急情况之外，应当在进行人脸识别扫描之前取得法院合法签发的搜查令;用于识别的软件应当经过独立测试，以确保准确性及对肤色、性别、年龄及其他特征不存在不公正的区别对待。但该法案仍然面临民权组织认为对社会边缘群体保护不到位的批评，认为该法对人脸识别技术的商业开发及对政府的贩卖缺乏管制，并且缺少具体实施细则和违规的可归责性。
　　笔者认为，人脸识别技术存在的偏见风险和美国政府部门对该技术的广泛应用之间存在着不可忽略的矛盾。当政府机构把识别结果作为判断犯罪嫌疑人身份的辅助方式，甚至作为证据应用于逮捕、罚款、监控等执法行为当中时，由于技术对少数族裔的判断准确率大幅偏低，将会不可避免的导致执法误判，且从算法层面强化种族歧视的观念，从而引发警察权力滥用、不合理执法等高度风险，影响执法的准确性和客观性。同时，政府机构以其公权力做背书，对人脸信息的大面积采集将会势必导致对公民隐私权的压缩和损害。因此，近年来对于人脸识别技术的应用边界的探讨成为涉及科技、法律、生物、社会、道德领域的全方位热点。而此次IBM的发声，呈现了作为一家头部科技公司的所承担的社会义务和责任感。其公开函中对于警察系统改革和扩大少数族裔就业及教育机会的呼吁，对于反对系统化种族歧视和少数族裔平权有着一定的积极作用，而对于退出人脸识别业务的决定，也表明了其认为科技发展应当更具有责任感的企业价值观。正如公开函中所述：
　　“人工智能是可以帮助执法部门确保公民安全的利器。但人工智能系统的使用者和供应者也应当对确保人工智能的偏见测试负有责任，特别是用于执法部门时，这样的偏见测试应当被审计和通报。同时，国家警察也应当鼓励和促进诸如监控摄像及现代数据分析等技术的应用，从而带来更大程度的透明度和警察的可归责性。”
　　（作者系美国纽约州执业律师、欧盟注册信息隐私专家Certified Information Privacy Professional/Europe（CIPP/E）、美國注册信息隐私专家（CIPP/US），主要从事商业及数据合规业务）

链接：

　　清律律师事务所，肇始于“清法律师团”，由一批毕业于清华大学的优秀律师创建，已成为一家特色鲜明、业务领域广泛、成员背景多元的新锐律师事务所。目前在北京、上海两地设有办公室。
　　一直以来，清律均以高度审慎的标准来欢迎和接纳新成员。律所成员背景全面，覆盖常年顾问、投融资并购、民商事诉讼等主要法律服务领域，深谙各实体行业的商业规则，有丰富的为各行业提供定制化法律服务的经验，具备为公私客户提供全案的风险管控措施和纠纷解决的专业能力。
　　若干年来，清律秉持卓越的敬业精神和专业水准，为客户提供定制、高效、务实、尽责的法律专业服务，赢得了客户的信任和依赖，使得客户能够平稳、健康地实现商业目标并取得瞩目的成绩。