在你“刷脸”的那一刻，AI都“明白”了些什么？
2019-09-20 02:24:59   来源：东方头条   

本文翻译自 2019 年 9 月 14 日发表于南华早报的“When it comes to using AI, the real question is one of trust”一文，有删改。文中所有观点仅代表作者个人意见。

近年来，面部图像识别技术引发了许多争议。在该技术如此普及的当下，人们越来越关注这些问题，特别是关注数据隐私和数据保护问题。有些人每天都使用面部图像识别来解锁手机、授权付款，还有人在办公和机场安检时使用面部图像识别。

但是，人们也在开始质疑面部图像识别的道德性、准确性和可能的偏见。在麻省理工大学最近的一项调研中，人们发现该技术可能在性别或种族问题上存在偏见，这种偏见很可能是因为人们使用的数据的失衡。在另一项去年的研究中，28位美国国会议员被错误地识别成罪犯。美国的一些城市甚至已经开始禁止使用该项技术，即使警察也不可以使用该项技术。英国国会议员认为，在面部识别技术被推广前，立法应当先行。而欧盟也在寻找限制“不加区别地”使用面部识别技术的途径。

但人工智能和深度学习并不一定会成为侵犯个人隐私的工具。

面部识别技术背后的人工智能技术有更为广泛的应用。它不仅能用来识别人物，还能用来探测面部和面部特征的存在，并预测健康、情绪和精神状态。根据不同的应用以及不同的运算法则，数据隐私的应用可能会有所不同。

面部识别也只是深度学习技术中许多重要特征的一项。其中，最有趣的可能是面部分析。它可以分析图像和视频，提取其中的面部特征，并预测性别、年龄，甚至是身体质量指数。它已经被用来探测糖尿病、心脏病或痴呆症的初期征兆，测量心跳和血压。

保险公司正在运用面部分析来简化保单额计算方法。该分析让保险公司可以无需健康检测，就能测量出个人的健康状态、生活方式和预期寿命。在健康保障领域，面部识别还有许许多多其他方面的应用，比如自动追踪病人的身体情况、情绪，并探测其行为、身体发展和精神上的失调问题。

在零售业，理解消费者的情绪非常重要，这有助于零售商把控消费者对商品的态度。人工智能领域另一流行的应用是聊天机器人：探测面部影响或声音中的情绪可以使聊天机器人对聊天者展现出更多的共情。

人工智能和机器学习有能力彻底改变人们工作和生活的方式；改变公司商贸的方式；并给人们史无前例的便利，也给公司提供创新的产品和服务。

便利和创新的背后是牺牲隐私、道德、公正的挑战。当人工智能为我们的生活作出重要决定的时候，它需要得到我们的信任。我们需要一些机制使使用者可以信任他们被人工智能系统推荐、预测和决定的内容。人工智能需要得以解释，而不是一个缺乏理解的黑洞。很显然，如果没有解释的空间，人工智能所做出的决定很难得到管理者的认同。

像面部识别和面部分析之类的人工智能算法如果不公正，就无法得到理解。但是，人工智能就像它的信息数据一样公正和无偏差。数据的缺乏也能使人工智能系统的决策、预测和分析的准确度降低。

因此，最重要的是确保在机器学习中，我们只使用高质量无偏差的数据，特别是要确保人工智能的使用需服从于多种公正的管理规定。【作者】Andy Chun【作者简介】香港城市大学助理教授、香港电脑学会人工智能与机器人学会前任首席信息官

图片来源：SCMP

编辑/陈鉴轩

翻译/刘欣然

校对/董一

排版/符新悦