美国政府分析师对最普遍使用的人脸识别算法进行的分析发现，多数算法对不同种族的识别效果存在差异，对亚裔和非裔美国人的识别错误比率远高于白种人。
美国政府分析师对最普遍使用的人脸识别算法进行的分析发现，多数算法对不同种族的识别效果存在差异，对亚裔和非裔美国人的识别错误比率远高于白种人。
最新公布的这项调查是目前为止同类调查中规模最大的一个。该研究令人更加担心，人工智能算法不会平等对待每个人。学术界和政府研究人员进行的其他调查显示，很多科技企业出售的人脸识别技术无法识别少数族群或女性的比率远高于无法识别男性白种人的比例。
该研究发现，当一种算法用于比较两张照片，判断是否是同一个人时，正确性存在很大差异。移民官员确认一个人的护照照片时可能会进行这样的比较。该研究由隶属美国商务部的实验室美国国家标准与技术研究院(National Institute of Standards and Technology;简称NIST)进行。
研究还发现，算法用于从一堆照片中选出一个人时，就像现实中警察寻找嫌疑人，正确性也存在偏差。
研究人员认为，这些人工智能系统中的偏差，是早期训练软件时给软件提供的信息所导致。如果建模时使用了更多的男性和白种人照片，软件识别这些人的时候就可能更加准确。NIST的这项研究发现，中国开发的算法通常更善于识别亚洲面孔。
人工智能的种族偏差问题的政治和社会重要性在增强，因人脸识别技术的应用变得无所不在，存在于人们的手机、家庭安全系统以及警方使用的摄像头中。很多司法辖区已经在考虑对该技术的使用加以限制。旧金山5月成为美国首个禁止当地机构使用该技术的城市。
来源：华尔街日报
原文链接：研究发现人脸识别软件准确率存在种族偏差 - 中国新闻
没有评论:
发表评论