巴西塞阿拉（Ceará）州，当地警察部门依靠面部识别系统来识别嫌疑人。但今年早些时候该系统遭到了公众的抨击，最大原因是《黑豹》电影的非裔美国明星迈克尔-B-乔丹（Michael B. Jordan）的照片出现在警方的通缉名单上。警察局的软件未能正确区分黑人面孔，导致这位好莱坞明星的脸出现在名单上。

Mozilla 基金会科技与社会研究员塔尔西奥·席尔瓦（Tarcízio Silva）在新书《Racismo Algorítmico》写道，这样的典型案件表明随着该国政治家和社会拥抱数字技术，从人工智能（AI）到面部识别，对非白人群体的固有偏见的后果正变得越来越明显和有害。

在新书中，Silva 将“算法种族主义”定义为数字平台、社交媒体、移动应用程序和人工智能在社会中重现（和加剧）种族主义。在巴西这个非洲裔占多数的国家，54%的公民被认定为黑人或帕尔多人（混血儿），算法上的种族主义可以把非洲裔巴西人的日常数字互动变成一种痛苦的经历。

这个问题在巴西尤为突出，直到最近，人们还普遍认为巴西是一个没有歧视的种族多元化社会，是所谓的“种族民主”（racial democracy）。但是，多年来，反种族主义活动家认为，制度性的种族主义也压制了巴西的黑人。因此，巴西的黑人人口经历了更高的贫困率和警察暴力。Silva 告诉《Rest of World》，巴西理想化的、不分肤色的政府方式抹杀了有色人种和他们所面临的压迫。

Silva 表示：“算法上的种族主义也以同样的方式发挥作用。我们被告知，互联网会抹去身份，但事实恰恰相反。通过不公开处理隐性编码的种族主义，以白人为主的巴西立法者和全球开发者在不知不觉中没有考虑到巴西社会和技术算法中的种族主义”。

在实践中，算法上的种族主义可能会出现在各种情况中，从面部识别系统无法识别自拍的黑人面孔--席尔瓦所说的"算法上的微表情"--到巴西黑人因为有种族偏见的数据集而获得较低的信用分数。

标签： 视点观察 新书Racismo Algorítmico巴西算法种