随之而来的争议引发了激烈的讨论：算法为什么会存在偏见，并在无意间产生冒犯性的结果？
当微软今年3月推出了“千禧一代”聊天机器人Tay时，它很快学会了种族主义言论，并在Twitter上传播新纳粹观点。在Facebook上月去掉了负责筛选“趋势”新闻的人类编辑后，计算机算法很快就把假新闻和粗俗消息推送到News Feed中，包括一篇有关男子用鸡肉三明治自慰的文章。
虽然这次看似带有种族主义意味的选美比赛引发了各界嘲笑，但计算机科学家和社会公正倡议者却表示，在其他行业和领域，如果带有偏见的人工智能系统得到大范围应用，那绝对不是一件好笑的事情。在某些情况下，甚至会给有色人种带来灾难性的后果。
Beauty.AI由微软支持的深度学习组织Youth Laboratories开发，它依靠庞大的照片数据库来建立一种算法，借此评估人们的美貌。虽然有很多原因可以解释算法为何偏向白人，但Beauty.AI首席科学官亚历克斯•扎沃伦科夫（Alex Zhavoronkov）的主要问题在于，该项目在建立美貌评价标准时使用的数据，并没有涵盖足够的少数族裔人群。
虽然该组织开发算法时并没有将浅色皮肤作为美貌的标准，但系统获得的数据实际上却导致机器人裁判得出了这样的结论。
“如果数据库中的有色人种不够多，就会得出偏见。”扎沃伦科夫说，他也对结果颇感惊讶。“当你训练计算机算法识别某种形态时……你手上的数据可能不够充分，这些数据也有可能存在偏见。”
对于带有偏见的算法，最简单的解释就是：负责创造这些算法的人本身就带有根深蒂固的偏见。换句话说，尽管人们认为算法是公正、客观的，但这些算法却往往会延续和放大现有的偏见。
哥伦比亚大学法学和政治学教授伯纳德•哈考特（Bernard Harcourt）认为，Beauty.AI的结果“完美地诠释了这个问题”。他曾经研究过“预测性警务”，并发现这项业务对机器的依赖越来越大。“根本不可能在选美过程中不顾文化和种族因素，得出完全中立的结果。”
此事给我们提了一个醒：“真正负责思考的是人类。尽管这种思考以算法形式体现出来，而我们也认为这种算法是中立而科学的，但本质并没有改变。”他说。
公民自由组织最近对基于计算机的执法预测工具表达了担忧——这类系统会使用数据预测犯罪可能发生在哪些地方——因为这些数据可能采用了有瑕疵的统计数据，因而可能加剧种族偏见，并引发有害的警务措施。
“数据受到污染，结果也会受到污染。”媒体争议中心（Center for Media Justice）执行总监马尔基亚•赛丽尔（Malkia Cyril）说。
ProPublica今年早些时候进行的一项调查发现，用于预测未来犯罪活动的软件对黑人存在偏见，这有可能引发更严厉的量刑。
“这真的是人命关天的大事。”哈弗福德学院计算机科学教授索瑞勒•弗雷德勒（Sorelle Friedler）说。
弗雷德勒表示，关键问题在于，少数族裔在数据库中的占比本身就比较低，因此算法很容易针对这些人得出不准确的结论，而算法的创作者却无法发现这一问题。例如，她表示，一套对印第安人存有偏见的算法可能被视作一大成功，因为这些人在人口总数中仅占2%。
“你可能得到98%的准确率，并由此认为自己设计了一套优秀的算法。”
弗雷德勒表示，可以通过一些具有前瞻性的方法对算法进行调整，以便纠正偏见，包括改进输入系统的数据，或者增加一些过滤器，以便确保不同种族的人都能得到平等对待。
具有前瞻性的人工智能算法并不限于刑事司法系统。一项研究发现，在网上看到高薪招聘广告的女性远少于男性。谷歌(微博)的照片应用去年甚至将黑人识别为大猩猩。
赛丽尔指出，计算机算法在纠正社会不平等的过程中发挥的作用非常有限。“在本应着眼于制度变化的时候，我们却过于依赖技术、算法和机器学习。”
扎沃伦科夫表示，当Beauty.AI今年秋天举行新一轮选美比赛时，他希望通过对算法的一系列调整来规避歧视性结果。“我们将努力纠正这个问题。”
他补充道，机器人或许根本就不是最好的选美裁判：“更令我惊讶的是算法在选美过程中使用的标准。它从大量候选人中选出的优胜者可能并不符合我自己的审美。”（编译/长歌）
推荐：关注“AI世代”微信公众号（tencentAI）穿越时空三十年，进入机器人的时代。
