人工智能中的性别歧视背后有哪些关键成分？减轻这些偏见要采纳哪些实际步骤？谁该当为之卖力、监督和问责如何与现有的管理体系相匹配？12月9-10日，清华大学主理第三届人工智能互助与管理国际论坛，多位专家在“正视人工智能引发的性别歧视”专题论坛上开展对话，磋商帮助AI战胜性别偏见的详细做法。
论坛上专家认为，AI的性别偏见来源于人类生产出的数据以及开拓者的选择，但也可能形成和人类不一样的偏见。由于AI从业者的女性比例较少，女性用户的需求可能被忽略。专家建议政府制订逼迫性的标准来监管AI，对性别公正、算法公正作出更明确的定义，并通过教诲提升IT行业中的性别平衡。
性别公正和算法公正都难以定义
吸收到用户的输入“年夜夫”，一个基于文本天生图片的AI开始了它的思考：是输出一个男性的年夜夫形象，还是女性？算法在这个关于性别的决策过程中发挥了浸染。它并不总是公正的。
AI在性别上的公正性有哪些表示？微软AI部门的莎拉·伯德认为，一是做事质量的公正，AI产品更多地惠及男性还是女性，还是让他们平等受益。二是分配和决策的公正，AI大概会依据性别决定贷款的金额、投放的广告，或在上述将文本转化为图像的过程中作出性别干系的决策。
但细究起来，“真正的公正”很难被定义。“公正有21种不同的定义。”Alliance联合创始人凯特琳·克拉夫布克曼在论坛上指出。不同的社会、不同的文化，对付公正观点的理解都不一样。对付AI性别歧视问题，在性别公正和算法公正两个维度上，都碰着了在定义上的寻衅。
在联合国妇女署的马雷军看来，论坛上所谈论的最大问题便是性别歧视定义不清楚。“不仅是AI行业，全体中国的发展在性别平等上，都要办理性别歧视的定义问题。”她指出，在联合国《肃清对妇女统统形式歧视公约》委员会对中国政府历次报告的评价中，个中一个评论见地便是中国要对性别歧视给出清晰定义，否则无从谈起对女性有没有歧视。她也希望能连续努力，把肃清性别歧视修订进中国的女性法。克拉夫布克曼对此进一步回应，性别歧视的定义问题不止在中国存在，更是一个环球性问题，没有一个国家能流传宣传已经完备办理。
在算法的歧视和偏见上，也很难从法律上给出一个明确定义。对外经济贸易大学数字经济与法律创新研究中央实行主任张欣认为，定义的困难有以下几个缘故原由：AI的偏见由很多成分造成，在法律实践上无法总结所有的问题；AI的技能发展极快，规范性的规则大概很快过期。除此之外，AI的算法在很多时候都是一个“黑箱”，缺少透明度和可阐明性。监管机构在不完备理解问题的情形下很难给出定义，一个缺点的定义也会给业界带来混乱。
针对AI发展过快、法律法规滞后的问题，腾讯研究院高等研究员曹建峰提出“伦理先行，道德先行”，把伦理道德问题植入AI研发事情当中。
AI的性别偏见不完备和人类相同
真实天下并不缺少数据导致性别歧视的案例。统计显示，女性在车祸中更随意马虎受伤，由于安全带的测试假人更多利用了欧洲男性的参数。这种基于测试数据的歧视，也从真实天下移植到了数字天下。曹建峰认为，AI的偏见实质上反响了人类偏见，它的紧张来源是数据本身和AI的开拓者。
马雷军举例说，2018年，研究创造环球最大的网络图片网站有45%的图片来自于北美，只有3%的图片来自于中国和印度。从人口上看，美国人口只占到环球人口4%，中国和印度人口是美国的多倍，由此产生了偏差，导致不能很好地反响现实，没有表示中国和印度的特性。AI的开拓过程须要用到大量的数据演习，比如若利用了上述图片网站作为演习集，就会带有美国化、白人化的偏见。
开拓者主不雅观判断什么样的数据集投入AI当中，成为AI偏见的又一大来源。Siri、谷歌助手等AI语音助理的声音基本都是女性，是由于工程师没有性别平等意识，在开拓语音助手的时候首先想到女性声音，导致性别的代表度涌现失落衡。
什么是“好的”“精确的”数据？AI的演习数据库里该当含有多少比例的男性和女性，短头发和长头发，非洲、高加索人种或亚太的人种，多少LGBT？清华大学交叉信息研究院助理教授于洋指出，问题在于抽样若何才能够做到具有足够的代表性，能反响所有的分布。“我们该当谨慎地关注数据的抽样，由于这是第一步，这是统统的统统的开始。”
然而，AI也有可能形成和人类不一样的偏见。例如，AI措辞处理模型BERT方向于预测护士是男性，它以为乃至所有人只要有事情，都该当是男性。这与常日的社会歧视不符合，人类会认为护士在内的一些工种以女性为主。于洋指出，如果研究职员误以为人工智能和人类刻板印象相同，就会导致非随机的抽样，带来新的稠浊成分，造成缺点结果。
于洋建议，AI的性别歧视该当当作一种产品质量来管理，政府通过制订逼迫性的标准来实现性别公道。政府该当推进估测偏差分布方法的标准化，哀求所有AI模型偏见值的统计偏差为零，并掌握其与社会歧视符合的概率。他进一步表示，无论是商业运用还是学术研究，都该当被鼓励乃至逼迫哀求表露性别歧视干系的数据和信息。
在行业和教诲中提升性别平衡
环球只有22%的人工智能专业人士是女性，主持人、联合国开拓操持署助理驻华代表张薇在论坛开头指出。马雷军很关注女性是否能在行业中具有足够的代表性：2019年，欧洲国家的IT系统大约只有20%是女性，中国的女性占比数字更低。女性在行业中的领导力也十分主要。克拉夫布克曼指出，在AI行业领军人物中，女性的占比较低。
性别差异导致关注视角上的差异。由于从业者在IT行业中缺少代表性和领导力，女性用户的需求也很有可能在AI模型中被忽略。
IT行业中女性的占比较低，缘故原由可能出自教诲系统中的性别失落衡。马雷军表示，2019年大学本科打算机系只有20%是女生，复旦大学12%，清华大学12%。于洋也供应了更多数字，在80年代初期，女性参与打算机科学的比例大概好比今高两倍，当时超过30%的学生是女性，而现在这个比例降到20%以下。他很困惑：打算机学科特殊是一流高校一贯努力改进性别平衡，但是这个问题彷佛愈演愈烈。“这背后究竟什么缘故原由导致女性越来越不愿意报考打算机科学学科？”
马雷军对此的回答是，这可能是由于高中老师“女生不要学理，女生要学文”的贯注灌注。克拉夫布克曼也认为，女性并不生来在编程能力上弱于男性。有研究将男性女性分开培训一年，创造女性编程的能力乃至要优于男性。性别歧视是系统性的问题，在教诲中的影响更不容忽略。
从产品的角度，克拉夫布克曼分享了团队目前所做的肃清性别歧视的努力。他们利用了很宽泛的女性主义观点，把女性当中的所有子群体如屯子女性或残疾女性都包括进产品中去，来确保设计的原谅性。她还指出，办理AI性别歧视的问题须要跨学科办理方案。在全体数据生命周期，从早期培训到产品，到后面的审计和调度，须要生理学家、性别专家、工程师等人都参与进去，以跨学科协作的办法来妥善管控技能。
采写：演习生程雨祺 南都蒋琳