您的位置:首页 >银行 >

白婷:用量化不公平的方式来界定可接受算法公平的阈值兼顾公平性

2022-03-25 10:25  来源:证券之星 阅读量:8371 

最近几天,由中国人民大学高瓴人工智能学院,智能社会治理跨学科交叉平台和基于大数据文科综合训练国家级虚拟仿真实验教学中心联合主办的算法公平性与内容生态建设研讨会在线上举行北京邮电大学计算机学院助理教授白婷表示,以往不管是工业界还是学界,都更侧重于个性化推荐算法的精度,但是,这几年大家慢慢开始关注社会伦理,价值观的需求,兼顾公平性

白婷:用量化不公平的方式来界定可接受算法公平的阈值兼顾公平性

白婷表示,公平性很难界定,虽然我们并不知道什么样的东西是公平的,但是我们能够很明确感觉到什么东西是不公平的,比如说大数据杀熟,或者是性别歧视等,我们对于公平性的思考是源于对不公平性现象的体会白婷说道

由此,白婷认为,或许可以换个角度,不去界定公平性,而是去量化不公平性的后果,来界定可接受公平性的阈值,其中包括:第一,量化不公平性的后果我们可以明确不公平会导致哪些后果,这些后果是否是可接受的,用一个量化标准去评价,如果发生不公平现象的话,它会有什么样的后果第二,明确评价不公平的指标比如说不公平体现在哪些方面,制定一些明确的指标去衡量它的不公平性第三,考虑模型层面的通用性我们需要对推荐系统的推荐结果进行分析,在模型层面上,我们现阶段可以用白盒去模拟,但很多平台是用黑盒的方式,如果我们不能接触到该平台的推荐算法,就需要有一个通用的模型第四,针对推荐算法公平性的预警当发生过度不公平推荐结果的时候,我们会采取算法评估层面的警示以及干预措施,从而出台相应的监管机制,达成对算法的监管

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

最新资讯