人机学习伙伴关系如何减少无意识偏见

人类的偏见倾向是如此根深蒂固,以至于那些真心不歧视的公司可能需要机器来帮助他们。

了解更多关于Brian Uzzi的信息

通过布莱恩·乌西

在上面

《创业家》作者的观点纯属个人观点。雷竞技手机版

Airbnb的网站连接着世界各地的旅行者和业主,该网站的一些用户抱怨说,他们受到了歧视和种族主义的困扰。Airbnb要应对这些投诉,最好的办法可能是将人类和计算机的专业知识结合起来。

在人性化方面,爱彼迎采取了强硬的立场,“对任何歧视零容忍”,聘请它的第一位多元化主管,David J. King III,他负责确保公司及其用户更加多样化。

在计算机科学方面,机器学习可以提供一种快捷方式,可以发出危险信号,识别用户的倾向,特别是那些有房屋出租的“房东”,这可能会导致歧视。

爱彼迎面临着一系列负面新闻的冲击,包括一位跨性别女性的推文她说,在向房东透露自己是跨性别者后,她被拒绝在Airbnb租房。Airbnb也一直在被一名非裔美国用户起诉他声称,当他试图在该网站上预订房产时,他受到了歧视,据称他的投诉被该公司忽视。

为了追求“创造一个人们可以归属于任何地方的世界”的使命,爱彼迎要求人们坚持其好客的做法是不够的;对于作为独立承包商的房东,该公司在法律上可以提出的要求也可能有所限制。此外,房东还可以通过一些明显的方法来规避接待政策:例如,当具有某些民族或种族背景的人或其姓氏含有宗教信仰的人提出要求时,声称某一房产不可出租。

相关:克服无意识偏见是建立包容性团队的关键

对于Airbnb来说,避免歧视行为的最好方法是揭露房东信仰和态度的“基本真相”,而不仅仅是他们口头上承诺不基于种族、民族、性别、性取向、宗教或其他因素进行歧视。

通过梳理成千上万(甚至数百万)用户生成的语言,并在语言、语气、期望和不期望的行为之间找到强大的经验关联,机器学习可以深入、快速和高效地进行。例如,在审查房东时,Airbnb可以使用机器学习来搜索用户生成的文本,如网站上的房产描述、客户评论或推文。利用模式识别和计算机学习能力,机器可以搜索与某些歧视性信念或行为倾向高度相关的“危险信号”单词、短语或态度。机器学习技术可以非常强大地揭示主人的倾向,而他们不知道正在搜索什么;因此,他们的文本、评论或微博都体现了他们的自然反应。

在问题出现之前识别出不合适的房东可以降低歧视的风险,这对于Airbnb这样的酒店网站来说绝对是至关重要的。当负面用户体验通过社交媒体被放大时,要避免声誉和品牌受到严重损害,预防是至关重要的。

考虑到达美乐的视频恶作剧披萨员工的照片在网上疯传,照片中他们吐唾沫在食物上,还做出了其他令人恶心的行为,而且违反了卫生法规。尽管这些食物从未送到,但视频恶作剧损害了达美乐在顾客中的声誉,并使其支持率直线下降。

相关:爱彼迎招聘美国前雇员司法部长帮助制定政策

在Airbnb的案例中,防止其声誉受损的最好办法是在审查房东时表现得很好,比如在调查问卷中除了描述自己和他们的房产之外,还会无意识地透露他们的背景和态度——甚至涉及移民、枪支管制或退伍军人权利等问题。可以使用计算机算法扫描响应,以找出响应中的某些模式。除了使用特定的词汇外,语言的语气还可以表明是否与歧视某些群体的倾向高度相关。

制作这样一份问卷的一个挑战是如何措词避免偏见。再一次,机器学习的模式识别能力可以用来设计问题,这些问题很有可能有效地揭示潜在的情绪,并预测主持人的未来行为。

同样,机器学习可以帮助提高公司内部多元化培训的有效性,帮助人们调整自己的行为,不冒犯他人。机器学习可以帮助找出那些会产生意想不到的效果或使情况恶化的单词、短语或语气,比如在绩效评估后给出严厉的反馈。

相关:报告称,共享经济摊牌:到2019年,全球爱彼迎(airbnb)的规模将超过uber

计算机不会推翻人类的选择;相反,它会突出潜在的问题,然后人们可以通过软化语气来解决这些问题,同时不改变内容——或者不改变内容。

当Airbnb与一些用户对歧视的看法作斗争时,多元化专业知识与计算机科学的结合产生了一条高效、经济的捷径。但单靠这两项都不够。通过共同努力,机器和人类可以通过寻找正确的信息和扫描“危险信号”来改善审查过程,从而在歧视有机会发生之前帮助防止歧视。

布莱恩·乌西

西北大学凯洛格管理学院教授

布莱恩·乌西教授是在凯洛格管理学院他在领导力、社交网络和新媒体方面是全球知名的科学家和演说家。乌齐教授是凯洛格商学院第二届年会的联合主席国际计算社会科学峰会2016年6月22日至26日。

相关的话题

编辑器的选择

每个人都想接近他们最喜欢的艺术家。这就是让它成为现实的技术——而且更好
每个领域里收入最高、知名度最高的人都知道沟通策略
在被出版商拒绝后这位作者自己出版了她的书,销量超过50万册。下面是她是怎么做到的。
在会议上发言有困难?试试这个策略
他为亚马逊、Meta和Forever 21命名品牌,并说这是命名游戏中的大空白
商业新闻

美国航空公司起诉一名青少年在飞往迈阿密的航班上心脏病发作死亡

2022年6月4日,凯文·格林里奇(Kevin Greenridge)乘坐美航614航班从洪都拉斯飞往迈阿密,途中心脏骤停,失去知觉。

领导

如何用非语言交流在几秒钟内发现说谎者

有很多方法可以了解某人是否对你不诚实。下面的标志甚至不需要言语,都是非言语队列。

通过韦伯不

发展业务

现在就采取行动,用这4个策略来保护你的企业免受经济衰退的影响

企业主现在就可以实施这些切实可行的措施来帮助他们的企业发展,甚至在正式宣布经济衰退之前。

raybet

在被出版商拒绝后,这位作者自行出版了她的书,销量超过50万册。下面是她是怎么做到的。

作者凯伦·英格利斯(Karen Inglis)分解了你需要为自己出版的书提高知名度和销量的策略和策略。

通过丹介绍

商业新闻

以下是美国最便宜和最不便宜的退休地点

东北部和西海岸的房价是最便宜的,而山州地区往往是预算有限的退休人员的理想选择。