[论文解读] Debiasing Desire: Addressing Bias & Discrimination on Intimate Platforms

Jevan Hutson, Jessie G. Taft+2 more|arXiv (Cornell University)|Sep 5, 2018

Sexuality, Behavior, and Technology参考文献 64被引用 10

一句话总结

本文提出，通过社会正义与酷儿HCI视角分析平台设计特征，可对亲密平台（如约会和约炮应用）进行重新设计，在不侵犯用户自主权的前提下减少偏见与歧视。作者倡导采用伦理、透明的干预措施，如过滤排他性语言和重新思考算法匹配机制，表明此类改变可在尊重用户自主性的前提下提升包容性。

ABSTRACT

Designing technical systems to be resistant to bias and discrimination represents vital new terrain for researchers, policymakers, and the anti-discrimination project more broadly. We consider bias and discrimination in the context of popular online dating and hookup platforms in the United States, which we call intimate platforms. Drawing on work in social-justice-oriented and Queer HCI, we review design features of popular intimate platforms and their potential role in exacerbating or mitigating interpersonal bias. We argue that focusing on platform design can reveal opportunities to reshape troubling patterns of intimate contact without overriding users' decisional autonomy. We identify and address the difficult ethical questions that nevertheless come along with such intervention, while urging the social computing community to engage more deeply with issues of bias, discrimination, and exclusion in the study and design of intimate platforms.

研究动机与目标

• 考察亲密平台的设计如何加剧或缓解人际偏见与歧视。
• 探讨在不侵犯个人自主权的前提下干预亲密用户偏好的伦理与结构性挑战。
• 识别可减少排斥行为的设计策略，同时保障边缘化用户的安 全与包容性。
• 呼吁社会计算社区将亲密平台视为应对系统性偏见与歧视的关键场域。
• 在历史上海关干预亲密生活的伤害与平台层面伦理设计干预的潜力之间取得平衡。

提出的方法

• 通过社会正义导向与酷儿HCI理论的视角，分析流行的亲密平台（如Tinder、Grindr）的运作机制。
• 审查用户资料、过滤器、搜索工具及匹配算法等平台设计特征在助长或挑战偏见中的作用。
• 提出设计干预措施，如基于关键词的排他性语言监管，以及重新思考算法匹配机制，以减少种族与身份相关的歧视。
• 评估在亲密语境中限制用户表达（尤其是涉及种族、性取向与性别）的伦理影响。
• 倡导平台政策与设计选择的透明化，以增强用户自主权与问责机制。
• 借鉴历史上国家干预的案例（如禁止跨种族通婚的法律），警示过度干预的风险，同时为有针对性的、伦理的平台设计干预提供正当性。

实验结果

研究问题

• RQ1 亲密平台的设计特征在多大程度上助长或缓解了基于种族与身份的歧视？
• RQ2 平台设计在不侵犯用户自主权的前提下，可通过何种方式干预用户的偏见偏好？
• RQ3 当平台限制或重塑亲密用户偏好时，会产生哪些伦理风险，又该如何负责任地管理？
• RQ4 历史上国家对亲密关系的控制模式如何影响当前的平台设计决策？
• RQ5 哪些身份类别在亲密平台上最易遭受排斥，设计应如何回应？

主要发现

• 亲密平台常通过基于种族的过滤器与搜索工具放大偏见，使用户得以表达如‘不接受黑人，抱歉’等排斥性偏好。
• 明显具有歧视性的个人资料语言（如‘仅与白人男孩聊天’）会贬低并疏远边缘化用户，削弱其归属感。
• 基于关键词的监管或资料内容审查等设计干预措施可降低排他性言论的可见度，即使无法完全改变用户偏好。
• 减少用户接触歧视性语言的频率，可能提升边缘化用户在平台上的参与度，即使匹配结果中的结构性不平等依然存在。
• 平台政策与设计选择的透明化至关重要，可防止操纵行为，并帮助用户选择与其价值观相符的平台。
• 历史上国家对亲密生活的干预（如禁止跨种族通婚的法律）凸显了谨慎行事的必要性，同时也为伦理的、非强制性的设计干预提供了正当性，以对抗系统性偏见。