[論文レビュー] Debiasing Desire: Addressing Bias & Discrimination on Intimate Platforms

Jevan Hutson, Jessie G. Taft+2 more|arXiv (Cornell University)|Sep 5, 2018

Sexuality, Behavior, and Technology参考文献 64被引用数 10

ひとこと要約

この論文は、デートやハッキングアプリなどの密かなプラットフォームを再設計することで、ユーザーの自律性を損なわずにバイアスや差別を軽減できると提唱している。社会的正義とLGBTQ+HCIの視点からプラットフォーム設計の特徴を分析し、排除的言語のフィルタリングやアルゴリズム的マッチングの見直しなどの倫理的で透明性のある介入を提唱している。こうした変更により、包括性を高めつつユーザーの自立性を尊重できることが示されている。

ABSTRACT

Designing technical systems to be resistant to bias and discrimination represents vital new terrain for researchers, policymakers, and the anti-discrimination project more broadly. We consider bias and discrimination in the context of popular online dating and hookup platforms in the United States, which we call intimate platforms. Drawing on work in social-justice-oriented and Queer HCI, we review design features of popular intimate platforms and their potential role in exacerbating or mitigating interpersonal bias. We argue that focusing on platform design can reveal opportunities to reshape troubling patterns of intimate contact without overriding users' decisional autonomy. We identify and address the difficult ethical questions that nevertheless come along with such intervention, while urging the social computing community to engage more deeply with issues of bias, discrimination, and exclusion in the study and design of intimate platforms.

研究の動機と目的

• 密かなプラットフォームにおけるプラットフォーム設計が、人間関係のバイアスや差別をどのように助長または緩和するかを検討すること。
• 個人の自律性を侵害せずに、密かなユーザーの好みに干渉する際の倫理的・構造的課題を明らかにすること。
• 差別的行動を減らしつつ、マイノリティのユーザーの安全と包摂を支援するデザイン戦略を同定すること。
• 社会コンピューティングコミュニティに、密かなプラットフォームを包括的バイアスと差別の是正の重要な現場と見なすよう呼びかけること。
• 国家による密かな生活への介入の歴史的弊害と、倫理的でプラットフォームレベルの設計介入の可能性のバランスを取ること。

提案手法

• 社会的正義志向の理論とLGBTQ+HCI理論の視点から、人気のある密かなプラットフォーム（例：Tinder、Grindr）を分析すること。
• ユーザーのプロフィール、フィルタ、検索ツール、マッチングアルゴリズムなどのプラットフォーム設計要因が、バイアスの助長または是正に果たす役割を検討すること。
• 排除的言語のキーワードベースのモデレーションやアルゴリズム的マッチングの再考といったデザイン介入を提言することにより、人種的・アイデンティティベースの差別を軽減すること。
• 人種、性的指向、ジェンダーに関して、密かな文脈におけるユーザー表現の制限がもたらす倫理的影響を評価すること。
• ユーザーの自律性と責任を高めるために、プラットフォームのポリシーと設計選択の透明性を促進すること。
• 国家による介入の歴史的例（例：混血禁止法）を参照し、過剰な干渉を避けるべきであると警告すると同時に、的確で倫理的な設計介入の正当性を示すこと。

実験結果

リサーチクエスチョン

• RQ1 密かなプラットフォームの設計要因は、人種的・アイデンティティベースの差別をどのように助長または緩和するか？
• RQ2 ユーザーのバイアスのある好みに干渉する際、ユーザーの自律性を侵害せずにプラットフォーム設計がどのような形で介入できるか？
• RQ3 プラットフォームが密かなユーザーの好みを制限または再設計する際、生じる倫理的リスクは何か。そして、それらはどのように責任を持って管理できるか？
• RQ4 国家による密かな関係への干渉の歴史的パターンは、現在のプラットフォーム設計意思決定にどのように影響しているか？
• RQ5 どのアイデンティティカテゴリーが密かなプラットフォームで排除のリスクが最も高いか。そして、デザインはそれに対してどのように対応すべきか？

主な発見

• 密かなプラットフォームでは、人種ベースのフィルターや検索ツールといった特徴が、『黒人NG、ごめん』といった排除的好みを表現可能にするなど、バイアスを強化する傾向がある。
• 『白い男とだけ話したい』といった明確な差別的プロフィール言語は、マイノリティのユーザーを軽視し、疎外感を増大させ、帰属意識を損なう。
• キーワードベースのモデレーションやプロフィールコンテンツのレビューといったデザイン介入により、排除的メッセージの可視性を低下させることができる。これはユーザーの好みを完全に変えるものではないが、効果的である。
• 差別的言語へのさらなる暴露を減らすことで、マイノリティのユーザーのプラットフォーム利用が増加する可能性がある。これは、マッチング結果における構造的不平等が続く中でも同様に成り立つ。
• プラットフォームポリシーと設計選択の透明性は、操作を防ぎ、ユーザーが自身の価値観に合ったプラットフォームを選べる力を高めるために不可欠である。
• 歴史的な国家による密かな生活への介入（例：混血禁止法）は、注意深さの必要性を強調しているが、同時に包括的バイアスに反する非強制的で倫理的な設計介入の正当性を示している。