[논문 리뷰] A Comprehensive Survey on Trustworthy Recommender Systems

Wenqi Fan, Xiangyu Zhao외 9명|arXiv (Cornell University)|2022. 09. 21.

Blockchain Technology Applications and Security인용 수 15

한 줄 요약

이 종합적 서베이는 안전성 및 내구성, 공정성, 설명 가능성, 개인정보 보호, 환경적 복지, 책임성의 여섯 핵심 차원을 체계적으로 분석함으로써 신뢰할 수 있는 추천 시스템(TRec)을 위한 종합적인 프레임워크를 제시한다. 최신 기술을 통합하고, 특히 다차원 간 상호작용에 대한 임계적인 연구 격차를 밝히며, 추천 시스템에서 신뢰할 수 있는 AI를 가속화하기 위한 통합 기술 생태계의 구축을 주장한다.

ABSTRACT

As one of the most successful AI-powered applications, recommender systems aim to help people make appropriate decisions in an effective and efficient way, by providing personalized suggestions in many aspects of our lives, especially for various human-oriented online services such as e-commerce platforms and social media sites. In the past few decades, the rapid developments of recommender systems have significantly benefited human by creating economic value, saving time and effort, and promoting social good. However, recent studies have found that data-driven recommender systems can pose serious threats to users and society, such as spreading fake news to manipulate public opinion in social media sites, amplifying unfairness toward under-represented groups or individuals in job matching services, or inferring privacy information from recommendation results. Therefore, systems' trustworthiness has been attracting increasing attention from various aspects for mitigating negative impacts caused by recommender systems, so as to enhance the public's trust towards recommender systems techniques. In this survey, we provide a comprehensive overview of Trustworthy Recommender systems (TRec) with a specific focus on six of the most important aspects; namely, Safety & Robustness, Nondiscrimination & Fairness, Explainability, Privacy, Environmental Well-being, and Accountability & Auditability. For each aspect, we summarize the recent related technologies and discuss potential research directions to help achieve trustworthy recommender systems in the future.

연구 동기 및 목표

• 데이터 기반 추천 시스템이 초래하는 사회적 및 개인적 위험, 예를 들어 편향, 개인정보 泄露, 악성 조작 등의 우려를 해결하기 위해.
• 성능 지표를 넘어서, 평가 및 구축에 있어 통합적이고 다차원적인 프레임워크를 수립하기 위해.
• 다양한 신뢰성 차원 간 상호작용(예: 공정성 대 개인정보 보호, 설명 가능성 대 환경 비용)에 대한 임계적인 연구 격차를 식별하고 새로운 연구 방향을 제안하기 위해.
• 다시 생성 가능하고 확장 가능한 연구를 지원하기 위해 표준화된 기술 생태계(예: 데이터셋, 평가 지표, 툴킷 포함)의 개발을 촉구하기 위해.

제안 방법

• 신뢰할 수 있는 추천 시스템(TRec)을 안전성 및 내구성, 비차별 및 공정성, 설명 가능성, 개인정보 보호, 환경적 복지, 책임성 및 감사 가능성의 여섯 핵심 차원으로 분류한다.
• 각 차원 내에서 대표적인 방법과 기술을 검토한다. 예를 들어 내구성을 위한 적대적 훈련, 공정성을 위한 정규화 기법, 반사적 설명 기법, 개인정보 보호를 위한 미세한 차별화 기법, 환경적 영향을 줄이기 위한 모델 효율성 기법 등.
• 다양한 차원 간 상호작용을 분석한다. 예를 들어 설명 가능성과 환경 비용 간의 상충 관계, 또는 모델 설계에서 개인정보 보호와 내구성 간의 갈등.
• 표준화된 기술 생태계의 필요성을 제안한다. 이는 도메인 특화 데이터셋(예: 공정성에 적합한 KuaiRec), 평가 지표, 오픈소스 툴킷을 포함하여 다차원 벤치마킹을 지원한다.
• 실제 응용 사례(예: LinkedIn의 BERT 기반 직업 추천 시스템, YouTube의 DNN 기반 영상 추천 시스템)를 인용하여, 생산 환경에서 신뢰성 차원이 어떻게 구현되는지 설명한다.
• 기술적 설계에 유럽 연합의 TAI 지침에서 제시한 윤리적 AI 원칙을 통합함으로써, 기술적 해결책이 사회적 가치와 일치하도록 한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 악성 공격에 강건하면서도 공정성과 개인정보 보호를 유지할 수 있는가?
• RQ2 다양한 신뢰성 차원 간의 주요 기술적 상충 관계와 갈등(예: 설명 가능성 대 환경 비용)은 무엇인가?
• RQ3 개인정보 보호 기법은 딥러닝 기반 추천 모델에서 공정성과 내구성과 효과적으로 통합될 수 있는가?
• RQ4 현재 연구 생태계에 부족한 요소는 무엇이며, 이는 다차원적 신뢰할 수 있는 추천 시스템의 개발과 평가를 저해하는가?
• RQ5 생산 환경의 추천 시스템에서 책임성과 제어 가능성은 어떻게 기술적으로 실현될 수 있으며, 이는 해로운 결과를 완화하는 데 기여하는가?

주요 결과

• 현재 대부분의 연구는 한 가지 신뢰성 차원에 집중되어 있으며, 공정성-내구성 또는 설명 가능성-개인정보 보호와 같은 조합을 탐색한 연구는 소수에 그쳐, 다차원 설계에 있어 중대한 연구 격차가 존재함을 시사한다.
• 다양한 차원 간 갈등은 흔히 발생한다. 예를 들어 설명 가능성 모듈을 추가하면 모델 복잡도와 에너지 소비가 증가하여 환경적 복지에 악영향을 줄 수 있다.
• 환경적 복지나 책임성과 같은 핵심 차원을 위한 표준화된 데이터셋이나 평가 툴킷이 현재 존재하지 않아 재현성과 벤치마킹을 제한하고 있다.
• 최근 KuaiRec와 같은 연구는 비차별을 다루기 시작했지만, 책임성과 환경적 영향에 대해 유사한 노력은 부족하여 도메인 특화 데이터와 지표가 급히 필요함을 시사한다.
• 반사적 설명 기법과 같은 설명 가능성 기법은 투명성을 향상시키는 데 효과적이며, 일부 경우 개인정보 泄露를 줄이는 데도 기여할 수 있다.
• EU의 TAI 지침에서 제안한 윤리적 AI 원칙을 기술적 설계에 통합하는 것은 필수적이지만, 현재 추천 시스템 연구에서는 다소 미흡하게 다뤄지고 있다.