[논문 리뷰] Surveying Attitudinal Alignment Between Large Language Models Vs. Humans Towards 17 Sustainable Development Goals

Qing Yang Steve Wu, Ying Xu외 9명|arXiv (Cornell University)|2024. 04. 22.

Sustainability and Climate Change Governance인용 수 7

한 줄 요약

이 논문은 17개의 SDG에 걸친 LLM과 인간 간의 태도 정렬(attitudinal alignment)을 조사하고, 격차, 위험 및 AI를 지속가능한 개발 목표에 맞추는 전략을 분석합니다.

ABSTRACT

Large Language Models (LLMs) have emerged as potent tools for advancing the United Nations' Sustainable Development Goals (SDGs). However, the attitudinal disparities between LLMs and humans towards these goals can pose significant challenges. This study conducts a comprehensive review and analysis of the existing literature on the attitudes of LLMs towards the 17 SDGs, emphasizing the comparison between their attitudes and support for each goal and those of humans. We examine the potential disparities, primarily focusing on aspects such as understanding and emotions, cultural and regional differences, task objective variations, and factors considered in the decision-making process. These disparities arise from the underrepresentation and imbalance in LLM training data, historical biases, quality issues, lack of contextual understanding, and skewed ethical values reflected. The study also investigates the risks and harms that may arise from neglecting the attitudes of LLMs towards the SDGs, including the exacerbation of social inequalities, racial discrimination, environmental destruction, and resource wastage. To address these challenges, we propose strategies and recommendations to guide and regulate the application of LLMs, ensuring their alignment with the principles and goals of the SDGs, and therefore creating a more just, inclusive, and sustainable future.

연구 동기 및 목표

• 각 SDG에 대한 LLM의 태도가 인간의 태도 및 지지 수준과 어떻게 비교되는지 평가한다.
• LLM과 인간 간의 이해 차이, 감정 유사 반응, 의사결정 과정의 차이 원인을 식별한다.
• 태도 격차에 기여하는 문화적, 지역적 및 데이터 관련 요인을 검토한다.
• 오정렬(misalignment)으로 인한 잠재적 위험을 평가하고 SDG에 정렬된 AI 사용을 위한 거버넌스 및 규제 전략을 제안한다.

제안 방법

• 17개 SDG에 대한 LLM 태도와 인간 태도 비교에 관한 포괄적 문헌 고찰.
• 훈련 데이터 편향, 맥락 이해 및 윤리적 가치 등을 포함한 태도 차이를 이끄는 요인 분석.
• 불평등, 차별, 환경 영향 및 자원 낭비와 같은 위험에 대한 논의.
• SDG 정렬 LLM 배치를 안내하고 규제하기 위한 전략과 권고안을 제시한다.

실험 결과

연구 질문

• RQ1 각 17개 SDG에 대한 태도 및 지지에서 LLM과 인간 간에 어떤 격차가 존재하는가?
• RQ2 SDG에 관한 LLM과 인간 간 태도 차이의 주된 원인(데이터, 맥락, 윤리)은 무엇인가?
• RQ3 LLM의 태도 정렬을 SDG에 맞추지 않을 때 발생하는 위험은 무엇이며 어떻게 완화할 수 있는가?
• RQ4 실제로 LLM이 SDG 원칙에 정렬되도록 보장할 수 있는 전략은 무엇인가?
• RQ5 지속가능한 발전을 지원하기 위해 LLM의 적용을 어떻게 거버넌스 프레임워크가 규제해야 하는가?

주요 결과

• LLMs와 인간은 SDG 관련 이슈에 대한 이해, 감정 및 맥락 해석에서 뚜렷한 차이를 보인다.
• 데이터 편향, 역사적 편향 및 제한된 맥락 이해가 LLM 출력이 인간 중심의 SDG 우선순위에서 벗어나게 할 수 있다.
• LLM 태도 정렬을 간과하면 사회적 불평등, 차별 및 환경 피해가 악화될 수 있다.
• 정렬 전략 및 규제 권고가 LLM 배치를 공정하고 지속 가능한 결과로 이끌 수 있다.
• LLMs는 데이터 분석 및 정보 확산을 통해 SDG 진전에 기여할 잠재력이 있지만 해를 피하기 위한 신중한 거버넌스가 필요하다.