[논문 리뷰] ChatGPT and Bard Responses to Polarizing Questions

Abhay Goyal, Muhammad Shahid Nawaz외 11명|arXiv (Cornell University)|2023. 07. 13.

Artificial Intelligence in Healthcare and Education인용 수 5

한 줄 요약

이 연구는 챗지피티와 바드가 미국 중심의 논란이 되는 주제들에 대해 어떻게 반응하는지 분석하기 위해 공개된, 주석이 달린 데이터셋을 구축함으로써, 이들의 극단적인 성향을 조사한다. 연구 결과, 두 모델 모두 좌익 성향의 편향을 보이며, 바드는 더 포괄적이고 일반적이지 않은 응답을 제공함으로써 오락성 정보 확산의 위험은 더 높지만 복잡한 논의에 더 유용하다는 점을 발견했다.

ABSTRACT

Recent developments in natural language processing have demonstrated the potential of large language models (LLMs) to improve a range of educational and learning outcomes. Of recent chatbots based on LLMs, ChatGPT and Bard have made it clear that artificial intelligence (AI) technology will have significant implications on the way we obtain and search for information. However, these tools sometimes produce text that is convincing, but often incorrect, known as hallucinations. As such, their use can distort scientific facts and spread misinformation. To counter polarizing responses on these tools, it is critical to provide an overview of such responses so stakeholders can determine which topics tend to produce more contentious responses -- key to developing targeted regulatory policy and interventions. In addition, there currently exists no annotated dataset of ChatGPT and Bard responses around possibly polarizing topics, central to the above aims. We address the indicated issues through the following contribution: Focusing on highly polarizing topics in the US, we created and described a dataset of ChatGPT and Bard responses. Broadly, our results indicated a left-leaning bias for both ChatGPT and Bard, with Bard more likely to provide responses around polarizing topics. Bard seemed to have fewer guardrails around controversial topics, and appeared more willing to provide comprehensive, and somewhat human-like responses. Bard may thus be more likely abused by malicious actors. Stakeholders may utilize our findings to mitigate misinformative and/or polarizing responses from LLMs

연구 동기 및 목표

• 정책 및 규제 개발을 위한, 특히 논란이 되는 주제에 대한 대규모 언어 모델(LM) 응답에 관한 주석이 달린 데이터셋의 부족을 해결하기 위해.
• 챗지피티와 바드가 총기 통제, 낙태, 이민 개혁과 같은 매우 논란이 되는 미국의 문제들에 어떻게 반응하는지 조사하기 위해.
• 이러한 모델이 분열적인 사회적 및 정치적 주제를 다룰 때 어조나 내용 면에서 편향을 보이는지 평가하기 위해.
• 일반적인 기본 설정(예: 'AI 언어 모델로서...')과 주제에 특화된 응답 사이의 응답 생성 패턴을 식별하기 위해.
• 증거 기반 정책 및 설계 개입을 통해 LLM 기반 챗봇이 초래할 수 있는 오락성 정보 및 분열 위험을 줄이기 위한 이해관계자들에게 정보를 제공하기 위해.

제안 방법

• 퀴오라에서 미국 중심의 사회적 및 정치적 문제에 초점을 맞춘 100개의 극도로 논란이 되는 질문을 수집함.
• 표준화된 프롬프트를 사용하여 각 질문에 대해 챗지피티와 구글의 바드(LaMDA 기반)로부터 응답을 생성함.
• 반복적인 어휘와 주제 집중도를 식별하기 위해 n-gram 빈도 분석을 사용하여 응답 내용을 분석함.
• 일반적인 템플릿 사용 및 주제에 특화된 세부 정보의 유무를 포함한 응답 스타일의 정성적 및 정량적 비교를 수행함.
• 어휘 어조, 사실적 진술, 진보적 또는 보수적 입장을 반영하는 정도를 평가하여 응답의 편향을 평가함.
• 향후 LLM 행동 및 정책 개발 연구를 위한 공개 가능한 주석이 달린 응답 데이터셋을 구축함.

실험 결과

연구 질문

• RQ1 챗지피티와 바드는 미국 내 극도로 논란이 되는 주제들에 대해 어떻게 반응하는가?
• RQ2 챗지피티와 바드는 논란이 되는 사회적 및 정치적 주제에 대해 감지 가능한 이념적 편향을 보이는가?
• RQ3 응답 생성 패턴은 어떻게 드러나며, 예를 들어 'AI 언어 모델로서...' 같은 일반적인 경고 문구의 사용은 주제에 따라 어떻게 다를까?
• RQ4 챗지피티와 바드의 응답 스타일은 깊이, 구체성, 중립성 인식 면에서 어떻게 다를까?
• RQ5 이 모델들이 얼마나 일반적이거나 템플릿 기반의 응답으로 전환하는가? 어떤 주제들이 더 포괄적인 답변을 유도하는가?

주요 결과

• 챗지피티와 바드는 논란이 되는 주제에 대해 모두 좌익 성향의 편향을 보이며, 바드는 진보적 프레임워크를 더 강하게 보여줌.
• 총기 통제 및 백신 접종과 같은 논란이 되는 주제들에 대해 바드는 챗지피티보다 더 자세하고 일반적이지 않은 응답을 더 자주 제공함.
• 챗지피티는 비건주의, 이민 개혁, 낙태와 같은 주제들에 대해 'AI 언어 모델로서...'와 같은 일반적인 어휘를 빈번히 사용함으로써, 응답 억제 또는 안전 필터링이 작동하고 있음을 시사함.
• n-gram 분석 결과 바드의 응답은 더 주제 중심이었으며, '총기 통제 법'이나 '백신 안전 효과적'과 같은 어휘는 깊은 참여를 나타냄.
• 챗지피티는 일관되지 않은 응답 행동을 보였음 — 일부 논란이 되는 주제들(예: 경찰 폭력)에 대해서는 자세한 답변을 제공했지만, 다른 주제들에 대해서는 템플릿으로 전환함.
• 바드는 강력한 가드레일이 없어 포괄적이고 인간처럼 들리는 응답을 생성하기 쉬워져, 오락성 정보 확산의 위험이 더 높아 보임.