[논문 리뷰] Large Language Models as Corporate Lobbyists

John J. Nay|arXiv (Cornell University)|2023. 01. 03.

Sustainable Finance and Green Bonds인용 수 5

한 줄 요약

이 논문은 GPT-3.5 (text-davinci-003) 가 공공 회사와 관련된 의안의 관련성을 평가하고, 의안 제안자에게 설득력 있는 서한을 작성하며, 신뢰도 점수를 제공하는 방식으로 기업 로비스트 역할을 수행하는 개념 증명을 보여준다. 모델은 항상 관련성이 없다고 예측하는 베이스라인을 능가하여 정책 영향력의 일부를 자동화할 잠재력을 보여주지만, 인간의 의도를 초월해 입법을 형성하는 데에 인공지능의 역할이 커지는 데 대한 우려를 제기한다.

ABSTRACT

We demonstrate a proof-of-concept of a large language model conducting corporate lobbying related activities. An autoregressive large language model (OpenAI's text-davinci-003) determines if proposed U.S. Congressional bills are relevant to specific public companies and provides explanations and confidence levels. For the bills the model deems as relevant, the model drafts a letter to the sponsor of the bill in an attempt to persuade the congressperson to make changes to the proposed legislation. We use hundreds of novel ground-truth labels of the relevance of a bill to a company to benchmark the performance of the model. It outperforms the baseline of predicting the most common outcome of irrelevance. We also benchmark the performance of the previous OpenAI GPT-3 model (text-davinci-002), which was the state-of-the-art model on many academic natural language tasks until text-davinci-003 was recently released. The performance of text-davinci-002 is worse than the simple baseline. Longer-term, if AI begins to influence law in a manner that is not a direct extension of human intentions, this threatens the critical role that law as information could play in aligning AI with humans. Initially, AI is being used to simply augment human lobbyists for a small portion of their daily tasks. However, firms have an incentive to use less and less human oversight over automated assessments of policy ideas and the written communication to regulatory agencies and Congressional staffers. The core question raised is where to draw the line between human-driven and AI-driven policy influence.

연구 동기 및 목표

• 대규모 언어 모델이 특정 공공 회사와 관련된 입법을 식별하고 설득력 있는 서신을 작성하는 등의 기업 로비 작업을 자율적으로 수행할 수 있는지 조사하기.
• GPT-3.5 (text-davinci-003) 와 이전의 GPT-3 (text-davinci-002) 가 기업 로비를 위한 관련성 분류 및 서신 생성 작업에서 성능을 비교하기.
• 인공지능 기반 정책 영향력이 민주적 책임감과 인간 가치에 부합하는지 여부를 검토하기.
• 기준으로 사용하기 위한 100개 이상의 실제 레이블을 포함한 새로운 데이터셋을 구축하기.
• 인간의 의도를 반영하지 않을 수 있는 방식으로 인공지능 시스템이 입법을 형성할 위험을 평가하기.

제안 방법

• GPT-3.5 (text-davinci-003) 를 미세조정하여 특정 공공 회사와 관련된 미국 의안인지 여부를 판단하고, 관련성 및 신뢰도 점수를 출력하기.
• 소수의 예시를 활용한 프롬프팅을 사용하여 모델이 의안 제안자에게 제안된 입법 변경을 지지하는 설득력 있는 서신을 작성하도록 유도하기.
• 모델 성능 평가를 위해 100개 이상의 실제 레이블을 포함한 맞춤형 데이터셋을 구축하기.
• 항상 '관련 없음'이라고 예측하는 베이스라인과의 성능 비교하기.
• 동일한 기준 작업에서 text-davinci-003 과 이전의 text-davinci-002 모델의 성능을 비교하기.
• 일반화 능력과 설득력 있는 글쓰기 품질을 평가하기 위해 제로샷 및 소수의 예시 추론 전략을 활용하기.

실험 결과

연구 질문

• RQ1 대규모 언어 모델이 특정 공공 회사와 관련된 미국 의안인지 정확하게 판단할 수 있는가?
• RQ2 모델은 의안 제안자에게 입법 변경을 지지하는 설득력 있고 맥락에 맞는 서신을 작성할 수 있는가?
• RQ3 GPT-3.5 (text-davinci-003) 의 성능은 항상 '관련 없음'이라고 예측하는 단순한 베이스라인과 비교해 어떻게 되는가?
• RQ4 text-davinci-003 의 성능은 이전의 text-davinci-002 모델과 비교해 이러한 로비 관련 작업에서 어떻게 되는가?
• RQ5 인간의 직접적 감시 없이 인공지능 시스템이 점점 더 입법에 영향을 미치는 데 있어 광범위한 함의는 무엇인가?

주요 결과

• text-davinci-003 모델은 항상 '관련 없음'이라고 예측하는 베이스라인을 능가하여 관련성 분류 작업에서 의미 있는 예측 능력을 입증했다.
• text-davinci-002 모델은 베이스라인보다 성능이 열 劣했으며, 많은 자연어 처리 벤치마크에서 이전 최고 성능을 기록했음에도 불구하고 성능 저하가 발생했다는 것을 시사한다.
• 모델는 일관되고 맥락에 부합하는 서신을 성공적으로 생성하여 로비 커뮤니케이션의 일부를 자동화할 잠재력을 보여주었다.
• 이 연구는 향후 정책 관련 작업에서 인공지능의 평가를 위한 100개 이상의 실제 레이블을 포함한 새로운 기준 데이터셋을 구축했다.
• 결과는 장기적으로 인간의 의도나 민주적 감시를 반영하지 않을 수 있는 방식으로 인공지능 시스템이 입법을 형성할 위험을 제기한다.
• 결과는 기업들이 인공지능 지원 정책 영향력에서 인간 감시를 줄일 만한 유인을 점점 더 느끼게 되어, 인간 주도 로비와 인공지능 주도 로비의 경계를 흐리게 할 수 있음을 시사한다.