[논문 리뷰] Large Language Models Humanize Technology

Pratyush Kumar|arXiv (Cornell University)|2023. 05. 09.

Computational and Text Analysis Methods인용 수 7

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)이 세 가지 핵심 기계화 장벽을 극복함으로써 기술을 인간화할 수 있는 잠재력을 지닌다고 주장한다: 다양한 접근성 있는 콘텐츠 생성, 비전문가가 복잡한 디지털 도구를 배우는 데의 지원, 기계 학습 시스템의 개인화. 사례 기반 예시를 통해 LLMs가 언어, 직업, 능력의 격차를 넘어 기술 접근성을 높일 수 있음을 보여주며, 포괄적인 이해, 사용자 중심의 도구, 그리고 평등한 사회적 혜택의 확산을 보장하기 위한 다기관 협력 역량 강화를 주장한다.

ABSTRACT

Large Language Models (LLMs) have made rapid progress in recent months and weeks, garnering significant public attention. This has sparked concerns about aligning these models with human values, their impact on labor markets, and the potential need for regulation in further research and development. However, the discourse often lacks a focus on the imperative to widely diffuse the societal benefits of LLMs. To qualify this societal benefit, we assert that LLMs exhibit emergent abilities to humanize technology more effectively than previous technologies, and for people across language, occupation, and accessibility divides. We argue that they do so by addressing three mechanizing bottlenecks in today's computing technologies: creating diverse and accessible content, learning complex digital tools, and personalizing machine learning algorithms. We adopt a case-based approach and illustrate each bottleneck with two examples where current technology imposes bottlenecks that LLMs demonstrate the ability to address. Given this opportunity to humanize technology widely, we advocate for more widespread understanding of LLMs, tools and methods to simplify use of LLMs, and cross-cutting institutional capacity.

연구 동기 및 목표

• LLMs에 대한 대중 논의의 불균형을 해결하기 위해, 위험에 초점을 맞추는 데서 벗어나 기술에 대한 접근성을 민주화할 잠재력에 주목하도록 유도한다.
• 현재 기술에서 접근성과 공정성을 저해하는 세 가지 기계화 장벽(콘텐츠 생성, 도구 학습, 알고리즘 개인화)을 특정하고 사례를 통해 설명한다.
• 비전문가, 다국어 사용자, 장애가 있는 사람들을 포함한 다양한 인구 집단을 대상으로 LLMs가 이러한 장벽을 어떻게 극복할 수 있는지 구체적인 사례를 통해 보여준다.
• 세 가지 축으로 구성된 의제를 주장한다: LLMs에 대한 넓은 대중 이해, 사용자 중심의 도구 개발, 평등한 LLM 응용의 확산을 위한 다기관 협력

제안 방법

• 가상이지만 대표적인 사용자 사례를 활용해, LLMs가 콘텐츠 생성, 도구 학습, 알고리즘 개인화의 장벽을 어떻게 극복하는지 사례 기반 접근 방식을 취한다.
• 실제 사례로 교사가 다국어로 접근 가능한 전자학습 콘텐츠를 생성하거나, 가정 보조원이 LLM 기반 재정 자문 앱을 사용하는 경우를 제시한다.
• LLMs가 자연어를 실행 가능한 동작이나 코드로 번역함으로써 비기술적 사용자가 복잡한 시스템과 상호작용할 수 있도록 한다고 제안한다.
• 사용자가 LLM을 사용할 때 가드레일과 교육적 의도를 정의할 수 있도록 하는 도구의 필요성을 강조한다.
• 평등한 혁신과 배포를 가능하게 하기 위해 오픈소스 LLM과 접근 가능한 컴퓨팅 인프라를 주장한다.
• 성공적인 디지털 공공재(Digital Public Goods, DPG) 이니셔티브인 인도의 아이디어 시스템을 모델로 삼아, 학계, 정부, 산업 간의 다기관 협력을 촉구한다.

Figure 1: Exhibit for Example 1: Conversation between Hanuman and Thanos

실험 결과

연구 질문

• RQ1 LLMs는 비전문가 사용자들이 언어와 능력의 격차를 넘어 다양한 접근성 있는 디지털 콘텐츠를 생성하는 데 어떻게 장벽을 줄일 수 있는가?
• RQ2 LLMs는 비기술적 사용자들이 복잡한 디지털 도구를 사용하는 데 있어 학습 곡선을 어떻게 낮출 수 있는가?
• RQ3 LLMs는 최종 사용자가 기술적 전문 지식 없이도 기계 학습 시스템의 개인화를 어떻게 가능하게 할 수 있는가?
• RQ4 규모적으로 평등한 접근과 책임감 있는 배포를 보장하기 위해 필요한 기술적 및 제도적 프레임워크는 무엇인가?
• RQ5 정의된 사용자 주도성과 공동체 기반 혁신이 LLM 기반 응용에 어떻게 통합되어 공정성과 지속 가능성을 증진시킬 수 있는가?

주요 결과

• LLMs는 비전문가가 접근성 있고 다국어로 구성된 콘텐츠를 생성할 수 있도록 함으로써 기술의 인간화 잠재력을 드러낸다. 예를 들어, 교사가 개인화되고 포용적인 전자학습 자료를 생성하는 사례를 통해 이를 입증한다.
• LLMs는 복잡한 디지털 도구를 배우는 데 있어 장벽을 크게 낮출 수 있다. 가정 보조원이 LLM 기반 재정 자문 앱을 사용해 가계 예산을 관리한 사례에서 이를 확인할 수 있다.
• LLMs는 자연어 프롬프트를 통해 기계 학습 시스템의 개인화를 가능하게 하여, 사용자가 프로그래밍 없이도 자신의 특정 요구에 맞게 모델을 조정할 수 있도록 한다.
• 오픈소스 LLM 생태계(예: LLaMA, Alpaca, Vicuna)는 이미 도메인 특화 모델 개발을 가능하게 하여 평등한 혁신 잠재력을 입증하고 있다.
• 디지털 공공재(DPG)를 모델로 삼아 다기관 역량을 구축하는 것이 LLM의 공공 복리, 주권, 장기적 지속 가능성 확보를 위한 확산에 필수적이다.
• LLMs가 기술을 인간화하는 데 성공하려면 모델의 능력 외에도 사용자 주도성과 공동체 협업을 통합한 도구의 존재가 필수적이다.

Figure 2: Exhibit for Example 2: Farmer speaking in Punjabi and getting queries answered against an English document