[論文レビュー] Large Language Models Humanize Technology

Pratyush Kumar|arXiv (Cornell University)|May 9, 2023

Computational and Text Analysis Methods被引用数 7

ひとこと要約

本稿では、大規模言語モデル（LLMs）が、コンテンツ作成、非エキスパートのための複雑なデジタルツールの習得、機械学習システムのパーソナライゼーションの3つの主要な機械化の障壁を克服することで、技術の人文的化を実現すると主張している。事例に基づく分析を通じて、言語、職業、能力の違いを超えて技術へのアクセスを向上させることで、LLMsが多様な人々に技術をより身近にできるようになると示し、広範な理解、ユーザー中心のツール、および包括的かつ公平な社会的恩恵の拡散を実現するための機関間連携の強化を提言する。

ABSTRACT

Large Language Models (LLMs) have made rapid progress in recent months and weeks, garnering significant public attention. This has sparked concerns about aligning these models with human values, their impact on labor markets, and the potential need for regulation in further research and development. However, the discourse often lacks a focus on the imperative to widely diffuse the societal benefits of LLMs. To qualify this societal benefit, we assert that LLMs exhibit emergent abilities to humanize technology more effectively than previous technologies, and for people across language, occupation, and accessibility divides. We argue that they do so by addressing three mechanizing bottlenecks in today's computing technologies: creating diverse and accessible content, learning complex digital tools, and personalizing machine learning algorithms. We adopt a case-based approach and illustrate each bottleneck with two examples where current technology imposes bottlenecks that LLMs demonstrate the ability to address. Given this opportunity to humanize technology widely, we advocate for more widespread understanding of LLMs, tools and methods to simplify use of LLMs, and cross-cutting institutional capacity.

研究の動機と目的

• LLMsに関する公共の議論がリスクに偏りすぎており、技術へのアクセスの民主化という可能性が軽視されていることへの是正を図ること。
• 現在の技術におけるアクセス性と公平性を妨げる3つの機械化の障壁（コンテンツ作成、ツール習得、アルゴリズムのパーソナライゼーション）を特定し、具体的に説明すること。
• 非エキスパート、多言語使用者、障害を有する人々を含む多様な人々を対象に、LLMsがこれらの障壁をどのように克服できるかを具体的な事例を通じて示すこと。
• 広範な公的認識、ユーザーを強化するツールの開発、公平なLLMアプリケーションのスケーリングを実現するための機関間連携を柱とする3本の柱のアジェンダを提唱すること。

提案手法

• 架空だが代表的なユーザーのシナリオを用いて、LLMsがコンテンツ作成、ツール習得、アルゴリズムパーソナライゼーションの障壁をどのように克服するかを事例ベースで示す。
• 実際の事例として、多言語でアクセス可能なeラーニングコンテンツを生成する教師や、LLMを搭載したファイナンシャルアドバイザー・アプリを活用する家庭用労働者の事例を提示する。
• LLMsが自然言語を実行可能な操作やコードに翻訳することで、非技術的ユーザーが複雑なシステムとやり取りできるようにすると提言する。
• LLMsを使用する際、ユーザーがガーディアンレールや教育的意図を定義できるようにするツールの必要性を強調する。
• 公平なイノベーションと展開を可能にするために、オープンソースのLLMsとアクセス可能なコンピューティングインfrastrutureの推進を提唱する。
• インドのアーダウール制度のような成功事例に基づく、学術機関、政府、産業界が連携する仕組みを模索する。

Figure 1: Exhibit for Example 1: Conversation between Hanuman and Thanos

実験結果

リサーチクエスチョン

• RQ1 LLMsは、言語や能力の違いを超えて非エキスパートユーザーが多様でアクセス可能なデジタルコンテンツを生成する際の障壁をどのように低減できるか？
• RQ2 LLMsは、非技術的ユーザーが複雑なデジタルツールを習得する際の学習曲線をどのように平坦化できるか？
• RQ3 LLMsは、エンドユーザーが技術的専門知識を持たない状態でも、機械学習システムのパーソナライゼーションをどのように可能にするか？
• RQ4 LLMsの公平なアクセスと責任ある展開をスケールアップするための、制度的・技術的フレームワークは何か？
• RQ5 公平性と持続可能性を促進するため、ユーザーの自律性とコミュニティ主導のイノベーションをLLMベースのアプリケーションにどのように組み込むか？

主な発見

• LLMsは、非エキスパートがアクセシブルで多言語対応のコンテンツ（例：教師が個人に合わせた包括的なeラーニング教材を生成）を生成できる能力を示しており、技術の人文的化を実現する。
• LLMsは、複雑なデジタルツールの習得における障壁を顕著に低減でき、家庭用労働者がLLM搭載のファイナンシャルアドバイザーを活用して家計を管理する事例から明らかである。
• LLMsは自然言語のプロンプトを通じて、コードを書かずにユーザーのニーズに合わせてモデルをカスタマイズできるパーソナライゼーションを可能にする。
• オープンソースのLLMエコシステム（例：LLaMA、Alpaca、Vicuna）は、すでに分野特化型モデルの開発を可能としており、公平なイノベーションの可能性を示している。
• デジタル公共財（DPG）をモデルにした機関間連携能力は、LLMsを公共的利益、主権、長期的持続可能性を確保する形でスケールアップするために不可欠である。
• LLMsが技術を人文的化する成功は、モデルの能力に加え、人間の自律性とコミュニティ連携を組み込むツールの有無に大きく依存する。

Figure 2: Exhibit for Example 2: Farmer speaking in Punjabi and getting queries answered against an English document