[論文レビュー] Transforming Agency. On the mode of existence of Large Language Models

Xabier E. Barandiaran, Lola S. Almendros|arXiv (Cornell University)|Jul 15, 2024

Artificial Intelligence in Healthcare and Education被引用数 5

ひとこと要約

本論文は Large Language Models (LLMs) が自律的エージェントかどうかを分析し、それらはそうではないと主張する。代わりに、LLMs は対話者または言語的自動体としてより適切に記述されるべきであり、その文本体表現と計算的重量が人間のエージェンシーを変化させ、潜在的に midtended forms of agency を生み出す。

ABSTRACT

This paper investigates the ontological characterization of Large Language Models (LLMs) like ChatGPT. Between inflationary and deflationary accounts, we pay special attention to their status as agents. This requires explaining in detail the architecture, processing, and training procedures that enable LLMs to display their capacities, and the extensions used to turn LLMs into agent-like systems. After a systematic analysis we conclude that a LLM fails to meet necessary and sufficient conditions for autonomous agency in the light of embodied theories of mind: the individuality condition (it is not the product of its own activity, it is not even directly affected by it), the normativity condition (it does not generate its own norms or goals), and, partially the interactional asymmetry condition (it is not the origin and sustained source of its interaction with the environment). If not agents, then ... what are LLMs? We argue that ChatGPT should be characterized as an interlocutor or linguistic automaton, a library-that-talks, devoid of (autonomous) agency, but capable to engage performatively on non-purposeful yet purpose-structured and purpose-bounded tasks. When interacting with humans, a "ghostly" component of the human-machine interaction makes it possible to enact genuine conversational experiences with LLMs. Despite their lack of sensorimotor and biological embodiment, LLMs textual embodiment (the training corpus) and resource-hungry computational embodiment, significantly transform existing forms of human agency. Beyond assisted and extended agency, the LLM-human coupling can produce midtended forms of agency, closer to the production of intentional agency than to the extended instrumentality of any previous technologies.

研究の動機と目的

• ChatGPT のような Large Language Models (LLMs) の存在論的特徴づけを調査する。
• 自律性の条件としての embodied theories of mind（個性、規範性、相互作用的不対称性）をLLMs が満たすかを評価する。
• LLMs および人間と機械の相互作用におけるその役割の代替的な特徴づけを提案する。
• テキスト的具現化と計算的具現化が既存の人間のエージェンシーの形をいかに変容させるかを検討する。）

提案手法

• LLM のアーキテクチャ、処理、トレーニング手順の系統的分析を行う。
• LLMs をエージェント様相のシステムにするために用いられる拡張機能を検討する。
• エージェンシーの条件を評価するために、LLMs を具現化された心の理論に照らして評価する。
• 自律的エージェントではなく、対話者または言語的自動体としての LLMs の再特徴づけを主張する。

実験結果

リサーチクエスチョン

• RQ1 LLMs は個性性条件（自らの活動の産物であり、それに直接影響を受けること）を満たすか？
• RQ2 LLMs は規範性条件（自らの規範や目標を生み出すこと）を満たすか？
• RQ3 LLMs は相互作用的不対称性条件（環境との相互作用の起点であり、持続的な源であること）を満たすか？
• RQ4 エージェントではない場合、LLMs にとって適切な存在論的地位または特徴づけは何か？
• RQ5 実践的に人間とLLM の相互作用が人間のエージェンシーをいかに変容させるか？

主な発見

• LLMs は embodied theories of mind による自律的エージェンシーの必要十分条件（個性性、規範性、および部分的な相互作用的不対称性）を満たさない。
• ChatGPT は自律的エージェントではなく、対話者または言語的自動体として特徴づけられるべきである。
• LLMs は autonomous agency を欠く 'library-that-talks' のように振る舞い、目的構造化・目的制約されたタスクに対して演出的に関与できる。
• テキスト的具現化（訓練コーパス）と資源を多く消費する計算的具現化は、伝統的な支援的エージェンシーや拡張エージェンシーを超えて、人間のエージェンシーを大きく変容させる。
• 人間とLLMs の結合は midtended forms of agency を生み出す可能性があり、以前の技術よりも意図的エージェンシーに近い。