[论文解读] Large Language Models Humanize Technology

Pratyush Kumar|arXiv (Cornell University)|May 9, 2023

Computational and Text Analysis Methods被引用 7

一句话总结

本文主张大型语言模型（LLMs）通过克服三大机械化瓶颈——创造多样化且可访问的内容、使非专家能够学习复杂的数字工具、个性化机器学习系统——来实现技术的人性化。通过案例分析，本文展示了LLMs如何跨越语言、职业和能力差异，使技术更具可及性，倡导更广泛的理解、以用户为中心的工具以及跨机构能力，以确保社会利益的公平扩散。

ABSTRACT

Large Language Models (LLMs) have made rapid progress in recent months and weeks, garnering significant public attention. This has sparked concerns about aligning these models with human values, their impact on labor markets, and the potential need for regulation in further research and development. However, the discourse often lacks a focus on the imperative to widely diffuse the societal benefits of LLMs. To qualify this societal benefit, we assert that LLMs exhibit emergent abilities to humanize technology more effectively than previous technologies, and for people across language, occupation, and accessibility divides. We argue that they do so by addressing three mechanizing bottlenecks in today's computing technologies: creating diverse and accessible content, learning complex digital tools, and personalizing machine learning algorithms. We adopt a case-based approach and illustrate each bottleneck with two examples where current technology imposes bottlenecks that LLMs demonstrate the ability to address. Given this opportunity to humanize technology widely, we advocate for more widespread understanding of LLMs, tools and methods to simplify use of LLMs, and cross-cutting institutional capacity.

研究动机与目标

• 为解决公众对LLMs讨论中的失衡问题，即过度关注风险而忽视其在民主化技术访问方面的潜力。
• 识别并说明当前技术中阻碍可及性与公平性的三大机械化瓶颈：内容创建、工具学习与算法个性化。
• 通过具体案例展示LLMs如何在包括非专家、多语言用户及残障人士在内的多样化群体中解决这些瓶颈。
• 倡导三项并行议程：提升公众对LLMs的理解、开发赋能用户的工具，以及推动跨机构合作，以实现LLMs应用的公平扩展。

提出的方法

• 采用案例研究方法，通过虚构但具代表性的用户情境，说明LLMs如何克服内容创建、工具学习与算法个性化方面的瓶颈。
• 使用现实世界案例，如教师生成多语言、可访问的电子学习内容，以及家政工人使用LLM驱动的财务顾问应用程序。
• 提出LLMs可使非技术人员通过将自然语言转化为可执行操作或代码，与复杂系统交互。
• 强调需要开发嵌入人类自主权的工具，使用户在使用LLMs时能够定义边界条件与教学意图。
• 倡导开源LLMs及可访问的计算基础设施，以实现创新与部署的公平性。
• 呼吁跨机构合作——涵盖学术界、政府与产业界——并以印度Aadhaar系统等成功的数字公共产品（DPG）倡议为蓝本。

Figure 1: Exhibit for Example 1: Conversation between Hanuman and Thanos

实验结果

研究问题

• RQ1 LLMs如何降低非专家用户在多语言和多能力背景下创建多样化且可访问的数字内容的障碍？
• RQ2 LLMs在降低非技术用户使用复杂数字工具的学习门槛方面有哪些具体方式？
• RQ3 LLMs如何在无需终端用户具备技术专长的情况下，实现机器学习系统的个性化？
• RQ4 需要哪些制度与技术框架，才能确保LLMs在大规模应用中实现公平获取与负责任部署？
• RQ5 如何在LLM驱动的应用中嵌入用户自主权与社区驱动的创新，以促进公平性与可持续性？

主要发现

• LLMs展现出新兴能力，可实现技术的人性化，使非专家能够创建可访问的多语言内容，例如教师生成个性化、包容性的电子学习材料。
• LLMs可显著降低学习复杂数字工具的门槛，如家政工人使用LLM驱动的财务顾问应用管理家庭预算的案例所示。
• LLMs可通过自然语言提示实现机器学习系统的个性化，使用户在无需编程的情况下即可根据自身需求定制模型。
• 开源LLM生态系统（如LLaMA、Alpaca和Vicuna）已推动特定领域的模型开发，展现出实现公平创新的潜力。
• 基于数字公共产品（DPG）模式的跨机构能力，对于以确保公共利益、主权与长期可持续性的方式扩展LLMs至关重要。
• LLMs实现技术人性化成功与否，不仅取决于模型能力，还取决于能够嵌入人类自主权与社区协作的工具。

Figure 2: Exhibit for Example 2: Farmer speaking in Punjabi and getting queries answered against an English document