[论文解读] Cogniculture: Towards a Better Human-Machine Co-evolution

Rakesh Pimplikar, Kushal Mukherjee+7 more|arXiv (Cornell University)|Dec 11, 2017

Ethics and Social Impacts of AI参考文献 22被引用 5

一句话总结

本文提出了Cogniculture，一种新颖的框架，旨在复杂适应性生态系统中促进人类与认知机器之间伦理的、共生的共同进化。该框架提出了一种由治理支持的社会认知架构，人类与机器通过人机计算协作共同创造社会价值，强调信任、文化敏感性以及适应性韧性，以确保长期可持续性和伦理行为。

ABSTRACT

Research in Artificial Intelligence is breaking technology barriers every day. New algorithms and high performance computing are making things possible which we could only have imagined earlier. Though the enhancements in AI are making life easier for human beings day by day, there is constant fear that AI based systems will pose a threat to humanity. People in AI community have diverse set of opinions regarding the pros and cons of AI mimicking human behavior. Instead of worrying about AI advancements, we propose a novel idea of cognitive agents, including both human and machines, living together in a complex adaptive ecosystem, collaborating on human computation for producing essential social goods while promoting sustenance, survival and evolution of the agents' life cycle. We highlight several research challenges and technology barriers in achieving this goal. We propose a governance mechanism around this ecosystem to ensure ethical behaviors of all cognitive agents. Along with a novel set of use-cases of Cogniculture, we discuss the road map ahead for this journey.

研究动机与目标

• 为应对社会对人工智能日益增长的恐惧，将人机关系重新定义为共生而非对抗关系。
• 建立一个可持续、自适应的生态系统，使人类与机器代理通过协作式人机计算实现共同进化。
• 通过正式化的治理机制，确保认知系统中的伦理行为和长期韧性。
• 通过整合人类认知优势与机器能力，克服人工智能的局限性——如泛化能力不足、偏见以及适应性差。
• 探索文化背景、情感智能和动态任务委派如何增强社会技术系统中对信任与接受度。

提出的方法

• 设计一种社会认知架构，将人类与机器代理整合进一个共享的、自适应的生态系统，以实现社会价值的共同创造。
• 实施治理机制，以在人机交互中强制执行伦理行为、问责制以及责任分配。
• 利用人机计算和社会机器，弥合人工智能在泛化能力和情境理解方面的差距。
• 整合文化推理与情境感知建模，使机器行为能够适应多样的文化背景和人际互动动态。
• 应用集体智能、群体智慧和动态任务委派原则，平衡人类与机器的优势。
• 通过真实世界的应用案例，原型化并验证Cogniculture生态系统的可行性与伦理韧性。

实验结果

研究问题

• RQ1 人类与机器代理如何在一个稳定、伦理且自适应的社会认知生态系统中实现共同进化？
• RQ2 在人机协作中，需要哪些治理机制以确保问责制与伦理行为？
• RQ3 如何建模文化背景与个体差异，以提升人机交互中的信任与接受度？
• RQ4 在复杂且不确定的环境中，动态任务委派在平衡人类与机器能力方面发挥何种作用？
• RQ5 如何设计机器，使其即使犯错也更具亲和力与可信度，而非一味追求完美？

主要发现

• 人工智能系统往往无法泛化到训练数据之外，如神经网络无法识别倒置的MNIST数字，凸显了当前人工智能的关键局限。
• 人工智能模型中的偏见源自训练数据，例如一个餐厅评论系统因词语关联非法活动而对墨西哥餐厅给予低分。
• 深度强化学习所需的训练数据量远超人类，表明人类在动态、不确定环境中的学习曲线具有显著优势。
• 始终正确的机器被认为不如偶尔出错的机器更具亲和力，表明人类式的不完美能增强信任与亲密度。
• 文化背景显著影响人类对机器的感知与互动方式，使文化意识成为系统设计与接受度的关键因素。
• 有效的治理与伦理框架对于在涉及认知代理的复杂自适应生态系统中维持长期协作至关重要。