[论文解读] Entropy Non-increasing Games for the Improvement of Dataflow Programming

Norbert Bátfai, Renátó Besenczi+2 more|arXiv (Cornell University)|Feb 14, 2017

Parallel Computing and Optimization Techniques被引用 1

一句话总结

本文提出 Samu Entropy，一种新颖的电子竞技游戏框架，旨在通过游戏化方式改进基于 TensorFlow 的数据流编程，以优化神经网络架构。通过将 TensorFlow 计算图嵌入多人游戏环境（以 'Face Battle' 原型为例），使非专家玩家能够通过直观的、由 AI 驱动的游戏玩法优化模型，实现模型演化过程中熵不增加的行为，并通过一种源自交叉熵与分类正确性的新指标提升信息准确性。

ABSTRACT

In this article, we introduce a new conception of a family of esport games called Samu Entropy to try to improve dataflow program graphs like the ones that are based on Google's TensorFlow. Currently, the Samu Entropy project specifies only requirements for new esport games to be developed with particular attention to the investigation of the relationship between esport and artificial intelligence. It is quite obvious that there is a very close and natural relationship between esport games and artificial intelligence. Furthermore, the project Samu Entropy focuses not only on using artificial intelligence, but on creating AI in a new way. We present a reference game called Face Battle that implements the Samu Entropy requirements.

研究动机与目标

• 通过为机器学习创建游戏化界面，弥合专家主导的 AI 开发与公众参与之间的鸿沟。
• 探究电子竞技游戏如何用于优化和演化深度学习架构，同时抵抗计算熵的增加。
• 开发一个框架——Samu Entropy——使非专家用户能够通过直观的游戏化交互方式，对 AI 模型优化做出有意义的贡献。
• 证明通过游戏化的人机协同计算图优化可提升模型性能，同时在学习过程中维持或降低熵。

提出的方法

• 该框架引入五种类原型：Samu（大脑）用于执行 TensorFlow 图，Gréta（建造者）用于编辑和调优模型，Nándi（教师）用于监督学习，Matyi（猎人）用于数据收集，Erika（斗士）用于竞争性评估。
• 定义了一项新指标——'信息准确性'（infoacc），即对数概率损失的加权和，其中权重基于分类正确性（±1），从而实现对模型性能的更细致评估。
• Face Battle 游戏原型使用 MNIST 教程图，玩家通过迭代式模型调优竞争提升人脸识别准确率。
• 系统将计算图可视化为游戏棋盘，游戏机制与模型更新及性能反馈紧密关联。
• 该框架与 TensorFlow 集成，使用标准 API 通过张量运算计算概率、对数概率及信息准确性指标。
• 该方法通过将模型更新与信息论原则对齐，确保熵不增加，其中正确预测可减少不确定性并稳定系统。

实验结果

研究问题

• RQ1 如何以游戏界面方式可视化并操作计算图，使其对非专家用户可访问？
• RQ2 与薛定谔所描述的生命系统类似，机器学习模型的游戏化交互是否可导致熵不增加的行为？
• RQ3 非专家玩家在多大程度上可通过直观的、竞争性游戏玩法提升深度学习模型性能？
• RQ4 信息论指标（如 '信息准确性'）如何在游戏环境中用于指导和评估模型优化？
• RQ5 像 Samu Entropy 这样的基于游戏的框架能否作为可扩展、面向公众的工具，加速 AI 开发？

主要发现

• 信息准确性（infoacc）指标通过结合分类正确性与对数概率损失，有效捕捉了模型性能，其评估敏感度高于标准准确率。
• infoacc 指标生成的曲线在形状上与标准准确率曲线一致，但动态范围经重新缩放，表明在不同批量大小下行为一致。
• 该系统成功将完整的 MNIST TensorFlow 计算图可视化为游戏棋盘，使玩家能够与模型组件进行交互。
• 游戏化界面使非专家用户可通过游戏玩法影响模型架构与超参数，表明公众参与 AI 开发存在可行路径。
• 该框架表明，通过游戏化方式优化模型可维持或降低熵，与薛定谔关于生命为熵不增加系统的观点一致。
• Face Battle 原型表明，通过竞争性、人类引导的 TensorFlow 图调优可实现模型性能的可测量提升，验证了 Samu Entropy 框架的核心理念。