[论文解读] An Approximation of the Universal Intelligence Measure

Shane Legg, Joel Veness|arXiv (Cornell University)|Sep 27, 2011

Computability, Logic, AI Algorithms参考文献 16被引用 8

一句话总结

本文提出了一种实用的通用智能度量（UIM）近似方法，称为算法智能商（AIQ），通过从一个简单的通用图灵机（Brainfuck）中采样随机程序，并测量智能体在这些环境中的表现来评估其智能水平。AIQ以一种与理论预期一致的方式对智能体进行智能排序，证明了非人类中心化、连续型智能度量的可行性。

ABSTRACT

The Universal Intelligence Measure is a recently proposed formal definition of intelligence. It is mathematically specified, extremely general, and captures the essence of many informal definitions of intelligence. It is based on Hutter's Universal Artificial Intelligence theory, an extension of Ray Solomonoff's pioneering work on universal induction. Since the Universal Intelligence Measure is only asymptotically computable, building a practical intelligence test from it is not straightforward. This paper studies the practical issues involved in developing a real-world UIM-based performance metric. Based on our investigation, we develop a prototype implementation which we use to evaluate a number of different artificial agents.

研究动机与目标

• 开发一种计算上可行的、非人类中心化的智能度量，其基础是理论上理想的通用智能度量（UIM）。
• 通过使用通用图灵机的程序采样，创建一种实用的近似方法，以解决UIM的渐近不可计算性问题。
• 评估由此产生的AIQ度量是否能在多样化环境中产生合理且一致的智能体排序。
• 研究该智能度量在参考机器和程序采样策略变化下的鲁棒性。

提出的方法

• AIQ通过从基于Brainfuck的通用图灵机中采样随机程序，将每个程序视为一个可计算环境，从而近似UIM。
• 在强化学习框架中，通过测量累积期望奖励来评估智能体在这些采样环境中的表现。
• 智能得分计算为性能的加权平均值，权重由程序长度（柯尔莫哥洛夫复杂度的代理）决定，以优先考虑更简单的环境。
• 该方法通过使用程序长度作为算法复杂度的启发式近似，避免了显式计算复杂度。
• 该方法借鉴了索洛莫诺夫的通用先验和赫特的AIXI理论，将其应用于程序-环境空间的有限采样子集。
• AIQ在多种智能体上实现并进行了测试，包括简单的反应式智能体和学习型智能体，以验证其对智能差异的敏感性。

实验结果

研究问题

• RQ1 是否可以使用通用图灵机的程序采样，在实践中对理论上不可计算的通用智能度量进行有意义的近似？
• RQ2 由此产生的AIQ度量是否能产生一致且直观的智能体排序，使更智能的智能体获得更高得分？
• RQ3 AIQ对参考机器的选择有多敏感？在轻微修改下是否仍保持鲁棒性？
• RQ4 AIQ在多大程度上反映了UIM的理论特性，如连续性和非人类中心化？

主要发现

• AIQ成功生成了一个连续的、非人类中心化的智能得分，其对智能体的排序与理论预期一致，更强大的智能体得分更高。
• 该方法通过使用程序长度作为柯尔莫哥洛夫复杂度的代理，避免了显式计算程序复杂度，显著提升了计算可行性。
• AIQ在Brainfuck参考机器的多种微小变体下表现出定性一致性，表明其对参考机器选择具有鲁棒性。
• AIQ能够区分简单的反应式智能体和更强大的学习型智能体，验证了其对智能差异的敏感性。
• 该方法通过直接执行采样程序，避免了暴力搜索程序的不可计算性，使其在处理更长程序时相比先前方法（如C-test）更具可扩展性。