[论文解读] Monoidal computer II: Normal complexity by string diagrams

Duško Pavlović|arXiv (Cornell University)|Feb 23, 2014

Computability, Logic, AI Algorithms参考文献 31被引用 9

一句话总结

本文在范畴框架下引入了正常复杂度度量，使用弦图形式化计算与复杂度，实现与机器无关的表达。结果表明时间与空间复杂度为正常度量——复杂度评估的开销不超过程序执行本身——从而支持在运行时进行假设检验与算法学习等实际应用。

ABSTRACT

In Monoidal Computer I, we introduced a categorical model of computation where the formal reasoning about computability was supported by the simple and popular diagrammatic language of string diagrams. In the present paper, we refine and extend that model of computation to support a formal complexity theory as well. This formalization brings to the foreground the concept of normal complexity measures, which allow decompositions akin to Kleene's normal form. Such measures turn out to be just those where evaluating the complexity of a program does not require substantially more resources than evaluating the program itself. The usual time and space complexity are thus normal measures, whereas the average and the randomized complexity measures are not. While the measures that are not normal provide important design time information about algorithms, and for theoretical analyses, normal measures can also be used at run time, as practical tools of computation, e.g. to set the bounds for hypothesis testing, inductive inference and algorithmic learning.

研究动机与目标

• 开发一种基于范畴与图示方法的与机器无关的复杂度理论。
• 形式化那些在计算上与所测量程序同样轻量的复杂度度量。
• 识别并表征支持克莱恩风格正常形式的“正常”复杂度度量。
• 通过支持复杂度界在运行时的应用，弥合理论复杂度与实际计算之间的差距。
• 为使用范畴论进行可计算性、复杂度与密码学的高层推理提供基础。

提出的方法

• 使用弦图表示单边范畴中的执行轨迹与程序变换。
• 引入分级单边计算机，其中对象以复杂度等级（例如时间或空间步数）进行标记。
• 通过范畴中的内化追踪求值器与通用求值器定义归一化。
• 将正常复杂度度量表征为满足范畴归一化条件的布卢姆度量。
• 在 C♮ 中使用内化谓词与停止函数表示复杂度评估的决策过程。
• 证明正常度量具有类似克莱恩的正常形式，将复杂度归约为单次搜索操作。

实验结果

研究问题

• RQ1 哪些特征使得复杂度度量的计算成本与所测量程序的执行成本相当？
• RQ2 如何使用范畴论在与机器无关的高层框架中形式化复杂度理论？
• RQ3 哪些复杂度度量允许克莱恩正常形式定理的范畴化版本？
• RQ4 复杂度界能否在运行时被有效用于假设检验与归纳推理等任务？
• RQ5 时间与空间复杂度在统一框架下的范畴结构是什么？

主要发现

• 正常复杂度度量是指复杂度评估的开销不超过程序本身执行的开销，且满足范畴归一化条件。
• 时间与空间复杂度被证明是正常度量，而平均复杂度与随机化复杂度则不是。
• 该框架支持克莱恩正常形式的范畴化版本，将计算归约为对编码执行轨迹的单次搜索。
• 弦图为在单边范畴中表达与推理复杂度提供了自然且可组合的语言。
• 分级与追踪求值的内化使得不同计算模型间的复杂度处理具有统一性。
• 正常度量可被用于运行时，支持归纳推理与算法学习中的边界设定等实际任务。