[論文レビュー] An introduction to approximate computing

M. Ammar Ben Khadra|arXiv (Cornell University)|Nov 12, 2017

Low-power high-performance VLSI design参考文献 14被引用数 6

ひとこと要約

本稿は、機械学習やマルチメディアなど、正確な結果が必須でない応用分野において、計算の正確性を犠牲にして性能およびエネルギー効率を向上させるためのパラダイムとして、近似計算を導入する。この手法は、システム全体のコストトレードオフに焦点を当てた分類法を提唱し、非決定的近似計算における課題を分析するとともに、異種の信頼性と自動的で原理的（principled）な近似技術による実用的導入の機会を強調する。

ABSTRACT

Approximate computing is a research area where we investigate a wide spectrum of techniques to trade off computation accuracy for better performance or energy consumption. In this work, we provide a general introduction to approximate computing. Also, we propose a taxonomy to make it easier to discuss the merits of different approximation techniques. Our taxonomy emphasizes the expected cost of tackling approximate computing across the entire system stack. We conclude by discussing the unique opportunities as well as challenges of nondeterministic approximate computing.

研究の動機と目的

• モバイルおよびデータセンタワークロードにおける増加する消費電力の問題に対応するため、近似計算の必要性を説得する。
• 近似計算の範囲と目的を明確に定義し、長年の手法（例：損失圧縮）とは区別する。
• ハードウェア、ソフトウェア、アルゴリズムの各分野における近似の実装に伴う総合的システムコストを強調する分類法を提唱する。
• 非決定的近似計算の特異な課題と機会を分析し、特にソフトウェア信頼性における制御フローの壁（control-flow wall）に注目する。
• 信頼性を損なわず効率を向上させるために、原理的で自動化された近似技術の導入を提言する。

提案手法

• システムスタックの各層（アルゴリズムから回路まで）に応じて適用される近似の種類に基づき、近似計算手法の分類を提唱する。
• ハードウェア、ソフトウェア、アルゴリズム的オーバーヘッドを含む、システムコストへの影響に基づいて近似手法を分類する。
• 制御フローの壁問題を分析する：条件分岐に使用されるデータの保護は、ソフトウェア上では高コストであり、特に結果が非決定的な場合に顕著である。
• 画像符号化や制御フロー依存関数などの事例研究を通じて、信頼性と効率のトレードオフを説明する。
• Chisel や Uncertain<T> といった既存のツールを検討し、決定的信頼性仕様と確率的プログラミングモデルの対比を示す。
• 制御フローには信頼性の高いコアを、計算負荷の高いカーネルには信頼性の低いアクセラレータを用いるハイブリッドアプローチを提案し、コストと正しさのバランスを図る。

実験結果

リサーチクエスチョン

• RQ1 現代のコンピューティングシステムにおいて、正確性をどうやって性能およびエネルギー効率の向上と交換的に扱えるか？
• RQ2 近似手法を適用する際のシステムスタック全体における主なコスト駆動要因は何か？
• RQ3 なぜ非決定的近似計算は、特に制御フロー依存プログラムにおいて特に困難なのか？
• RQ4 プログラムの正しさや信頼性を損なわず、顕著な効率向上を達成できるか？
• RQ5 自動的で原理的（principled）な近似は、実世界のシステムに適用可能な近似計算を実現するために果たす役割は何か？

主な発見

• 機械学習やマルチメディアなどの応用分野では、正確な結果が厳密に必要でないため、近似計算により顕著なエネルギーおよび性能の向上が可能である。
• 制御フローの壁は大きな課題である：条件分岐に使用されるデータの保護は、ソフトウェア上では高コストであり、特に結果が非決定的な場合に顕著である。
• 非決定的近似計算は、異種の信頼性（例：OS には信頼性の高いコア、カーネル処理には信頼性の低いアクセラレータ）を組み合わせることで、独自の機会を提供する。
• Chisel や Uncertain<T> といった既存のアプローチは、有用な抽象化を提供しているが、データ依存性の制限と強い正しさ保証の欠如により、限界がある。
• 実用的導入のためには、形式的保証を備えた原理的で自動化された近似が不可欠である。手動によるトレードオフはすでに一般的ではあるが、大規模システムには不十分である。
• 異なる部分に異なる信頼性レベルを設定する異種信頼性モデルは、許容可能な正しさを維持しながら、全体のシステムコストを削減できる。