[論文レビュー] Analog Iterative Machine (AIM): using light to solve quadratic optimization problems with mixed variables

Kirill kalinin, George Mourgias-Alexandris+10 more|arXiv (Cornell University)|Apr 25, 2023

Neural Networks and Reservoir Computing被引用数 11

ひとこと要約

AIM はバイナリと連続変数を含む2次無拘束混合最適化（QUMO）向けの光電子アナログソルバーを導入し、古典的ソルバーに比べて高い成功率と大幅な高速化を、多様なベンチマーク（実際の取引清算問題を含む）で実現します。ハードウェアによる全結合性と、10,000変数へ拡張可能なスケーラビリティの展望を示します。

ABSTRACT

Solving optimization problems is challenging for existing digital computers and even for future quantum hardware. The practical importance of diverse problems, from healthcare to financial optimization, has driven the emergence of specialised hardware over the past decade. However, their support for problems with only binary variables severely restricts the scope of practical problems that can be efficiently embedded. We build analog iterative machine (AIM), the first instance of an opto-electronic solver that natively implements a wider class of quadratic unconstrained mixed optimization (QUMO) problems and supports all-to-all connectivity of both continuous and binary variables.Beyond synthetic 7-bit problems at small-scale, AIM solves the financial transaction settlement problem entirely in analog domain with higher accuracy than quantum hardware and at room temperature. With compute-in-memory operation and spatial-division multiplexed representation of variables, the design of AIM paves the path to chip-scale architecture with 100 times speed-up per unit-power over the latest GPUs for solving problems with 10,000 variables. The robustness of the AIM algorithm at such scale is further demonstrated by comparing it with commercial production solvers across multiple benchmarks, where for several problems we report new best solutions. By combining the superior QUMO abstraction, sophisticated gradient descent methods inspired by machine learning, and commodity hardware, AIM introduces a novel platform with a step change in expressiveness, performance, and scalability, for optimization in the post-Moores law era.

研究の動機と目的

• 混合変数（二値および連続）と線形不等式制約を持つ2次最適化の自然な抽象概念としてQUMOを導入する。
• 勾配情報、アニール（焼きなまし）とモーメントを組み込んだ、高度な勾配法風AIMアルゴリズムを開発し、ハードウェア実行を効率化する。
• 全アナログ光電子 AIM ハードウェアのプロトタイプを構築・評価し、全結合接続とメモリ内演算を可能にする。
• 小規模なハードウェアと大規模シミュレーションの両方で、QUMOおよびQUBOベンチマーク全体にわたるAIMの性能を示し、実世界の取引清算問題を含む。
• MiM後の最適化ワークロードに向けたチップ規模アーキテクチャへの潜在的な高速化とスケーラビリティを示す。

提案手法

• x が二値および連続変数を含むとき、QUMO 目的関数 F(x) = -1/2 x^T Q x - b^T x を定義する。
• AIM の反復更新を開発する: x_{t+1} = x_t + Δt [ -α ∇F(f_nonlinear(x_t)) - β(t) x_t + γ(x_t - x_{t-1}) ].
• 勾配、アニール、モーメントの成分をハードウェア上で実装し、効率的なアナログ計算を可能にする。
• x を光強度に符号化し、光学系で行列ベクトル乗算を実装して Q x を並列に実現する。
• β(t) を用いて初期には探索を促進し、徐々に活用へ偏らせ、モーメントが収束を加速する。
• 2段階のパラメータ探索: (α0, β0) の探索フェーズと、有望な設定を選択するディープサーチフェーズ。

実験結果

リサーチクエスチョン

• RQ1 混合バイナリおよび連続変数と線形不等式を持つQUMOの抽象を、純粋にアナログ光電子アーキテクチャで効率良く解けるか。
• RQ2 従来のソルバーおよび量子ハードウェアと比較して、QUMO/QUBO ベンチマークにおける AIM の性能（解の品質、成功率）はどうなるか。
• RQ3 勾配ベースでアニールとモーメントを用いた AIM アルゴリズムは、収束性と大規模問題へのスケーラビリティの点でどうか。
• RQ4 取引清算のような産業上の問題を、既存手法よりも高精度または高速に解けるか。
• RQ5 tens of thousands of variables への潜在的な高速化とスケーラビリティの軌道はどうなるか。

主な発見

• Opto-electronic AIM ハードウェアは、QUMO/QUBO インスタンスで50回のハードウェア試行の平均成功率が 87.6% を超え、中央値は 100% である。
• 実際の取引清算インスタンス（実験では6変数に縮小）において、AIM は hardware および simulation の両方で 99%–100% の成功を達成し、報告された量子ハードウェアの結果（45%と42%）を上回る。
• QUMO ベンチマーク（QPLIB, Wishart, Tile-3D, RCDP, QPLIB:QUBO）全体で、AIM は hardest QBL インスタンスで Gurobi より最大で3桁の高速化を示し、2つの大規模問題（3584と3860）で新しい最良解を見つける。
• 千変数級の QUMO/QUBO 問題に対するシミュレート AIM は、シミュレートアニーリングおよびパラレルテンパリングと同等かそれ以上の品質を示し、多くの場合 Gurobi より優れており、大幅な速度アップを達成する。
• AIM アプローチは、いくつかの大規模 QUBO/QUMO インスタンス（大規模 QPLIB グラフや G-Set トポロジーを含む）で既知最良解または新たな最良解を達成し、強力なスケーラビリティと性能を示す。
• ハードウェア設計はデジタル-アナログ転送ボトルネックを排除し、空間的に多重化された光マトリクスベクトル乗算を用いて全結合性とメモリ内演算を実現する。