[論文レビュー] Lenses and Learners

Brendan Fong, Michael Johnson|arXiv (Cornell University)|Mar 5, 2019

Constraint Satisfaction and Optimization参考文献 12被引用数 10

ひとこと要約

この論文は、『学習者』としてモデル化された教師あり学習アルゴリズムと、双方向データ変換構造（レンズ）との間の深い数学的関係を確立し、学習者が対称レンズの圏へ忠実に埋め込まれることを示している。その埋め込みは、対象をそのままに保つ対称モノイダル関手によって実現される。主な結果は、学習者が左に定数補完レンズ、右に追加の公理を満たさない単純な非対称レンズを持つ対称レンズに正確に対応することであり、学習とデータ同期の間の構造的双対性が明らかになる。

ABSTRACT

Lenses are a well-established structure for modelling bidirectional transformations, such as the interactions between a database and a view of it. Lenses may be symmetric or asymmetric, and may be composed, forming the morphisms of a monoidal category. More recently, the notion of a learner has been proposed: these provide a compositional way of modelling supervised learning algorithms, and again form the morphisms of a monoidal category. In this paper, we show that the two concepts are tightly linked. We show both that there is a faithful, identity-on-objects symmetric monoidal functor embedding a category of asymmetric lenses into the category of learners, and furthermore there is such a functor embedding the category of learners into a category of symmetric lenses.

研究の動機と目的

• 教師あり学習アルゴリズム（学習者）と双方向データ変換（レンズ）という、かつては無関係とされてきた二つの分野の間の形式的数学的関係を確立すること。
• 学習者が、対象をそのままに保つ忠実な対称モノイダル関手によって、対称レンズの圏に埋め込まれることを示すこと。
• 学習者が、左の脚が定数補完レンズで、右の脚が追加の公理を満たさない単純な非対称レンズである対称レンズに正確に対応することを示すこと。
• 学習者と、修正レンズ（amendment lenses）や spg-レンズといった高度なレンズバージョンとの間の構造的類似性を調査し、より深い圏論的統合の可能性を示唆すること。

提案手法

• 学習者を等価類の下での合成的モデルとして定義し、それらが同値類の下で対称モノイダル圏をなすようにする。
• 片方の脚が PutGet 公理を満たすが、もう片方（単純レンズ）は公理を満たさないような、対称レンズの一般化された合成則を導入する。
• 学習者の圏から対称レンズの圏への対称モノイダル関手を構成し、学習者を左に定数補完レンズ、右に単純レンズを持つ非対称レンズのスパンに写像する。
• 関手の像が、左の脚が定数補完レンズ（閉じた spg-レンズの一種）で、右の脚が単純レンズである対称レンズからなることを確立する。
• ストリング図を Set 上で用いて、複雑な関数合成を管理し、射およびその合成の視覚的明確性を向上させる。
• 右の脚（単純レンズ）が、修正構造を備えた spg-レンズへ一意的に拡張可能であり、GetPut および PutGet 公理を構造的に回復できることを示す。

実験結果

リサーチクエスチョン

• RQ1 教師あり学習アルゴリズムは、ある種の対称レンズとして形式的にモデル化可能であり、その対応を定義する構造的制約は何か？
• RQ2 学習者の圏と対称レンズの圏との間の圏論的関係は何か。特に、モノイダル構造と関手的埋め込みの観点から。
• RQ3 学習者の構造的性質は、修正レンズや spg-レンズといった高度なレンズバージョンのそれらとどのように関係するか？
• RQ4 公理を満たさない単純な非対称レンズ（無公理レンズ）を、spg-レンズのようなより構造的なレンズへ一意的に拡張できるか。また、その拡張は学習者の合成的性質を保存するか？
• RQ5 関手の像に現れる対称レンズの左脚と右脚は、学習アルゴリズムにおける Get および Put 操作の機能的役割をどの程度反映しているか？

主な発見

• 学習者の圏から対称レンズの圏への忠実で、対象をそのままに保つ対称モノイダル関手が存在し、学習とデータ同期の間の強固な圏論的リンクを確立する。
• 学習者は、左の脚が定数補完レンズで、右の脚が追加の公理を満たさない単純な非対称レンズである対称レンズに正確に対応する。
• この枠組みにおいて、片方が公理を満たさない場合でも、対称レンズの合成が適切に定義されており、標準的な合成を「良好に振る舞うレンズ」の範囲を超えて拡張している。
• 右の脚（単純レンズ）は、修正構造を備えた spg-レンズへ一意的に拡張可能であり、構造的に GetPut および PutGet 公理を回復できる。
• 左の脚（定数補完レンズ）は、閉じた spg-レンズの特別なケースであり、その PutGet 動作により、対称レンズ枠組み内での合成的安定性が保証される。
• 本研究と最近の多項レンズ（JR19）に関する研究との類似性から、学習とレンズベースのデータ変換の間には、より深い圏論的統一性がある可能性が示唆され、特に左の脚が安定的かつ良好に振る舞うコンponentとしての役割を果たしていることから、その関係が強化される。