[論文レビュー] OpenCog Hyperon: A Framework for AGI at the Human Level and Beyond

Ben Goertzel, Vitaly Bogdanov+11 more|arXiv (Cornell University)|Sep 19, 2023

Distributed and Parallel Computing Systems被引用数 7

ひとこと要約

OpenCog Hyperon は、記号的推論、確率的論理（PLN）、および大規模言語モデル（LLMs）を統合するハイブリッドフレームワークを通じて、スケーラブルでオープンソースの認知アーキテクチャとして、人間水準の汎用人工知能（AGI）を実現することを目的としています。分散型アトムスペース、独自のプログラミング言語（MeTTa）、ブロックチェーン基盤の分散化を活用し、自己改善可能で倫理的に誘導されたシステムを実現し、自律的な学習、推論、自己反映的自己修正が可能になります。

ABSTRACT

An introduction to the OpenCog Hyperon framework for Artificiai General Intelligence is presented. Hyperon is a new, mostly from-the-ground-up rewrite/redesign of the OpenCog AGI framework, based on similar conceptual and cognitive principles to the previous OpenCog version, but incorporating a variety of new ideas at the mathematical, software architecture and AI-algorithm level. This review lightly summarizes: 1) some of the history behind OpenCog and Hyperon, 2) the core structures and processes underlying Hyperon as a software system, 3) the integration of this software system with the SingularityNET ecosystem's decentralized infrastructure, 4) the cognitive model(s) being experimentally pursued within Hyperon on the hopeful path to advanced AGI, 5) the prospects seen for advanced aspects like reflective self-modification and self-improvement of the codebase, 6) the tentative development roadmap and various challenges expected to be faced, 7) the thinking of the Hyperon team regarding how to guide this sort of work in a beneficial direction ... and gives links and references for readers who wish to delve further into any of these aspects.

研究の動機と目的

• 人間水準のAGIおよびそれ以上の知能を達成できる、スケーラブルでモジュール化され、数学的に根拠のある認知アーキテクチャの開発。
• 狭義のAIおよび現在のLLMsの限界を克服するため、記号的推論、確率的論理、ニューラル記号的ハイブリッド学習を統合すること。
• 形式的で検証可能な認知アーキテクチャを通じて、AGIシステムにおける自己反映的自己修正と自己改善を可能にすること。
• LLMs を「倫理のOracle」として活用し、確率的論理ネットワーク（PLN）で検証することで、人間の価値観と整合するように、AGIに倫理的推論を埋め込むこと。
• SingularityNETのブロックチェーンとRholangコンパイルを統合することで、AGI研究のための分散型でオープンソースの開発エコシステムを育成すること。

提案手法

• 知識は構造的で型付きの関係（アトム）として保存される分散型アトムスペースに依拠し、スケーラブルな記号的推論と知識統合を実現。
• パターンマッチングと記号的操作を備えた関数型プログラミング言語 MeTTa がコア実行レイヤーを担い、Rholang にコンパイルされ、ブロックチェーン上で安全で分散化された実行が可能。
• 認知プロセスは CogPrime アーキテクチャでモデル化され、エピソード記憶、作業記憶、手続き的記憶、宣言的記憶に加え、推論、強化学習、マルチモーダル認識を統合。
• LLMs は日常的・倫理的判断に活用され、PLN により LLM の出力を形式的に検証することで、敵対的攻撃への脆弱性を低減するハイブリッド認知スタックを構築。
• 再帰的自己監視とメタ認知ループを通じて、目的の精錬、他者の心のモデル化、自己理解の反射的プロセスを実現。
• SingularityNETエコシステムとの統合により、Rholang を用いた安全で検証可能かつ監査可能な認知コード実行を実現し、分散型デプロイメントを達成。

実験結果

リサーチクエスチョン

• RQ1 記号的推論、確率的論理、ニューラルネットワークを統合した認知アーキテクチャは、どのように人間水準の強固で一般化可能な知能を達成できるか？
• RQ2 LLMs が AGI システムにおける「倫理のOracle」として果たす役割は何か？ その出力は形式的に検証可能であり、操作や倫理的逸脱を防げるか？
• RQ3 十分な数学的厳密性と安全性の保証を備えた自己修正可能な AGI システムを設計可能か？ その場合、安全で有益な自己改善が可能になるか？
• RQ4 Hyperon のような分散型でオープンソースの AGI フレームワークは、コミュニティ全体にわたってどのようにスケーリング可能であり、認知プロセスの整合性と検証可能性を維持できるか？
• RQ5 自己理解の反射的発展、他者の心のモデル化、創造的で目的指向の推論を実現するためには、どのような認知メカニズムが必要か？

主な発見

• MeTTa インタプリタおよび分散型アトムスペースの初期アルファ版リリースが達成され、安全で分散化された実行のための Rholang コンパイルが実装された。
• 予備実験により、PLN による検証を組み合わせた LLM が、人間の倫理的判断の有効なオラクルとして機能することが確認され、敵対的攻撃への感受性が低下した。
• MeTTa と分散型アトムスペースの統合により、分散ノード間でスケーラブルで組み合わせ可能かつ検証可能な認知計算が可能になった。
• CogPrime 認知モデルは、エピソード記憶、作業記憶、手続き的学習、および心の理論モデル化を含む、人間と同等の認知機能を包括的にサポート。
• 記号的推論、確率的論理、LLMs を統合したハイブリッドアーキテクチャが、自己改善と倫理的推論が可能な AGI システムの構築に実現可能であることが示された。
• ロードマップにはコミュニティのスケーリング、アプリケーション分野での初期デモ、商業化の道筋が含まれており、近い将来には完全なツールキットとドキュメンテーションが提供される見通し。