[論文レビュー] CoCoMo: Computational Consciousness Modeling for Generative and Ethical AI

Edward Yi Chang|arXiv (Cornell University)|Mar 17, 2023

Ethics and Social Impacts of AI被引用数 9

ひとこと要約

本論文は、MFQスケジューリング、強化学習、および適応型プロンプトを用いて、生成系AIに計算的意識、倫理的ガードレール、感情知能を組み込むCoCoMoモデルを提案する。これにより、AIシステムの公正性、非害性、共感、信頼性が向上することを主張する。

ABSTRACT

The CoCoMo model proposes a computational solution to the challenge of incorporating ethical and emotional intelligence considerations into AI systems, with the aim of creating AI agents that combine knowledge with compassion. To achieve this goal, CoCoMo prioritizes fairness, beneficence, non-maleficence, empathy, adaptability, transparency, and critical and exploratory thinking abilities. The model employs consciousness modeling, reinforcement learning, and prompt template formulation to support these desired traits. By incorporating ethical and emotional intelligence considerations, a generative AI model can potentially lead to improved fairness, reduced toxicity, and increased reliability.

研究の動機と目的

• 系統2AIの望ましい特性を定義する（知識、公正、善行、非害、共感、適応性、透明性、批判的/探究的思考を含む）。
• AIの安全性と倫理性のための実践的アーキテクチャと結合した、意識理論を組み込んだ計算的意識モデル（CoCoMo）を提案する。
• 生成系AIにおける感情モデリング、倫理的ガードレール、タスクスケジューリングを可能にするモジュール、アルゴリズム、プロンプトを説明する。
• CoCoMoがフェアネスを向上させ、毒性を低減し、基盤モデルの信頼性を高める方法を示す。

提案手法

• 意識の機能主義的観点を導入し、計算的アプローチを正当化する理論を概観する。
• 受容体、無意識、意識、効果器の四つのモジュールを持つCoCoMoを定義する。
• 意識的/無意識的タスク遷移を管理するために割り込みを伴う多段階フィードバック・キュー（MFQ）スケジューラを採用する。
• 行動を guiding するために感情モデリング、報酬ベースの強化学習、プロンプトテンプレート生成を取り入れる。
• 評価と倫理的推論のために prompting ensembles と CRIT（Critical Thinking Template）を提示する。
• 安全を確保しつつ創造性を促進するための共感テンプレートと反事実/帰納的推論プロンプトの例を提供する。

実験結果

リサーチクエスチョン

• RQ1 生成系AIにおいて倫理的・感情知能を支えるように計算的意識をどのようにモデル化できるか。
• RQ2 安全性を維持しつつ、無意識と意識のAI状態間の移行を最も効果的に可能にするスケジューリングおよび報酬メカニズムは何か。
• RQ3 基盤モデルにおいて共感、倫理的ガードレール、批判的思考を促すプロンプトとテンプレートはどうあるべきか。
• RQ4 反事実推論および帰納的推論は、創造性を犠牲にすることなく毒性と幻覚を低減できるか。

主な発見

• CoCoMoは注意を管理し新規イベントの割り込みのため、意識様ループと MFQ スケジューリングを統合する。
• 感情モデリングと報酬調整を用いて、AIの行動を倫理的・共感的目標に合わせる。
• CRITは文書の信頼性を評価し主張について推論するための構造化手法を提供する。
• プロンプトとテンプレートはLLMベースのコンポーネントに批判的思考と共感的応答を可能にする。
• 本フレームワークは、AIシステム自体に倫理的配慮を組み込むことで、公正性を向上させ、毒性を低減し、信頼性を高めることを目指す。