[論文レビュー] Towards social generative AI for education: theory, practices and ethics

Mike Sharples|arXiv (Cornell University)|Jun 14, 2023

Online Learning and Analytics被引用数 22

ひとこと要約

この論文は教育における AI を人間と AI の社会的対話として再構想し、GAI（社会的学習モデル）、そしてケア、記憶、権利の倫理/ガバナンスの考慮を提案する。

ABSTRACT

This paper explores educational interactions involving humans and artificial intelligences not as sequences of prompts and responses, but as a social process of conversation and exploration. In this conception, learners continually converse with AI language models within a dynamic computational medium of internet tools and resources. Learning happens when this distributed system sets goals, builds meaning from data, consolidates understanding, reconciles differences, and transfers knowledge to new domains. Building social generative AI for education will require development of powerful AI systems that can converse with each other as well as humans, construct external representations such as knowledge maps, access and contribute to internet resources, and act as teachers, learners, guides and mentors. This raises fundamental problems of ethics. Such systems should be aware of their limitations, their responsibility to learners and the integrity of the internet, and their respect for human teachers and experts. We need to consider how to design and constrain social generative AI for education.

研究の動機と目的

• 学習を人間とAIを含む社会的過程として、普遍的な計算媒体内で考えることを提案する。
• 協働的・社会的学習に参加する生成型AIの新たな役割を特定する。
• 教育における社会AIのケア、記憶、倫理に関する課題と設計原則を論じる。

提案手法

• 対話的学習の理論的視点（パスク、ボフチン、フレイレ、ヴィゴツキー）をAIエージェントの文脈でレビューし統合する。
• インターネット接続された学習環境において、人間とAIにまたがる認知のシステム的見方を提案する。
• 具体的なAI役割を導入・説明する。クラスルーム風の例を用いて。
• 記憶、目標設定、ドメイン横断の転移を含む、AIが社会学習の完全な参加者となるために必要な条件を批評的に分析する。
• 長期記憶、透明性、人権ベースのガバナンスなどの概念を通じて、ケアと倫理原則をAIに組み込むことを主張する。

実験結果

リサーチクエスチョン

• RQ1 普遍的な教育媒体の中で学習のための対話に参加する生成型AIはどのような性質を持つべきか。
• RQ2 人間とAIはどのように相互合意に達し分散学習システムでそれらの合意はどのようなものになるか。
• RQ3 AIが社会的学習者および対話的パートナーとして参加する場合、教師や専門家の役割は何か。
• RQ4 教育の社会的GAIにケアと倫理的配慮を組み込むには。

主な発見

• GAIは代替的視点を生成する、仲間と議論する、協働を導く、共同設計を行う、データ遊びを探求する、物語を語るなど、複数の役割を担うことができる。
• 社会的学習モデルには、単にプロンプトと応答を超える能力が必要で、記憶、目標設定、ユーザーのニーズの推論、推論の説明能力を含む。
• ケアと人権ベースのガバナンスを組み込むことは、学習者を尊重し、多様なアイデンティティを支援し、操作を避けるために極めて重要である。
• 現在のGAIは長期記憶と反省的能力を欠く; 将来のシステムは持続的な学習、説明責任、移転を支えるためにハイブリッド神経-シンボリックアーキテクチャを統合すべき。
• 倫理的AI設計は、人間の教師との協働のバランスを取り、透明性を維持し、AI判断の検証可能な証拠を提供すべき。