[論文レビュー] Harnessing LLMs in Curricular Design: Using GPT-4 to Support Authoring of Learning Objectives

Pragnya Sridhar, Aidan Doyle+4 more|arXiv (Cornell University)|Jun 30, 2023

Online Learning and Analytics被引用数 29

ひとこと要約

この論文は、AI実務家コースの概念的モジュールとプロジェクトの高品質な学習目標（LOs）を自動生成するGPT-4の能力を評価し、妥当性、動詞の使用、およびBloomの分類学レベルを分析します。

ABSTRACT

We evaluated the capability of a generative pre-trained transformer (GPT-4) to automatically generate high-quality learning objectives (LOs) in the context of a practically oriented university course on Artificial Intelligence. Discussions of opportunities (e.g., content generation, explanation) and risks (e.g., cheating) of this emerging technology in education have intensified, but to date there has not been a study of the models' capabilities in supporting the course design and authoring of LOs. LOs articulate the knowledge and skills learners are intended to acquire by engaging with a course. To be effective, LOs must focus on what students are intended to achieve, focus on specific cognitive processes, and be measurable. Thus, authoring high-quality LOs is a challenging and time consuming (i.e., expensive) effort. We evaluated 127 LOs that were automatically generated based on a carefully crafted prompt (detailed guidelines on high-quality LOs authoring) submitted to GPT-4 for conceptual modules and projects of an AI Practitioner course. We analyzed the generated LOs if they follow certain best practices such as beginning with action verbs from Bloom's taxonomy in regards to the level of sophistication intended. Our analysis showed that the generated LOs are sensible, properly expressed (e.g., starting with an action verb), and that they largely operate at the appropriate level of Bloom's taxonomy, respecting the different nature of the conceptual modules (lower levels) and projects (higher levels). Our results can be leveraged by instructors and curricular designers wishing to take advantage of the state-of-the-art generative models to support their curricular and course design efforts.

研究の動機と目的

• コースの高品質で測定可能な学習目標（LOs）を作成するという課題に動機づける。
• AI関連の概念モジュールとプロジェクトのために、GPT-4が妥当で適切に構成されたLOsを生成できるか評価する。
• 生成されたLOsが適切なアクション動詞で始まり、Bloom’s taxonomyのレベルと整合するかを調査する。
• カリキュラム設計者がコース設計作業を支援するためにLLMsを活用する際の指針を提供する。

提案手法

• AI Practitionerコースの概念モジュールとプロジェクトのLOsを生成するために、綿密に作成されたシステムプロンプトと構造化されたユーザーメッセージを用いてGPT-4を使用する。
• 分析のためにGPT-4の応答から127のLOsを抽出する。
• 研究問題に自動的方法（動詞の正規表現、Bloom’s taxonomy分類器）と人間の注釈の両方で回答する。
• BERTベースの分類器と人間の注釈者が割り当てたBloom’s taxonomyレベルを比較する。
• Cohen’s Kappaと多数決分類との一致を用いて評価者間の一致を評価する。

Figure 4: Distribution of action verbs across module types.

実験結果

リサーチクエスチョン

• RQ1 RQ1: 生成されたLOsは妥当で、関連トピックに対処しているか？
• RQ2 RQ2: LOsは測定可能な行動を示す適切な動詞で始まっているか？
• RQ3 RQ3: 概念モジュールとプロジェクトのLOsは、適切なBloom’s taxonomyレベルで認知プロセスを対象にしているか？

主な発見

• 生成されたLOsは概ね妥当で適切に表現されており、しばしばアクション動詞で始まる。
• 概念モジュールのLOsは主にdescribe, discuss, explain, identify, define のような動詞を使用する。
• プロジェクトLOsはimplement, optimize, develop, utilize のような動詞を使用する。
• 概念LOは主に低位のBloom’s分類（Remember/Understand）に一致する一方、プロジェクトLOはApply, Analyze, Evaluate, Createにまたがる。
• BERTベースのBloom’s taxonomy分類と人間の注釈は、 Remember/Understand と Apply/Analyze/Evaluate/Create の大枠カテゴリ分けで実質的な一致を示す。
• 127のLOのうち26はプロンプトの例リストにはない動詞で始まり、プロンプトに依存する制限を強調している。

Figure 5: Bloom’s Taxonomy Categorization of Generated LOs using BERT