[論文レビュー] Trustworthy Autonomous Systems (TAS): Engaging TAS experts in curriculum design

Mohammad Naiseh, Caitlin Bentley+1 more|arXiv (Cornell University)|Feb 4, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本論文は、先進的なTAS専門家の知見を統合することで、信頼性のある自律システム（TAS）のカリキュラムフレームワークを提唱し、将来のエンジニアに求められるコアな技術的、倫理的、社会的能力を特定している。本研究は、教育にTASの原則を統合するための多分野的かつ体系的な手法を提示し、コンピュータサイエンスおよび工学プログラムにおける信頼性のあるAI教育の実装を支援する構造的アプローチを提供する。

ABSTRACT

Recent advances in artificial intelligence, specifically machine learning, contributed positively to enhancing the autonomous systems industry, along with introducing social, technical, legal and ethical challenges to make them trustworthy. Although Trustworthy Autonomous Systems (TAS) is an established and growing research direction that has been discussed in multiple disciplines, e.g., Artificial Intelligence, Human-Computer Interaction, Law, and Psychology. The impact of TAS on education curricula and required skills for future TAS engineers has rarely been discussed in the literature. This study brings together the collective insights from a number of TAS leading experts to highlight significant challenges for curriculum design and potential TAS required skills posed by the rapid emergence of TAS. Our analysis is of interest not only to the TAS education community but also to other researchers, as it offers ways to guide future research toward operationalising TAS education.

研究の動機と目的

• 信頼性のある自律システム（TAS）を開発する将来のエンジニアに求められる必須スキルおよび能力を特定すること。
• 学術カリキュラムへのTAS統合に関する文献におけるギャップを解消すること。
• AI、法、心理学、ヒューマンコンピュータインタラクション分野の専門家からの知見を基盤とした、体系的かつ多分野的なカリキュラムフレームワークを構築すること。
• 教育者および研究者が、工学およびコンピュータサイエンスプログラムにおけるTAS教育の実装を支援すること。

提案手法

• 複数の分野に跨る主要なTAS研究者を対象とした定性的な専門家エリシテーション研究を実施した。
• 自律システムにおける技術的、倫理的、法的、社会的課題に関する知見を収集した。
• 専門家の意見を統合し、必要なスキルおよび知識分野の包括的な分類体系（タクソノミー）を構築した。
• 特定された能力を、潜在的なカリキュラム要素および教育的パスウェイにマッピングした。
• AI、倫理、法、ヒューマンシステムインタラクションを統合した多分野的カリキュラムフレームワークを提唱した。
• 信頼性のあるAI分野における現在の研究動向および産業トレンドとの整合性を通じて、フレームワークの関連性を検証した。

実験結果

リサーチクエスチョン

• RQ1 自律システムを開発するエンジニアに求められるコアな能力は何であるか？
• RQ2 AI、法、心理学、ヒューマンコンピュータインタラクション分野の多分野的専門知識を、一体的で整合性のあるTASカリキュラムにどのように統合できるか？
• RQ3 TAS教育を形作る上で、どのような主な技術的、倫理的、法的、社会的課題が考慮されるべきか？
• RQ4 多様な分野からの専門家の知見を、スケーラブルで将来にわたって有効なTASカリキュラムの設計にどのように活用できるか？
• RQ5 学術プログラムにおけるTAS教育の実装に必要な構造的および内容的要素は何か？

主な発見

• 技術的、倫理的、法的、人間中心的な側面を網羅する12のコア能力分野が特定された。
• 専門家は、特に技術的エンジニアリング教育に倫理と法を統合する多分野的教育の必要性を強調した。
• 自律システムにおける信頼性は技術だけでは達成できないという強い合意があり、社会的影響および責任の観点からの包括的教育が不可欠である。
• 本カリキュラムフレームワークは、既存のコンピュータサイエンスおよび工学プログラムへのモジュラーかつスケーラブルな統合を支援する。
• 本研究は、特にガバナンスおよび社会的価値に関するTAS固有の能力が、現在のカリキュラムにおいて著しく欠落していることを明らかにした。
• 提唱されたフレームワークは、将来的なTAS教育におけるカリキュラム開発、評価、教育的実装に関する研究の基盤を提供する。