[論文レビュー] Large Language Models in Sport Science & Medicine: Opportunities, Risks and Considerations

Mark Connor, Michael F. O‘Neill|arXiv (Cornell University)|May 5, 2023

Artificial Intelligence in Healthcare and EducationMedicine被引用数 3

ひとこと要約

本論文は、大規模言語モデル（LLMs）がスポーツ科学および医療分野に統合される可能性を検討し、臨床的意思決定の向上、個人化されたトレーニングプログラムの作成、知識共有の改善—特に支援が不足している地域において—に寄与する可能性を強調している。データバイアス、プライバシー侵害、および事実に反する出力（ホールシンゲーション）といった主なリスクを特定し、安全で公平な応用を実現するためには、倫理的整合性と人間による確認（人間がループに参加する）の重要性を強調している。

ABSTRACT

This paper explores the potential opportunities, risks, and challenges associated with the use of large language models (LLMs) in sports science and medicine. LLMs are large neural networks with transformer style architectures trained on vast amounts of textual data, and typically refined with human feedback. LLMs can perform a large range of natural language processing tasks. In sports science and medicine, LLMs have the potential to support and augment the knowledge of sports medicine practitioners, make recommendations for personalised training programs, and potentially distribute high-quality information to practitioners in developing countries. However, there are also potential risks associated with the use and development of LLMs, including biases in the dataset used to create the model, the risk of exposing confidential data, the risk of generating harmful output, and the need to align these models with human preferences through feedback. Further research is needed to fully understand the potential applications of LLMs in sports science and medicine and to ensure that their use is ethical and beneficial to athletes, clients, patients, practitioners, and the general public.

研究の動機と目的

• 大規模言語モデル（LLMs）がスポーツ科学および医療分野に応用可能な可能性を評価すること。
• LLMの導入に関連する主なリスク、特にデータバイアス、プライバシーの漏洩、および事実に反する出力（ホールシンゲーション）を特定すること。
• LLMを臨床基準および人間の好みに適合させる課題を検討すること。
• スポーツ医学分野におけるLLMの倫理的で根拠に基づいた統合を提唱すること。
• 低資源地域における高品質なスポーツ健康情報へのアクセスを支援するために、LLMを活用すること。

提案手法

• 自然言語処理分野におけるLLMの現在の能力と、それがスポーツ医学分野への応用にどの程度適合するかを調査する体系的レビュー。
• LLMの学習メカニズムの分析、特に大規模なテキストコーパスを用いた事前学習および人間からのフィードバックを用いたファインチューニング。
• LLMの性能を、臨床的助言の生成、医学文献の要約、トレーニング計画の個人化の観点から評価すること。
• 健康関連のLLMにおける、データプライバシー、モデルのホールシンゲーション、データセットバイアスに関するリスクの評価。
• 質的および概念的フレームワークを用いて、LLMの倫理的および臨床的整合性が実務者ニーズにどの程度合致しているかを評価すること。
• 特に検証および臨床現場への実用的統合の観点から、研究および実装におけるギャップの特定。

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルは、スポーツ医学およびスポーツ科学分野における意思決定およびパーソナライズにどのように寄与できるか？
• RQ2 臨床およびアスリートのパフォーマンス向上の現場にLLMを導入する際に生じる主なリスクは何か？
• RQ3 トレーニングデータ内のバイアスは、スポーツ健康分野におけるLLMが出力する助言の信頼性および公平性にどのように影響を与えるか？
• RQ4 LLMの使用によって機密性の高い患者またはアスリートのデータが漏洩するのを防ぐために必要な保護策は何か？
• RQ5 スポーツ医学分野において、LLMを臨床ガイドラインおよび人間の好みにどのように倫理的に整合させるか？

主な発見

• LLMsは、テキストデータに基づいたパーソナライズされたトレーニングおよび回復支援の助言を生成することで、スポーツ医学の実務者を支援する強力な可能性を示している。
• LLMsは、専門的知識が限られている発展途上国において、高品質なスポーツ健康情報へのアクセスを向上させることができる。
• モデルのホールシンゲーション（事実に反するが説得力のある医療的またはトレーニングの助言を生成する現象）のリスクが顕著に存在する。
• トレーニングデータ内のバイアスは、特に代表が不足している集団に対して、不平等または不正確な助言を生じさせる可能性がある。
• 臨床基準に準拠した出力と有害または誤解を招く内容を減らすために、人間からのフィードバックを用いたファインチューニングが不可欠である。
• LLMを信頼できる臨床意思決定支援システムに導入するには、強固な検証および監視メカニズムが必要である。