[論文レビュー] Mathematicians and Ethical Engagement

Maurice Chiodo, Dennis Müller|arXiv (Cornell University)|Dec 22, 2022

Epistemology, Ethics, and Metaphysics被引用数 4

ひとこと要約

この論文は、数学的活動における倫理的関与のための四段階フレームワークを提唱し、数学者が自らの仕事の全般にわたり、倫理的影響を前もって認識し、伝え、行動する必要があると主張している。金融、監視、AI分野におけるモデルの社会的被害を是正するため、倫理的配慮を数学教育に統合するべきだと提言しており、数学的専門性を持つ者たちが、自らの仕事および他人の仕事の倫理的吟味を主導すべきであると強調している。

ABSTRACT

Building on Chiodo and Bursill-Hall (2018), we outline that mathematicians can demonstrate what we term the "four levels of ethical engagement."

研究の動機と目的

• 金融、監視、AI分野における応用から生じる、いびつな盗用や出版倫理を超えた、ますます深刻化する数学的倫理的課題に対処すること。
• 数学的活動が社会に直接的な影響を及ぼす以上、数学者が倫理的中立を保てないということを主張すること。特に、アルゴリズムによる意思決定のようなハイリスク分野において顕著である。
• 数学的活動における倫理的問題を認識・対応するための、四段階の倫理的関与フレームワークを提示すること。
• 法律、医学、工学分野における職業倫理教育と同等の水準で、倫理教育を数学的訓練に組み込むべきだと主張すること。
• 複雑な数学的システムの妥当性、信頼性、社会的影響を的確に評価できるのは、数学的訓練を受けた者に限られることを強調すること。

提案手法

• ケンブリッジ大学で開催されたセミナーおよび国際会議の観察に基づき、四段階の倫理的関与モデルを構築した。
• サリー・クラーク裁判やカマブリッジ・アナリティカ事件などの事例研究を通じて、誤ったあるいは不適切に使われた数学が現実の害をもたらす様子を示した。
• 数学者が受動的な認識にとどまらず、同僚間の対話、政策参加、一般社会への責任の所在を果たす能動的役割を果たすべきだと提言した。
• 政治家や規制当局など、非数学的ステークホルダーと対話するための、コミュニケーション力および政策的スキルの習得が不可欠であることを強調した。
• 他のSTEM分野と同様に、教育機関においても倫理教育を数学教育に統合すべきだと主張した。
• 数学者は自らの仕事を防衛するだけでなく、数学的モデルの誤用や誤解を先制的に特定・是正する責任があると強調した。

実験結果

リサーチクエスチョン

• RQ1 数学的活動から生じる倫理的課題に、盗用のような伝統的 concerns を超えて、どのように体系的に関与できるか。
• RQ2 数学的活動の社会的影響に応じて、数学者がとれる明確な倫理的責任の段階は何か。
• RQ3 AI や監視分野のような分野において、数学的モデルの社会的結果に対して責任を取ることが、なぜ倫理的に不可欠なのか。
• RQ4 裁判官、政治家、一般市民のような非専門家に対して、数学的モデルの限界やリスクを効果的に伝えるにはどうすればよいか。
• RQ5 学生が産業界、政府、学術界における倫理的課題に備えるために、数学的訓練に倫理教育が果たすべき役割は何か。

主な発見

• 数学的活動は社会的・政治的文脈に位置しており、たとえ基礎的選択（例：環境的影響を無視してコスト最適化）であっても、倫理的重みを伴うため、いかなる数学的作業も倫理的に中立ではない。
• 倫理的関与の四段階は以下の通りである：(1) 倫理的影響への個人的認識、(2) 同僚間での対話と集団的認識、(3) 政策立案および意思決定への参加、(4) 悪いまたは誤った数学的実践に対する能動的吟味。
• サリー・クラーク裁判における統計の誤用は、「悪い数学」の典型例である。数学的に誤った推論が、誤った有罪判決をもたらし、後にロイヤル統計学会によって批判された。
• 数学者はもはや倫理学者に頼るか、中立を主張するのではなく、警察や金融分野のようなハイリスク分野で使われるモデルの妥当性や公平性を評価するための専門的知識を有しているため、その専門性を活かすべきである。
• エンジニアや医師が職業的基準を守るのと同様に、数学者も自らの倫理的基準を確立・維持し、誤用や過剰信頼されたモデルによる被害を防ぐべきである。
• AI や機械学習、監視アルゴリズムのような複雑なシステムの信頼性や社会的影響を的確に評価できるのは、数学的訓練を受けた者に限られる。したがって、その倫理的注意深さは不可欠である。