[论文解读] Mathematicians and Ethical Engagement

Maurice Chiodo, Dennis Müller|arXiv (Cornell University)|Dec 22, 2022

Epistemology, Ethics, and Metaphysics被引用 4

一句话总结

本文提出一个四层次的数学伦理参与框架，主张数学家必须主动识别、沟通并应对自身工作中存在的伦理影响。该文呼吁将伦理教育融入数学训练，以应对金融、监控和人工智能领域模型带来的社会伤害，强调数学家因其独特专长，必须主导对其自身及他人工作的伦理审查。

ABSTRACT

Building on Chiodo and Bursill-Hall (2018), we outline that mathematicians can demonstrate what we term the "four levels of ethical engagement."

研究动机与目标

• 应对数学在金融、监控和人工智能领域应用中日益增长的伦理挑战，这些挑战已超越传统的剽窃或出版伦理等关切。
• 主张数学家无法保持伦理中立，因为其工作对社会产生直接影响，尤其在算法决策等高风险领域。
• 提出一个四层次的伦理参与结构框架，以指导数学家识别并回应其工作中出现的伦理问题。
• 倡导将伦理教育融入数学训练，与法律、医学和工程学中的专业伦理教育相媲美。
• 强调唯有接受过数学训练的个体，才能对复杂数学系统的真实性、可靠性及其社会影响作出有意义的评估。

提出的方法

• 基于剑桥大学伦理研讨会和会议的观察，构建了一个四层次的伦理参与模型。
• 使用案例研究（如萨莉·克拉克案和剑桥分析公司事件）说明错误或滥用数学如何造成现实世界伤害。
• 提出数学家必须超越被动意识，主动参与同行对话、政策参与和公众问责。
• 强调数学家需发展沟通与政策能力，以与政治家、监管机构等非数学背景的利益相关者有效互动。
• 倡导在制度层面将伦理教育融入数学教育，与其它STEM领域中的专业伦理培训相一致。
• 强调数学家不仅应捍卫其工作，还应主动识别并挑战数学的有害或误导性应用。

实验结果

研究问题

• RQ1 数学家如何系统性地参与其工作中出现的伦理问题，而不仅限于剽窃等传统关切？
• RQ2 数学家在回应其工作对社会的影响时，可采取哪些不同层次的伦理责任？
• RQ3 为何数学家必须对模型的社会后果承担伦理责任，特别是在人工智能和监控等领域的应用中？
• RQ4 数学家如何有效向非专家受众（如法官、政治家和公众）传达数学模型的局限性和风险？
• RQ5 伦理教育在数学训练中应发挥何种作用，以帮助学生为应对产业、政府和学术界中的伦理挑战做好准备？

主要发现

• 数学家处于社会与政治语境之中，任何数学工作都不是伦理中立的，因为即使基础选择（如优先考虑成本而非环境影响）也具有伦理权重。
• 伦理参与的四个层次为：(1) 个体对伦理影响的意识，(2) 同行对话与集体意识，(3) 参与政策与决策制定，(4) 主动审查有害或有缺陷的数学实践。
• 萨莉·克拉克案中统计学的误用体现了‘糟糕的数学’——数学上站不住脚的推理导致了错误定罪，后遭皇家统计学会批评。
• 数学家不能再依赖伦理学家或声称中立，因为其专业知识对评估警务和金融等高风险领域中模型的有效性与公平性至关重要。
• 正如工程师和医生维护专业标准，数学家也必须建立并维护自身的伦理标准，以防止错误应用或过度信任模型所造成的伤害。
• 唯有接受过数学训练的个体，才能对人工智能、机器学习和监控算法等复杂系统的真实性与社会影响作出有意义的评估，因此其伦理警觉性不可或缺。