[论文解读] Gatekeeping Algorithms with Human Ethical Bias: The ethics of algorithms in archives, libraries and society

Martijn van Otterlo|arXiv (Cornell University)|Jan 5, 2018

Privacy, Security, and Data Protection参考文献 7被引用 9

一句话总结

本文提出了一套名为 IntERMEeDIUM 的框架，旨在将人类伦理规范嵌入档案馆和图书馆中用于把关的算法，确保其与既定的行为准则保持一致。通过将专业行为准则中的伦理原则整合到算法设计中，该方法旨在打造‘代码心理学家’——即具备伦理意识的算法文献学家，以在数字信息系统中维护信息获取、隐私保护与公平性。

ABSTRACT

In the age of algorithms, I focus on the question of how to ensure algorithms that will take over many of our familiar archival and library tasks, will behave according to human ethical norms that have evolved over many years. I start by characterizing physical archives in the context of related institutions such as libraries and museums. In this setting I analyze how ethical principles, in particular about access to information, have been formalized and communicated in the form of ethical codes, or: codes of conducts. After that I describe two main developments: digitalization, in which physical aspects of the world are turned into digital data, and algorithmization, in which intelligent computer programs turn this data into predictions and decisions. Both affect interactions that were once physical but now digital. In this new setting I survey and analyze the ethical aspects of algorithms and how they shape a vision on the future of archivists and librarians, in the form of algorithmic documentalists, or: codementalists. Finally I outline a general research strategy, called IntERMEeDIUM, to obtain algorithms that obey are human ethical values encoded in code of ethics.

研究动机与目标

• 探讨传统档案与图书馆伦理——尤其是关于获取、隐私与公平性——如何在算法系统中得以保留。
• 分析数字化与算法化对机构角色的影响，特别是档案员与图书馆员向算法文献学家转型的过程。
• 通过在算法设计中嵌入人类伦理价值观，应对信息机构中自动化决策的伦理风险。
• 提出一种研究策略，确保算法反映长期存在的专业伦理规范，而非默认遵循效率或商业逻辑。
• 将‘代码心理学家’这一角色定位为一种新的专业范式，以在算法信息管理中维护伦理标准。

提出的方法

• 将档案、图书馆与博物馆领域现有的专业伦理准则转化为可形式化的算法系统伦理原则。
• 设计 IntERMEeDIUM 研究策略，作为一项结构化框架，将伦理规范整合进算法开发流程。
• 以数字化为背景，重新构想实体档案实践为保留伦理意图的算法工作流。
• 在信息获取、选择与保存任务中应用算法决策，同时嵌入伦理约束。
• 通过形式化规范，将透明度、公平性与问责制等伦理价值观映射至算法组件。
• 推动从人类把关者向受伦理规范约束的算法把关者转变，后者以编码化的专业标准为依据。

实验结果

研究问题

• RQ1 如何将档案与图书馆领域的专业伦理准则转化为适用于算法系统的正式、机器可读原则？
• RQ2 用算法系统取代人类档案员与图书馆员在信息筛选与获取中的角色，会带来哪些伦理风险？
• RQ3 如何设计算法，使其在数字信息环境中维护公平性、隐私与透明度等价值？
• RQ4 数字化与算法化在何种方式下将档案员与图书馆员的角色转变为算法文献学家或‘代码心理学家’？
• RQ5 何种研究策略能够实现人类伦理规范在信息机构算法设计中的系统性整合？

主要发现

• IntERMEeDIUM 框架提供了一套结构化的研究方法，可将专业伦理规范嵌入档案与图书馆使用的算法系统中。
• 如访问权、隐私与公平性等伦理原则——若已形式化于专业准则中——可被实际应用于算法决策流程。
• 从人类把关者向算法把关者转变，要求催生‘代码心理学家’这一新的专业角色，其基础是伦理编码。
• 数字化与算法化本身并不必然威胁伦理价值，但需有意识地将伦理整合进系统设计，以防止偏见与排斥。
• 信息机构现有的行为准则可作为算法系统的伦理基础输入，确保专业标准的延续性。
• 本文证明，当人类伦理规范被系统性地编码并验证于算法架构中时，伦理算法是可实现的。