[論文レビュー] Gatekeeping Algorithms with Human Ethical Bias: The ethics of algorithms in archives, libraries and society

Martijn van Otterlo|arXiv (Cornell University)|Jan 5, 2018

Privacy, Security, and Data Protection参考文献 7被引用数 9

ひとこと要約

本論文は、図書館やアーカイブで使用されるゲートキーピングアルゴリズムに人間の倫理的規範を埋め込むためのフレームワーク、IntERMEeDIUMを提案している。これにより、確立された行動規範と整合するよう保証される。職業的コードから得た倫理的原則をアルゴリズム設計に統合することで、『コーデンティスト』と呼ばれる、アクセス、プライバシー、公平性をデジタル情報システムで維持する倫理的アルゴリズム的ドキュメンタリストの創出を目指している。

ABSTRACT

In the age of algorithms, I focus on the question of how to ensure algorithms that will take over many of our familiar archival and library tasks, will behave according to human ethical norms that have evolved over many years. I start by characterizing physical archives in the context of related institutions such as libraries and museums. In this setting I analyze how ethical principles, in particular about access to information, have been formalized and communicated in the form of ethical codes, or: codes of conducts. After that I describe two main developments: digitalization, in which physical aspects of the world are turned into digital data, and algorithmization, in which intelligent computer programs turn this data into predictions and decisions. Both affect interactions that were once physical but now digital. In this new setting I survey and analyze the ethical aspects of algorithms and how they shape a vision on the future of archivists and librarians, in the form of algorithmic documentalists, or: codementalists. Finally I outline a general research strategy, called IntERMEeDIUM, to obtain algorithms that obey are human ethical values encoded in code of ethics.

研究の動機と目的

• 図書館・アーカイブの伝統的倫理、特にアクセス、プライバシー、公平性に関するものがあらゆるアルゴリズム的システムにどのように維持されるかを検討すること。
• デジタル化とアルゴリズム化が、特にアーカイブ人や図書館員がアルゴリズム的ドキュメンタリストに変容する際の機関の役割に与える影響を分析すること。
• 情報機関における自動意思決定の倫理的リスクを、人間の倫理的価値をアルゴリズム設計に埋め込むことで是正すること。
• アルゴリズムが長年の職業的倫理的コードを反映するように保証する研究戦略を提言すること。これは、単に効率性や商業的論理に従うのではなく、倫理的基準を優先することを意味する。
• 『コーデンティスト』という新たな専門的アイコンを位置づけ、アルゴリズム的情報管理における倫理基準を守る役割を果たすものとする。

提案手法

• 図書館・アーカイブ・博物館の既存の職業的倫理コードを、アルゴリズム的システムに形式的に適用可能な倫理的原則へと変換すること。
• IntERMEeDIUM研究戦略を、倫理的規範をアルゴリズム開発プロセスに統合するための構造的フレームワークとして設計すること。
• デジタル化を文脈として、物理的アーカイブ実務を倫理的意図を保ったままアルゴリズム的ワークフローに再定式化すること。
• 情報へのアクセス、選定、保存のタスクにアルゴリズム的意思決定を適用しながら、倫理的制約を統合すること。
• 形式的仕様を通じて、透明性、公平性、説得責任といった倫理的価値をアルゴリズム的コンponentsにマッピングすること。
• 人間のゲートキーパーから、形式的に定義された専門的基準に従う倫理的制約を受けるアルゴリズム的ゲートキーパーへの移行を提言すること。

実験結果

リサーチクエスチョン

• RQ1 図書館・アーカイブの職業的倫理コードは、アルゴリズム的システムに形式的かつ機械可読な原則としてどのように翻訳できるか？
• RQ2 情報キュレーションとアクセスにおいて、人間のアーカイブ人・図書館員がアルゴリズム的システムに置き換えられることに伴う倫理的リスクは何か？
• RQ3 アルゴリズムは、デジタル情報環境における公平性、プライバシー、透明性といった価値をどのように維持できるか？
• RQ4 デジタル化とアルゴリズム化は、アーカイブ人・図書館員の役割をどのようにアルゴリズム的ドキュメンタリスト、あるいは『コーデンティスト』に変容させるか？
• RQ5 人間の倫理的規範を情報機関のアルゴリズム設計に体系的に統合するための研究戦略は、どのようなものか？

主な発見

• IntERMEeDIUMフレームワークは、図書館やアーカイブで使用されるアルゴリズム的システムに職業的倫理的コードを統合するための体系的で構造的な研究的戦略を提供する。
• 職業的コードに形式的に定義された倫理的原則、たとえばアクセス、プライバシー、公平性といったものも、アルゴリズム的意思決定プロセス内で実行可能にできる。
• 人間のゲートキーパーからアルゴリズム的ゲートキーパーへの移行は、形式的に定義された専門的基準に基づく倫理的コーディングを備えた『コーデンティスト』という新たな専門的役割の出現を不可避にする。
• デジタル化とアルゴリズム化は、倫理的価値そのものを脅かすものではなく、バイアスや排除を防ぐために、倫理的要素をシステム設計に意図的に統合する必要がある。
• 情報機関の既存の行動規範は、アルゴリズム的システムの基礎的倫理的入力として機能でき、専門的基準の継続的維持に貢献する。
• 本論文は、人間の倫理的規範がアルゴリズムアーキテクチャ内で体系的にコーディングされ、検証されれば、倫理的アルゴリズムが実現可能であることを示している。