[논문 리뷰] Gatekeeping Algorithms with Human Ethical Bias: The ethics of algorithms in archives, libraries and society

Martijn van Otterlo|arXiv (Cornell University)|2018. 01. 05.

Privacy, Security, and Data Protection참고 문헌 7인용 수 9

한 줄 요약

이 논문은 아카이브와 도서관에서 사용되는 게이트키핑 알고리즘에 인간의 윤리적 기준을 통합하여 기존의 행동강령과 일치시키는 프레임워크인 IntERMEeDIUM을 제안한다. 전문가 윤리규범을 알고리즘 설계에 통합함으로써, 접근성, 기밀성, 공정성을 유지하는 '코덴멘티스트'(ethical algorithmic documentalists)를 창출하고자 한다. 이는 디지털 정보 시스템 내에서 윤리적 결정보장을 보장한다.

ABSTRACT

In the age of algorithms, I focus on the question of how to ensure algorithms that will take over many of our familiar archival and library tasks, will behave according to human ethical norms that have evolved over many years. I start by characterizing physical archives in the context of related institutions such as libraries and museums. In this setting I analyze how ethical principles, in particular about access to information, have been formalized and communicated in the form of ethical codes, or: codes of conducts. After that I describe two main developments: digitalization, in which physical aspects of the world are turned into digital data, and algorithmization, in which intelligent computer programs turn this data into predictions and decisions. Both affect interactions that were once physical but now digital. In this new setting I survey and analyze the ethical aspects of algorithms and how they shape a vision on the future of archivists and librarians, in the form of algorithmic documentalists, or: codementalists. Finally I outline a general research strategy, called IntERMEeDIUM, to obtain algorithms that obey are human ethical values encoded in code of ethics.

연구 동기 및 목표

• 접근성, 기밀성, 공정성과 관련된 전통적 아카이브 및 도서관 윤리 기준이 알고리즘 시스템에서 어떻게 유지될 수 있는지 검토하기.
• 디지털화와 알고리즘화가 기관의 역할에 끼치는 영향을 분석하며, 특히 아카이비스트와 도서관사가 알고리즘 기반 문서관리자로 전환되는 과정을 다루기.
• 정보 기관 내 자동화된 의사결정의 윤리적 위험을 알고리즘 설계에 인간의 윤리적 가치를 통합함으로써 해결하기.
• 효율성이나 상업적 논리에 편향되지 않고 장기적인 전문 윤리 기준을 반영하는 알고리즘 설계를 위한 연구 전략을 제안하기.
• '코덴멘티스트'의 역할을 윤리적 기준을 지키는 알고리즘 기반 정보 관리에서 새로운 전문 직업형태로 정의하기.

제안 방법

• 아카이브, 도서관, 박물관의 기존 전문 윤리규범을 알고리즘 시스템에 적용 가능한 형식화된 윤리 원칙으로 변환하기.
• 윤리적 기준을 알고리즘 개발 과정에 통합하기 위한 체계적 프레임워크로 IntERMEeDIUM 연구 전략을 설계하기.
• 디지털화를 배경으로 물리적 아카이브 관행을 윤리적 의도를 유지하는 알고리즘 워크플로우로 재구성하기.
• 윤리적 제약 조건을 통합하면서도 정보 접근, 선별, 보존 작업에 알고리즘 기반 의사결정을 적용하기.
• 형식적 명세를 통해 투명성, 공정성, 책임성과 같은 윤리적 가치를 알고리즘 구성 요소에 매핑하기.
• 인간의 게이트키퍼에서 윤리적으로 규제된 코딩된 전문 기준에 기반한 알고리즘 기반 게이트키퍼로의 전환 제안하기.

실험 결과

연구 질문

• RQ1 아카이브와 도서관의 전문 윤리규범은 어떻게 형식화되고 기계로 읽을 수 있는 원칙으로 전환될 수 있는가?
• RQ2 정보 큐레이션 및 접근 과정에서 인간 아카이비스트와 도서관사를 알고리즘 시스템으로 대체할 경우 발생하는 윤리적 위험은 무엇인가?
• RQ3 알고리즘은 디지털 정보 환경에서 공정성, 기밀성, 투명성과 같은 가치를 어떻게 유지할 수 있는가?
• RQ4 디지털화와 알고리즘화는 아카이비스트와 도서관사의 역할을 알고리즘 기반 문서관리자 또는 '코덴멘티스트'로 어떻게 전환하는가?
• RQ5 정보 기관의 알고리즘 설계에 인간의 윤리적 기준을 체계적으로 통합하기 위한 연구 전략은 무엇인가?

주요 결과

• IntERMEeDIUM 프레임워크는 아카이브와 도서관에서 사용되는 알고리즘 시스템에 전문 윤리 기준을 통합하기 위한 체계적 연구 접근법을 제공한다.
• 전문 윤리규범에 명시된 접근성, 기밀성, 공정성과 같은 윤리 원칙은 알고리즘 의사결정 과정 내에서 실현 가능하게 구현될 수 있다.
• 인간의 게이트키퍼에서 알고리즘 기반 게이트키퍼로의 전환은 윤리적 코딩에 기반한 새로운 전문 직업 형태인 '코덴멘티스트'의 출현을 필요로 한다.
• 디지털화와 알고리즘화는 본질적으로 윤리적 가치를 위협하지 않지만, 편향과 배제를 방지하기 위해 윤리를 체계적으로 시스템 설계에 통합해야 한다.
• 정보 기관의 기존 행동강령은 알고리즘 시스템의 기초 윤리적 입력으로 기능할 수 있으며, 전문 기준의 연속성을 보장한다.
• 이 논문은 인간의 윤리적 기준이 알고리즘 아키텍처 내에서 체계적으로 코딩되고 검증될 경우 윤리적 알고리즘이 실현 가능하다는 것을 입증한다.