[논문 리뷰] Outlining Traceability: A Principle for Operationalizing Accountability in Computing Systems

Joshua A. Kroll|arXiv (Cornell University)|2021. 01. 23.

Ethics and Social Impacts of AI참고 문헌 141인용 수 56

한 줄 요약

이 논문은 공정성 및 안전성과 같은 규범적 목표와 시스템 설계, 개발, 운영을 연결함으로써 계정성의 기초 원칙으로 추적 가능성을 제안한다. 추적 가능성을 체계화하고 기존 도구 및 기법을 맵핑하며, 정책 의무사항과 실제 구현 간의 핵심 격차를 규명한다.

ABSTRACT

Accountability is widely understood as a goal for well governed computer systems, and is a sought-after value in many governance contexts. But how can it be achieved? Recent work on standards for governable artificial intelligence systems offers a related principle: traceability. Traceability requires establishing not only how a system worked but how it was created and for what purpose, in a way that explains why a system has particular dynamics or behaviors. It connects records of how the system was constructed and what the system did mechanically to the broader goals of governance, in a way that highlights human understanding of that mechanical operation and the decision processes underlying it. We examine the various ways in which the principle of traceability has been articulated in AI principles and other policy documents from around the world, distill from these a set of requirements on software systems driven by the principle, and systematize the technologies available to meet those requirements. From our map of requirements to supporting tools, techniques, and procedures, we identify gaps and needs separating what traceability requires from the toolbox available for practitioners. This map reframes existing discussions around accountability and transparency, using the principle of traceability to show how, when, and why transparency can be deployed to serve accountability goals and thereby improve the normative fidelity of systems and their development processes.

연구 동기 및 목표

• 시스템 설계, 개발, 운영을 규범적 목표와 연결함으로써 계정성을 실현화하기 위해 추적 가능성을 핵심 원칙으로 삼는다.
• 강력한 추적 가능성을 달성하기 위한 기술적, 절차적, 거버넌스 요구사항을 식별하고 체계화한다.
• 정책 수준의 추적 가능성 의무사항과 실제 이를 구현할 수 있는 도구 간 격차를 메운다.
• 추적 가능성이 단순한 투명성 이상의 기능을 하는 방식을 명확히 하여, 시스템 행동을 설계 결정과 가치 기준에 연결한다.
• 실무자와 정책 입안자들이 시스템의 추적 가능성을 평가하고 향상시킬 수 있도록 체계적인 프레임워크를 제공한다.

제안 방법

• 글로벌 정책 문서와 AI 원칙을 분석하여 반복적으로 나타나는 추적 가능성 요구사항을 도출한다.
• 버전 관리, 기원 추적, 감사 로깅과 같은 기존 기술, 도구, 개발 관행과 추적 가능성 요구사항을 맵핑한다.
• 설계 및 운영 결정의 인과적, 대조적, 선택적 설명에 중점을 두어 추적 가능성과 설명 가능성의 차이를 명확히 한다.
• 시스템 출력을 개발 프로세스, 데이터 소스, 거버넌스 목표와 연결하는 프레임워크를 제안한다.
• 기술적 한계, 도구 부족, 프로세스 통합 과제, 이해관계자 이해 부족의 네 가지 주요 격차 유형을 식별한다.
• 표준 및 정책 지침의 체계적 리뷰를 통해 추적 가능성 수요의 분류 체계를 유도한다.

실험 결과

연구 질문

• RQ1 소프트웨어 및 AI 시스템에서 계정성을 지원하기 위해 추적 가능성을 어떻게 체계적으로 실현화할 수 있는가?
• RQ2 실제로 의미 있는 추적 가능성을 달성하기 위해 필요한 특정 기술적 및 절차적 요구사항은 무엇인가?
• RQ3 추적 가능성은 규범적 거버넌스 목표를 지원하는 데 있어 투명성과 설명 가능성과 어떻게 다를까?
• RQ4 정책 수준의 추적 가능성 의무사항과 현재 이용 가능한 도구 및 관행 간의 격차는 무엇인가?
• RQ5 추적 가능성은 공정성, 안전성, 차별 금지와 같은 가치에 대해 계산기 시스템의 규범적 충실도를 어떻게 향상시킬 수 있는가?

주요 결과

• 공정성이나 투명성과 같은 추상적 가치보다도 추적 가능성이 더 구체적이고 측정 가능하므로, 계정성에 실질적인 기여를 할 수 있는 실용적 수단이다.
• 버전 관리, 기원 추적, 감사 로깅과 같은 기존 도구들은 추적 가능성을 지원할 수 있지만, 종종 부적절하게 사용되거나 활용되지 않는다.
• 정책에서 요구하는 추적 가능성과 개발 팀의 실제 구현 능력 사이에 심각한 격차가 존재한다.
• 기계적 로깅을 넘어서 설계 결정, 목적, 가치 상충 사항에 대한 인간이 이해할 수 있는 기록이 추적 가능성을 요구한다.
• 추적 가능성 원칙은 시스템 행동을 그 기원과 연결함으로써 책임과 규범적 평가를 지원함으로써 계정성을 가능하게 한다.
• 논문은 구현 격차의 네 가지 주요 유형을 식별한다: 기술적 한계, 도구 부족, 프로세스 통합 과제, 이해관계자 이해 부족.