[논문 리뷰] Designing for Critical Algorithmic Literacies

Sayamindu Dasgupta, Benjamin Mako Hill|arXiv (Cornell University)|2020. 08. 04.

Teaching and Learning Programming인용 수 4

한 줄 요약

이 논문은 두 개의 데이터 프로그래밍 시스템을 개발한 경험을 바탕으로, 어린이의 알고리즘적 비판적 소양을 키우는 교육 도구를 설계하기 위한 네 가지 설계 원칙을 제안한다. 알고리즘 과정을 가시화하고 질문할 수 있도록 하여, 이 프레임워크는 어린이들이 디지털 경험을 형성하는 계산 시스템을 이해하고 비판하며 질문할 수 있도록 한다.

ABSTRACT

As pervasive data collection and powerful algorithms increasingly shape children's experience of the world and each other, their ability to interrogate computational algorithms has become crucially important. A growing body of work has attempted to articulate a set of "literacies" to describe the intellectual tools that children can use to understand, interrogate, and critique the algorithmic systems that shape their lives. Unfortunately, because many algorithms are invisible, only a small number of children develop the literacies required to critique these systems. How might designers support the development of critical algorithmic literacies? Based on our experience designing two data programming systems, we present four design principles that we argue can help children develop literacies that allow them to understand not only how algorithms work, but also to critique and question them.

연구 동기 및 목표

• 어린이의 디지털 삶을 형성하는 알고리즘 시스템을 비판적으로 이해할 수 있는 능력이 점점 더 필요해지는 데 대응하기 위해.
• 은폐된 알고리즘을 어린이가 이해하고 분석할 수 있도록 가시화하고 분석 가능한 설계 전략을 특정하기 위해.
• 어린이가 알고리즘 의사결정 과정을 질문하고 비판하고 조사할 수 있도록 하는 소양을 지원하기 위해.
• 추상적인 알고리즘 개념과 연령에 적합한 실질적인 학습 경험 사이의 격차를 메우기 위해.
• 실제 시스템 개발 경험에 기반한 실천 가능한 설계 원칙을 기여하기 위해.

제안 방법

• 어린이가 알고리즘 과정과 어떻게 상호작용하는지 탐색하기 위해 두 개의 데이터 프로그래밍 시스템을 설계하고 구현하기 위해.
• 어린이와의 사용자 참여를 바탕으로 반복적인 설계 과정을 적용하여 시스템의 가시성과 상호작용을 개선하기 위해.
• 데이터 흐름, 변환 과정, 의사결정 논리를 접근 가능한 시각적 형태로 드러내는 투명성 기능을 통합하기 위해.
• 손으로 실험함으로써 알고리즘 행동을 테스트하고 수정하며 반성할 수 있는 메커니즘을 도입하기 위해.
• 기술적 숙련도가 아니라 參與적이고 탐구 기반의 학습 과정으로서 알고리즘 비판을 프레임화하기 위해.
• 시스템 사용 중 관찰된 사용자 행동과 인지적 참여 패턴에서 설계 원칙을 유도하기 위해.

실험 결과

연구 질문

• RQ1 어떻게 하면 알고리즘 시스템의 내부 작동 방식을 어린이가 이해하고 보는 데 가시화할 수 있도록 설계할 수 있는가?
• RQ2 어떤 설계 특징이 어린이가 알고리즘 의사결정을 이해할 뿐 아니라 비판하고 질문할 수 있도록 하는가?
• RQ3 데이터 시스템에서의 가시성과 상호작용은 비판적 알고리즘 소양의 발달을 어떻게 지원하는가?
• RQ4 어린이가 투명한 시스템과 상호작용할 때 나타나는 행동은 알고리즘의 힘과 편향에 대한 그들의 이해가 어떻게 변화하는지를 어떻게 드러내는가?
• RQ5 다양한 교육적 맥락에서 비판적 알고리즘 소양을 지원할 수 있는 일반화 가능한 설계 원칙은 무엇인가?

주요 결과

• 투명하고 상호작용 가능한 데이터 시스템을 사용한 어린이들은 알고리즘 의사결정을 식별하고 질문하는 능력이 향상된 것으로 나타났다.
• 데이터 변환과 논리 경로의 가시성 덕분에 어린이들은 결과를 추적하고 알고리즘 행동의 잠재적 편향을 인식할 수 있었다.
• 설계 원칙은 어린이의 상호작용를 직접 관찰함으로써 도출되었으며, 상호작용과 반성은 비판적 참여에 필수적임을 보여주었다.
• 사용자가 알고리즘을 수정하고 테스트할 수 있는 시스템은 데이터 처리에서 원인-결과 관계를 더 깊이 이해하는 데 기여했다.
• 어린이들은 알고리즘 시스템을 투명하지 않은 흑상자로 보는 것이 아니라, 탐구하고 비판할 수 있는 대상으로 바라보기 시작했다.
• 투명성, 추적 가능성, 수정 가능성, 반성이라는 네 가지 설계 원칙은 사용자 행동과 학습 결과 모두에서 일관되게 지지되었다.