[论文解读] Designing for Critical Algorithmic Literacies

Sayamindu Dasgupta, Benjamin Mako Hill|arXiv (Cornell University)|Aug 4, 2020

Teaching and Learning Programming被引用 4

一句话总结

本文提出了四项设计原则，用于创建能够培养儿童批判性算法素养的教育工具，其灵感源自开发两个数据编程系统的实际经验。通过使算法过程可视化并可被质询，该框架使年轻用户能够理解、批判并质疑塑造其数字体验的计算系统。

ABSTRACT

As pervasive data collection and powerful algorithms increasingly shape children's experience of the world and each other, their ability to interrogate computational algorithms has become crucially important. A growing body of work has attempted to articulate a set of "literacies" to describe the intellectual tools that children can use to understand, interrogate, and critique the algorithmic systems that shape their lives. Unfortunately, because many algorithms are invisible, only a small number of children develop the literacies required to critique these systems. How might designers support the development of critical algorithmic literacies? Based on our experience designing two data programming systems, we present four design principles that we argue can help children develop literacies that allow them to understand not only how algorithms work, but also to critique and question them.

研究动机与目标

• 为应对儿童日益增长的需要，以批判性方式理解塑造其数字生活的算法系统。
• 识别使无形算法对年轻用户可见且可分析的设计策略。
• 支持发展使儿童能够质疑、批判和质询算法决策的素养能力。
• 弥合抽象算法概念与人机交互中具体、适合年龄的学习体验之间的差距。
• 基于真实世界系统开发，贡献可操作的设计原则，以推动教育技术发展。

提出的方法

• 设计并实现两个数据编程系统，以探索儿童如何与算法过程互动。
• 采用基于儿童用户参与的迭代设计流程，以优化系统的可见性与交互性。
• 嵌入透明度功能，以可视化形式揭示数据流、转换过程和决策逻辑。
• 引入机制，使用户能够通过动手实验来测试、修改并反思算法行为。
• 将算法批判转化为一种参与式、基于探究的学习过程，而非技术熟练度的掌握。
• 从用户使用过程中的观察行为和认知参与模式中推导出设计原则。

实验结果

研究问题

• RQ1 如何设计算法系统，使其内部运作对儿童可见且易于理解？
• RQ2 哪些设计特征使儿童不仅能理解，还能批判和质疑算法决策？
• RQ3 在数据系统中，可见性与交互性在多大程度上支持批判性算法素养的发展？
• RQ4 儿童与透明系统互动时，如何揭示其对算法权力与偏见的逐步理解？
• RQ5 哪些设计原则可被普遍化，以支持在多样化教育情境中发展批判性算法素养？

主要发现

• 参与透明、交互式数据系统的儿童表现出更强的能力，能够识别并质疑算法决策。
• 数据转换和逻辑路径的可视化，使儿童能够追踪结果，并识别算法行为中潜在的偏见。
• 设计原则源于对儿童互动行为的直接观察，表明互动性与反思能力对批判性参与至关重要。
• 允许用户修改和测试算法的系统，促进了儿童对数据处理中因果关系的深入理解。
• 儿童开始将算法系统视为可探究和可批判的对象，而非不透明的黑箱。
• 四项设计原则——透明性、可追溯性、可修改性与反思性——在用户行为和学习成果中得到一致支持。