[논문 리뷰] Is Decentralized AI Safer?

Casey Clifton, Richard Blythman외 1명|arXiv (Cornell University)|2022. 11. 04.

Blockchain Technology Applications and Security인용 수 4

한 줄 요약

이 논문은 블록체인 기술을 통해 AI를 탈중앙화함으로써 탈중앙화된 거버넌스(DAO 포함), 변하지 않는 감사 기록, 민주화된 데이터 접근을 통해 안전성과 윤리성 향상 여부를 조사한다. 연구 결과, 탈중앙화는 편향을 감소시키고 다양한 도덕적 관점과의 일치를 향상시킬 수 있으나, 접근성 부족, 보안 취약성, 데이터 상용화 윤리 문제 등 새로운 위험 요소를 야기한다는 것을 밝혀냈다.

ABSTRACT

Artificial Intelligence (AI) has the potential to significantly benefit or harm humanity. At present, a few for-profit companies largely control the development and use of this technology, and therefore determine its outcomes. In an effort to diversify and democratize work on AI, various groups are building open AI systems, investigating their risks, and discussing their ethics. In this paper, we demonstrate how blockchain technology can facilitate and formalize these efforts. Concretely, we analyze multiple use-cases for blockchain in AI research and development, including decentralized governance, the creation of immutable audit trails, and access to more diverse and representative datasets. We argue that decentralizing AI can help mitigate AI risks and ethical concerns, while also introducing new issues that should be considered in future work.

연구 동기 및 목표

• 블록체인 기술을 활용한 AI 탈중앙화가 안전성, 윤리성, 다양한 인간 가치와의 일치를 향상시킬 수 있는지 평가하는 것.
• 탈중앙화 자율조직(DAO)이 AI 연구 및 개발에서 포괄적인 거버넌스를 공식화하는 방식을 검토하는 것.
• 블록체인의 역할이 AI 모델을 위한 변하지 않는 감사 기록과 안전하고 대표적인 데이터 공유를 가능하게 하는지 평가하는 것.
• 탈중앙화 과정에서 발생하는 새로운 위험 요소(접근성 격차, 데이터 보안 위협 등)를 식별하고 분석하는 것.
• 향후 연구가 공정하고 감사 가능하며 내구성이 있는 탈중앙화 AI 시스템 구축을 향해 이끌어가도록 안내하는 것.

제안 방법

• AI 분야에서 기존 블록체인 응용 사례를 분석하여 거버넌스, 데이터 접근성, 감사 가능성 분야의 활용 가능성을 평가하는 사례 연구를 수행하는 것.
• 탈중앙화 자율조직(DAO) 개념을 활용해 공동체 주도의 AI R&D 의사결정을 조율하고 인cent라이즈하는 것.
• 블록체인의 변하지 않는 특성을 활용해 AI 모델 학습, 데이터 기원, 의사결정 과정에 대한 위변조 방지 로그를 구축하는 것.
• 개인 데이터를 토큰화하는 기존 데이터 공유 모델을 분석하여 AI 학습에 안전하고 인센티브 기반의 참여를 가능하게 하는 것.
• 현재 탈중앙화 AI 구현 사례에 대한 비공식적 설문조사와 위험 평가를 통해 기술적·사회적 과제를 평가하는 것.
• 편향을 완화하고 개인정보 보호를 강화하기 위해 기존 AI 안전 기법(예: 연합학습, 설명 가능한 AI)을 통합하는 것.

실험 결과

연구 질문

• RQ1 DAO를 통한 탈중앙화 거버넌스는 기업 중심의 중앙집중화 모델보다 더 윤리적이고 대표적인 AI 개발을 이끌 수 있는가?
• RQ2 블록체인이 변하지 않는 데이터 트레일을 통해 어떻게 더 투명하고 감사 가능한 AI 시스템을 가능하게 하는가?
• RQ3 탈중앙화된 데이터 소유권이 AI 시스템의 편향을 얼마나 줄이고 공정성을 향상시킬 수 있는가?
• RQ4 AI 탈중앙화 과정에서 접근성과 보안 측면에서 어떤 새로운 위험이 발생하는가?
• RQ5 탈중앙화 AI 시스템은 어떻게 설계되어야 하며, 데이터 상용화를 통해 취약 계층의 착취를 방지할 수 있는가?

주요 결과

• DAO를 통한 탈중앙화 AI 거버넌스는 참가자 중심의 의사결정을 가능하게 하여, 구글에서 직원 주도 윤리적 행동이 이루어진 것처럼 더 넓은 사회적 가치와의 일치를 이룰 수 있다.
• 블록체인은 변하지 않는 감사 기록을 제공하여 AI 모델 개발 및 구현 과정에서의 투명성과 책임성을 강화한다.
• 탈중앙화된 데이터 공유 방식은 데이터셋의 다양성을 향상시키고 편향을 감소시킬 수 있으며, 특히 연합학습과 같은 개인정보 보호 기법과 조합할 경우 효과가 크다.
• 잠재적 이점에도 불구하고, 조사한 DAO 참가자 79%가 20~40세의 남성으로 나타나 현재 탈중앙화 거버넌스 모델에서 접근성과 다양성 격차가 심각한 것으로 나타났다.
• 블록체인의 변하지 않는 특성에 대한 오해와 데이터 토큰화 과정에서의 사기 위험으로 인해 최종 사용자 보안 위험이 증가하고 있으며, 암호화폐 사기와 유사한 양상이다.
• 블록체인을 통한 개인 데이터 상용화는 취약 계층을 착취하고 기존 사회적 편견을 강화할 수 있으며, 특히 차별적 변수가 적절히 제어되지 않을 경우 더욱 심각한 문제가 된다.