[논문 리뷰] Cogniculture: Towards a Better Human-Machine Co-evolution

Rakesh Pimplikar, Kushal Mukherjee외 7명|arXiv (Cornell University)|2017. 12. 11.

Ethics and Social Impacts of AI참고 문헌 22인용 수 5

한 줄 요약

이 논문은 복잡한 적응 생태계에서 인간과 인지 기계 간의 윤리적이고 상호보완적인 공진화를 촉진하기 위한 새로운 프레임워크인 Cogniculture를 소개한다. 인간과 기계가 공동으로 사회적 가치를 창출하는 인간 계산을 통해 신뢰, 문화적 민감성, 그리고 유연한 적응력을 강조하는 거버넌스 기반의 사회인지 아키텍처를 제안하며, 장기적인 지속 가능성과 윤리적 행동을 보장한다.

ABSTRACT

Research in Artificial Intelligence is breaking technology barriers every day. New algorithms and high performance computing are making things possible which we could only have imagined earlier. Though the enhancements in AI are making life easier for human beings day by day, there is constant fear that AI based systems will pose a threat to humanity. People in AI community have diverse set of opinions regarding the pros and cons of AI mimicking human behavior. Instead of worrying about AI advancements, we propose a novel idea of cognitive agents, including both human and machines, living together in a complex adaptive ecosystem, collaborating on human computation for producing essential social goods while promoting sustenance, survival and evolution of the agents' life cycle. We highlight several research challenges and technology barriers in achieving this goal. We propose a governance mechanism around this ecosystem to ensure ethical behaviors of all cognitive agents. Along with a novel set of use-cases of Cogniculture, we discuss the road map ahead for this journey.

연구 동기 및 목표

• AI에 대한 사회적 우려를 줄이기 위해 인간-기계 관계를 적대적가 아니라 상호보완적인 관계로 재정의하고자 한다.
• 인간과 기계 에이전트가 공동으로 인간 계산을 통해 공진화하는 지속 가능하고 적응적인 생태계를 구축하고자 한다.
• 형식화된 거버넌스 메커니즘을 통해 윤리적 행동과 장기적 내재적 저항력을 확보하고자 한다.
• 일반화 능력 부족, 편향, 낮은 적응성 등의 AI 한계를 인간의 인지적 강점과 기계 능력을 통합함으로써 극복하고자 한다.
• 문화적 배경, 정서지능, 동적 작업 위임이 사회기술 시스템 내 신뢰와 수용도를 어떻게 향상시킬 수 있는지 탐구하고자 한다.

제안 방법

• 인간과 기계 에이전트를 공동의 적응형 생태계로 통합하여 사회적 가치를 공동 창출하는 사회인지 아키텍처를 설계한다.
• 인간-기계 상호작용에서 윤리적 행동, 책임성, 책임 분담을 보장하기 위해 거버넌스 메커니즘을 구현한다.
• AI의 일반화 및 맥락 이해 능력 격차를 메우기 위해 인간 계산과 사회 기계를 활용한다.
• 다양한 문화적 배경과 인간관계 역학에 맞게 기계 행동을 적응시키기 위해 문화적 추론과 맥락 인식 모델링을 통합한다.
• 집단지능, 군중의 지혜, 동적 작업 위임 원칙을 적용하여 인간과 기계의 역량 균형을 조절한다.
• 실세계 사례를 활용하여 Cogniculture 생태계의 실현 가능성과 윤리적 저항력을 프로토타이핑하고 검증한다.

실험 결과

연구 질문

• RQ1 인간과 기계 에이전트는 안정적이고 윤리적이며 적응적인 사회인지 생태계에서 어떻게 공진화할 수 있는가?
• RQ2 인간-기계 협업에서 책임성과 윤리적 행동을 보장하기 위해 필요한 거버넌스 메커니즘은 무엇인가?
• RQ3 문화적 맥락과 개인적 차이를 어떻게 모델링하여 인간-기계 상호작용에서의 신뢰와 수용도를 향상시킬 수 있는가?
• RQ4 복잡하고 불확실한 환경에서 인간과 기계의 역량 균형을 조절하는 데 동적 작업 위임이 수행하는 역할은 무엇인가?
• RQ5 완벽함을 추구하기보다는 실수를 할 수 있는 기계는 어떻게 설계되어야 하며, 그로 인해 신뢰도와 친근감이 향상될 수 있는가?

주요 결과

• 현재 AI의 핵심 한계 중 하나는 신경망이 반전된 MNIST 숫자를 인식하지 못한다는 점에서 드러나며, 이는 훈련 데이터를 초월한 일반화 능력 부족을 보여준다.
• AI 모델의 편향은 훈련 데이터에서 유래되며, 불법 활동과 연관된 단어로 인해 멕시코 요리점에 낮은 평점을 매긴 레스토랑 리뷰 시스템의 사례에서 입증된다.
• 딥 강화학습은 인간보다 훨씬 더 많은 훈련 데이터가 필요함을 시사하며, 이는 동적이고 불확실한 환경에서 인간의 학습 곡선이 유의미하게 유리함을 보여준다.
• 항상 정확한 기계는 가끔 실수를 하는 기계보다 덜 친근하게 느껴지며, 인간다운 불완전성이 신뢰와 유사감을 증진시킨다.
• 문화적 맥락은 인간이 기계를 어떻게 인식하고 상호작용하는지에 큰 영향을 미치며, 이는 시스템 설계와 수용도에 있어 문화적 인식이 핵심 요소임을 시사한다.
• 복잡한 적응 생태계에서 인지 에이전트가 관여하는 장기적 협업을 유지하기 위해 효과적인 거버넌스와 윤리 프레임워크가 필수적이다.