[논문 리뷰] An overview of research on human-centered design in the development of artificial general intelligence

Yang Yue, Joseph Z. Shyu|arXiv (Cornell University)|2023. 08. 31.

Artificial Intelligence in Healthcare and Education인용 수 4

한 줄 요약

이 논문은 인공통합지능(AGI) 개발에 인간 중심 설계(HCD) 접근 방식을 채택할 것을 주장하며, 존엄성, 비밀보장성, 자율성과 같은 인간의 가치를 통합하는 것이 윤리적이고 지속 가능한 AGI를 위해 필수적이라고 주장한다. 문헌 고찰 및 콘텐츠 분석을 통해 HCD가 윤리적 일치를 향상시킨다는 점을 입증하고, 책임감 있는 AGI 발전을 뒷받기기 위한 다학문적 인재 양성의 필요성을 제기한다.

ABSTRACT

Abstract: This article offers a comprehensive analysis of Artificial General Intelligence (AGI) development through a humanistic lens. Utilizing a wide array of academic and industry resources, it dissects the technological and ethical complexities inherent in AGI's evolution. Specifically, the paper underlines the societal and individual implications of AGI and argues for its alignment with human values and interests. Purpose: The study aims to explore the role of human-centered design in AGI's development and governance. Design/Methodology/Approach: Employing content analysis and literature review, the research evaluates major themes and concepts in human-centered design within AGI development. It also scrutinizes relevant academic studies, theories, and best practices. Findings: Human-centered design is imperative for ethical and sustainable AGI, emphasizing human dignity, privacy, and autonomy. Incorporating values like empathy, ethics, and social responsibility can significantly influence AGI's ethical deployment. Talent development is also critical, warranting interdisciplinary initiatives. Research Limitations/Implications: There is a need for additional empirical studies focusing on ethics, social responsibility, and talent cultivation within AGI development. Practical Implications: Implementing human-centered values in AGI development enables ethical and sustainable utilization, thus promoting human dignity, privacy, and autonomy. Moreover, a concerted effort across industry, academia, and research sectors can secure a robust talent pool, essential for AGI's stable advancement. Originality/Value: This paper contributes original research to the field by highlighting the necessity of a human-centered approach in AGI development, and discusses its practical ramifications.

연구 동기 및 목표

• 인간 중심 설계가 윤리적이고 지속 가능한 AGI 개발에 미치는 역할을 검토하기 위해.
• AGI 설계를 이끄는 핵심 가치들 — 존엄성, 비밀보장성, 자율성 등 — 을 특정하기 위해.
• AGI의 윤리, 사회적 책임 및 인재 양성 분야에서의 경험적 연구 부족을 해결하기 위해.
• AGI 거버넌스를 위해 산업, 학계 및 연구 부문 간의 다학문적 협력을 촉진하기 위해.

제안 방법

• AGI 및 인간 중심 설계에 관한 학술 및 산업 자료의 종합적 문헌 고찰을 수행하기 위해.
• HCD가 AGI 개발과 관련하여 주요 주제와 개념을 추출하기 위해 콘텐츠 분석을 수행하기 위해.
• AGI 연구 분야에서 기존 이론, 최선의 실천 및 윤리 프레임워크를 평가하기 위해.
• 공감, 사회적 책임성 등의 가치 통합에 관한 통합된 발견을 AGI 시스템 설계에 융합하기 위해.
• 현재 연구 및 산업 트렌드 분 析를 통해 AGI 분야의 인재 양성에서의 주요 과제를 규명하기 위해.
• 인간 중심 가치와 다학문적 협업을 우선시하는 거버넌스 모델을 제안하기 위해.

실험 결과

연구 질문

• RQ1 인간 중심 설계 원칙은 어떻게 인공통합지능(AGI) 개발에 효과적으로 통합될 수 있는가?
• RQ2 AGI 시스템의 윤리적 설계를 이끄는 핵심 인간 가치들 — 존엄성, 비밀보장성, 자율성 등 — 은 무엇인가?
• RQ3 현재 연구에서 윤리, 사회적 책임 및 인재 양성 분야에 대한 주요 격차는 무엇인가?
• RQ4 산업, 학계 및 연구 기관 간의 다학문적 협력은 어떻게 AGI의 윤리적 발전을 향상시킬 수 있는가?

주요 결과

• 인간 중심 설계는 존엄성, 비밀보장성, 자율성과 같은 인간의 가치와 일치하는 AGI 시스템을 확보하는 데 필수적이다.
• 공감, 윤리 및 사회적 책임을 AGI 개발에 통합하면 이러한 시스템의 윤리적 구현이 크게 향상된다.
• 윤리, 사회적 책임 및 AGI 환경에서의 인재 양성에 초점을 맞춘 경험적 연구가 더욱 필요하다.
• 지속 가능하고 책임감 있는 AGI 발전을 뒷받침하기 위한 인재를 양성하기 위해 다학문적 이니셔티브가 필수적이다.
• 산업, 학계 및 연구 부문 간의 협력이 AGI 개발을 위한 탄탄한 인재 풀을 조성하는 데 필수적이다.
• 인간 중심 가치의 AGI 설계 통합은 장기적인 윤리적이고 지속 가능한 기술 발전을 촉진한다.