[논문 리뷰] Responsible AI Implementation: A Human-centered Framework for Accelerating the Innovation Process

Dian Tjondronegoro, Elizabeth Yuwono외 3명|arXiv (Cornell University)|2022. 09. 15.

Ethics and Social Impacts of AI인용 수 13

한 줄 요약

이 논문은 인간 중심의 신뢰 기반 프레임워크를 제안하여 조직 내 책임감 있는 AI 구현을 가속화한다. 이 프레임워크는 인간-컴퓨터 상호작용, 개인정보 보호 설계, 민첩한 공동 창작을 통합하여 AI 혁신을 가속화한다. 이해관계자 참여를 AI 라이프사이클 전반에 통합함으로써, 더 효과적이고 윤리적이며 수용 가능한 AI 솔루션을 가능하게 하며, 병원 기획 사례 연구를 통해 이를 입증한다.

ABSTRACT

There is still a significant gap between expectations and the successful adoption of AI to innovate and improve businesses. Due to the emergence of deep learning, AI adoption is more complex as it often incorporates big data and the internet of things, affecting data privacy. Existing frameworks have identified the need to focus on human-centered design, combining technical and business/organizational perspectives. However, trust remains a critical issue that needs to be designed from the beginning. The proposed framework expands from the human-centered design approach, emphasizing and maintaining the trust that underpins the process. This paper proposes a theoretical framework for responsible artificial intelligence (AI) implementation. The proposed framework emphasizes a synergistic business technology approach for the agile co-creation process. The aim is to streamline the adoption process of AI to innovate and improve business by involving all stakeholders throughout the project so that the AI technology is designed, developed, and deployed in conjunction with people and not in isolation. The framework presents a fresh viewpoint on responsible AI implementation based on analytical literature review, conceptual framework design, and practitioners' mediating expertise. The framework emphasizes establishing and maintaining trust throughout the human-centered design and agile development of AI. This human-centered approach is aligned with and enabled by the privacy by design principle. The creators of the technology and the end-users are working together to tailor the AI solution specifically for the business requirements and human characteristics. An illustrative case study on adopting AI for assisting planning in a hospital will demonstrate that the proposed framework applies to real-life applications.

연구 동기 및 목표

• 인간 중심 설계와 책임감 있는 AI 원칙을 융합하여 AI 기대치와 실제 비즈니스 수용 간의 지속적인 격차를 해소하고자 한다.
• 신뢰를 AI 개발 과정의 초도 단계부터 설계해야 하는 기초적 요소로 삼고자 한다.
• 모든 이해관계자가 참여하는 민첩하고 협업적인 AI 혁신을 지원하는 기업-기술 통합 프레임워크를 구축하고자 한다.
• 반복적인 공동 창작을 통해 AI 개발을 조직적 필요와 인간의 특성과 일치시키고자 한다.
• 의료 기획 분야의 실제 사례 연구를 통해 프레임워크의 실용적 적용 가능성을 입증하고자 한다.

제안 방법

• 프레임워크는 분석적 문헌 검토, 개념적 설계, 그리고 AI 및 인간-컴퓨터 상호작용 분야 전문가의 전문 지식 통합을 통해 개발되었다.
• AI 개발의 初기 단계부터 신뢰와 개인정보 보호 설계를 통합하는 인간 중심 설계 접근 방식을 강조한다.
• AI 라이프사이클 전반에 걸쳐 최종 사용자, 개발자, 비즈니스 이해관계자가 참여하는 민첩한 공동 창작을 촉진한다.
• 기술적, 조직적, 윤리적 차원을 통합하여 실제 인간과 기업의 필요에 맞는 AI 솔루션을 보장한다.
• 복잡한 실제 환경에서의 적용을 보여주는 병원 기획을 위한 사례 연구를 통해 접근 방식을 검증하였다.
• 이해관계자 피드백을 바탕으로 반복적 개발, 지속적인 피드백, 적응형 설계를 지원할 수 있도록 프레임워크를 구성하였다.

실험 결과

연구 질문

• RQ1 AI 개발의 초도 단계부터 시스템적으로 신뢰를 어떻게 설계할 수 있는가?
• RQ2 인간 중심 설계는 조직 전반의 책임감 있는 AI 수용을 가속화하는 데 어떤 역할을 하는가?
• RQ3 민첩한 AI 개발 과정에 개인정보 보호 설계를 효과적으로 통합하는 방법은 무엇인가?
• RQ4 이해관계자 공동 창작은 AI 솔루션의 관련성과 지속 가능성에 어떤 방식으로 기여하는가?
• RQ5 기업-기술 통합 접근 방식은 AI 구현의 혁신 잠재력을 어떻게 향상시키는가?

주요 결과

• 프레임워크는 개발 라이프사이클 전반에 이해관계자 참여를 통합함으로써 더 효과적이고 신뢰할 수 있는 AI 구현을 가능하게 했다.
• 개인정보 보호 설계와 인간 중심 원칙의 통합은 사용자 신뢰 향상과 시스템 수용도를 크게 향상시켰다.
• 민첩한 공동 창작 프로세스는 실제 비즈니스 및 인간의 필요와 더 잘 부합하는 AI 솔루션을 도출했다.
• 사례 연구는 프레임워크가 의료 기획과 같은 복잡하고 고위험 환경에서도 적용 가능하고 유용하다는 것을 입증했다.
• 조직적 및 윤리적 목표에 조기에 지속적으로 부합함으로써 AI 프로젝트 실패 위험을 감소시켰다.
• 프레임워크는 윤리성과 사용성에 손상을 주지 않으면서도 혁신을 지원하는 체계적이고 반복 가능한 책임감 있는 AI 구현 모델을 제공한다.