[논문 리뷰] Machine Unlearning: its nature, scope, and importance for a "delete culture"

Luciano Floridi|arXiv (Cornell University)|2023. 05. 24.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 디지털 시대의 '삭제 문화'를 실현하기 위한 핵심 메커니즘으로 기계적 무뇌력화(MU)를 제안한다. 개인과 조직이 기계 학습 모델에서 특정 데이터를 효과적으로 제거할 수 있도록 한다. 삭제 및 차단 전략을 체계화함으로써, 논문은 MU가 개인정보 및 지적 재산권 보호를 위한 실현 가능한 해결책을 제공한다고 주장한다. 특히 챗지피티와 같은 대규모 언어 모델에서 그러한 기여이지만, 오용 및 미사용과 같은 윤리적 위험은 정책적 고려가 필요하다.

ABSTRACT

The article explores the cultural shift from recording to deleting information in the digital age and its implications on privacy, intellectual property (IP), and Large Language Models like ChatGPT. It begins by defining a delete culture where information, in principle legal, is made unavailable or inaccessible because unacceptable or undesirable, especially but not only due to its potential to infringe on privacy or IP. Then it focuses on two strategies in this context: deleting, to make information unavailable; and blocking, to make it inaccessible. The article argues that both strategies have significant implications, particularly for machine learning (ML) models where information is not easily made unavailable. However, the emerging research area of Machine Unlearning (MU) is highlighted as a potential solution. MU, still in its infancy, seeks to remove specific data points from ML models, effectively making them 'forget' completely specific information. If successful, MU could provide a feasible means to manage the overabundance of information and ensure a better protection of privacy and IP. However, potential ethical risks, such as misuse, overuse, and underuse of MU, should be systematically studied to devise appropriate policies.

연구 동기 및 목표

• 디지털 시대의 데이터 유지를 향한 문화적 전환에서 데이터 삭제로의 전환을 분석하기 위해.
• 정보 거버넌스에서 데이터 삭제(사용 불가능성)와 차단(접근 불가능성)의 차이를 분석하기 위해.
• 기계 학습 모델에서 데이터 삭제를 가능하게 하는 기술적 솔루션으로 기계적 무뇌력화를 제시하기 위해.
• 실제 적용에서 기계적 무뇌력화의 오용, 과용, 미사용과 같은 윤리적 위험을 부각하기 위해.
• 기계적 무뇌력화 기술의 책임감 있는 배포를 지원하는 정책 프레임워크를 제안하기 위해.

제안 방법

• 개인 정보나 지적 재산권 우려로 인해 정보가 사용 불가능하거나 접근 불가능해지는 것을 원칙적 전환으로서 '삭제 문화'로 정의하기 위해.
• 지속적인 사용 불가능성인 삭제와 일시적인 접근 제한인 차단을 데이터 거버넌스의 두 가지 별개 전략으로 구분하기 위해.
• 기계 학습 모델이 특정 학습 데이터 포인트를 '잊는다'는 기능을 가능하게 하는 기술적 메커니즘으로 기계적 무뇌력화를 프레임화하기 위해.
• 모델를 재학습하거나 업데이트하여 원치 않는 정보를 제외할 수 있도록 함으로써, MU가 데이터 보호 원칙 준수를 가능하게 한다고 제안하기 위해.
• 기계적 무뇌력화의 오용 또는 충분한 도입이 이루어지지 않을 수 있는 잠재적 악용과 같은 윤리적 위험에 대한 체계적 연구의 필요성을 강조하기 위해.
• 기계적 무뇌력화 기술의 정책 개발을 이끄는 데 있어 다학제적 연구의 필요성을 주장하기 위해.

실험 결과

연구 질문

• RQ1 기계적 무뇌력화는 기계 학습 시스템에서 실질적인 '삭제 문화'를 어떻게 실현할 수 있는가?
• RQ2 기계 학습 모델에서 데이터 삭제와 차단의 기술적 및 윤리적 차이점은 무엇인가?
• RQ3 기계적 무뇌력화는 대규모 언어 모델에서 개인정보 및 지적 재산권 보호를 어떻게 지원할 수 있는가?
• RQ4 기계적 무뇌력화 기능의 오용, 과용, 또는 미사용으로 인해 발생할 수 있는 위험은 무엇인가?
• RQ5 기계적 무뇌력화의 책임감 있고 공정한 배포를 보장하기 위해 정책 프레임워크는 어떻게 설계될 수 있는가?

주요 결과

• 기계적 무뇌력화는 훈련된 기계 학습 모델에서 특정 데이터 포인트를 사용 불가능하게 만들 수 있는 실현 가능한 기술적 길을 제공하며, 이는 '삭제 문화'를 지원한다.
• 데이터 거버넌스에서 삭제(지속적인 제거)와 차단(일시적 제한)의 차이는 AI에서의 데이터 거버넌스 이해에 있어 핵심적이다.
• 챗지피티와 같은 대규모 언어 모델은 스케일과 복잡성으로 인해 데이터 삭제에 특별한 과제를 안기며, 이에 따라 MU는 특히 관련성이 높다.
• MU의 성공적인 구현은 AI 시스템에서의 개인정보 및 지적 재산권 보호를 크게 향상시킬 수 있다.
• 기계적 무뇌력화의 오용으로 정당한 기록을 삭제하거나 기술적 장벽으로 인한 미사용 등 윤리적 위험는 체계적으로 연구되어야 한다.
• 기계적 무뇌력화가 다양한 분야에서 책임감 있고 공정하게 배포되도록 보장하기 위해 정책 개발이 필수적이다.