[논문 리뷰] Underspecification in Scene Description-to-Depiction Tasks

Ben Hutchinson, Jason Baldridge외 1명|arXiv (Cornell University)|2022. 10. 11.

Multimodal Machine Learning Applications인용 수 10

한 줄 요약

이 논문은 텍스트-이미지 생성에서의 부족함을 이해하기 위한 개념적 프레임워크를 제안하며, 텍스트 기술의 모호성으로 인해 여러 유효한 시각적 해석이 가능하다고 주장한다. 다양한 이미지 생성과 시각적 모호성의 명시적 모델링을 통해 위험을 완화함으로써 다중모odal 시스템의 투명성과 윤리적 구현을 향상시킨다.

ABSTRACT

Questions regarding implicitness, ambiguity and underspecification are crucial for understanding the task validity and ethical concerns of multimodal image+text systems, yet have received little attention to date. This position paper maps out a conceptual framework to address this gap, focusing on systems which generate images depicting scenes from scene descriptions. In doing so, we account for how texts and images convey meaning differently. We outline a set of core challenges concerning textual and visual ambiguity, as well as risks that may be amplified by ambiguous and underspecified elements. We propose and discuss strategies for addressing these challenges, including generating visually ambiguous images, and generating a set of diverse images.

연구 동기 및 목표

• 다중모달 텍스트-이미지 시스템에서 부족함, 모호성, 암시적 요소에 대한 관심 부족을 해결하기 위해.
• 장면 기술-묘사 작업에서 텍스트와 이미지가 의미를 어떻게 다르게 전달하는지 이해하기 위한 개념적 프레임워크를 개발하기 위해.
• 모호하거나 부족한 입력으로 인해 악화되는 위험, 예를 들어 편견, 모욕적인 스테레오타입, 오락성 정보를 특정하기 위해.
• 다양한 이미지 생성 및 시각적으로 모호한 출력을 포함한 실용적 전략을 제안하여 시스템의 투명성과 사용자 기대를 향상시키기 위해.
• 시스템의 능력과 한계를 더 잘 정의하기 위해 시각 예술, 디자인, 문화 연구 분야와의 다학제적 협력을 촉진하기 위해.

제안 방법

• 다중모달 AI 전반에서 텍스트-이미지 생성의 역할을 명확히 하기 위해 텍스트+이미지 작업의 분류 체계를 제안한다.
• 이미지가 유사성(도식적)과 관습(상징적)을 통해 의미를 전달하는 방식을 분석하며, 참조 대상과 개념을 구분한다.
• 언어적 언어 모델링과 유사하게, 텍스트-이미지 모델의 해석 및 생성 능력을 묘사하는 '시각적 언어' 개념을 도입한다.
• 사용자 기대를 관리하기 위해 모델의 시각적 능력과 한계, 지원되는 스타일 및 작업 경계를 문서화할 것을 권장한다.
• 부족한 텍스트 기술의 다양한 가능한 해석을 반영하기 위해 입력당 여러 다양성 있는 이미지를 생성하는 것을 제안한다.
• 유해한 출력을 탐지하고 완화하기 위해 악성 입력과 문화적으로 다양한 평가자들을 활용한 스트레스 테스팅을 촉진한다.

실험 결과

연구 질문

• RQ1 텍스트적 모호성과 시각적 모호성이 텍스트-이미지 생성 시스템에 미치는 영향은 어떻게 다를까?
• RQ2 장면 기술-묘사 작업에서의 부족함으로 인해 악화되는 윤리적 위험은 무엇인가?
• RQ3 다중모달 시스템은 어떻게 부족한 기술의 다양한 해석 범위를 더 잘 표현할 수 있는가?
• RQ4 '시각적 언어'는 텍스트-이미지 모델의 능력과 한계를 정의하는 데 어떤 역할을 하는가?
• RQ5 시스템 개발자는 내재된 모호성에 대비해 투명성을 어떻게 향상시키고 사용자 기대를 어떻게 관리할 수 있는가?

주요 결과

• 텍스트-이미지 모델은 자연어 기술에 존재하는 모호성과 부족함을 반영하여, 여러 유효하지만 서로 다른 시각적 출력을 생성하는 경향이 있다.
• 논문은 비공격적인 입력이라도 모델의 편견과 결합될 경우, 예를 들어 '분노한 흑인 여성'과 같은 해로운 스테레오타입을 강화할 수 있음을 밝혔다.
• 입력당 다양한 이미지를 생성하면, 부족한 기술의 가능한 해석의 전반적인 범위를 반영하는 데 도움이 된다.
• 생성된 이미지의 시각적 모호성은 자연어의 해석 유연성을 반영할 때 기능이 될 수 있으며, 결함이 아니라는 점을 밝혔다.
• 문화적으로 다양한 평가자들을 활용한 강력한 스트레스 테스팅은 모델의 해로운 또는 편향된 행동을 탐지하는 데 도움이 된다.
• 지원되는 스타일과 작업 경계를 포함한 모델의 시각적 능력에 대한 명시적 문서화는 사용자 기대를 관리하고 오용 위험을 줄이기 위해 필수적이다.