[논문 리뷰] Architext: Language-Driven Generative Architecture Design

Theodoros Galanos, Antonios Liapis외 1명|arXiv (Cornell University)|2023. 03. 13.

BIM and Construction Integration인용 수 4

한 줄 요약

Architext는 자연어 프롬프트만으로 유효하고 다양한 주거용 평면도를 생성하는 언어 기반 생성 설계 시스템을 소개한다. 이 방법은 미세조정된 대규모 언어 모델(Large Language Models, LLMs)을 활용하여, 가장 큰 GPT-J 모델을 사용할 경우 거의 100%의 레이아웃 유효성과 최대 83%의 의미 정확도를 달성한다. 이는 LLMs가 시각적 입력 없이도 의미적 감독만으로 건축 기하학을 효과적으로 학습할 수 있음을 보여준다.

ABSTRACT

Architectural design is a highly complex practice that involves a wide diversity of disciplines, technologies, proprietary design software, expertise, and an almost infinite number of constraints, across a vast array of design tasks. Enabling intuitive, accessible, and scalable design processes is an important step towards performance-driven and sustainable design for all. To that end, we introduce Architext, a novel semantic generation assistive tool. Architext enables design generation with only natural language prompts, given to large-scale Language Models, as input. We conduct a thorough quantitative evaluation of Architext's downstream task performance, focusing on semantic accuracy and diversity for a number of pre-trained language models ranging from 120 million to 6 billion parameters. Architext models are able to learn the specific design task, generating valid residential layouts at a near 100% rate. Accuracy shows great improvement when scaling the models, with the largest model (GPT-J) yielding impressive accuracy ranging between 25% to over 80% for different prompt categories. We open source the finetuned Architext models and our synthetic dataset, hoping to inspire experimentation in this exciting area of design research.

연구 동기 및 목표

• 자연어 프롬프트만을 사용하여 언어 기반 생성 설계를 가능하게 하는 유연하고 오픈소스 시스템을 개발하는 것.
• 시각적 입력 없이도 유효하고 의미적으로 정확한 주거용 평면도를 생성할 수 있는 미세조정된 대규모 언어 모델의 능력을 평가하는 것.
• 모델 크기와 아키텍처가 건축 생성에서 의미 정확도와 디자인 다양성에 미치는 영향을 조사하는 것.
• 의미 기반의 생성 설계 연구를 촉진하기 위해 공개된 합성 데이터셋과 미세조정된 LLMs를 제공하는 것.
• LLMs가 성능 기반 및 지속 가능한 건축 설계 워크플로우에 있어 확장 가능하고 접근 용이하며 직관적인 도구로 활용될 잠재력을 탐색하는 것.

제안 방법

• 주거용 평면도와 공간적·기하적 성질에 대한 자연어 기술서가 짝지어진 합성 데이터셋에 대해 120M에서 6B 파라미터에 이르는 다양한 사전 학습된 언어 모델을 미세조정하는 것.
• 공간 관계와 방 구성 정보를 인코딩하는 의미론적 텍스트 기반 기하 표현을 사용하여 건축 레이아웃을 표현하는 것.
• 자기회귀 언어 모델링을 활용해 순차적 토큰 출력을 예측함으로써, 입력 프롬프트 조건 하에 평면도 기술서를 생성하도록 모델을 훈련하는 것.
• 생성된 텍스트를 다시 기하 레이아웃으로 변환하여, 구조적 유효성과 입력 프롬프트와의 의미 일치도를 평가하는 것.
• 다양한 설계 제약 조건과 의도 유형을 포함한 총 56개의 자연어 프롬프트를 사용하여 일반화 능력을 테스트하는 것.
• GPT-J 및 그 작은 변종과 같은 기존의 LLMs를 활용하여 성능 및 다양성에 미치는 스케일링 효과를 평가하는 것.

실험 결과

연구 질문

• RQ1 미세조정된 대규모 언어 모델은 시각적 입력 없이 자연어 프롬프트만으로 유효하고 의미적으로 정확한 주거용 평면도를 생성할 수 있는가?
• RQ2 모델 크기가 생성된 건축 레이아웃의 의미 정확도와 다양성에 어떤 영향을 미치는가?
• RQ3 LLMs는 시각적 입력 없이 순수하게 의미적 감독만으로 건축 설계 규칙을 얼마나 잘 학습하고 일반화할 수 있는가?
• RQ4 자연어로 표현된 다양한 종류의 설계 제약 조건에 대해 LLM의 성능은 어떻게 변화하는가?
• RQ5 합성된 의미 기반 애너테이션 데이터셋은 건축 레이아웃 생성에서 효과적인 제로샷 또는 희소 few-shot 일반화를 가능하게 하는가?

주요 결과

• 모든 미세조정된 모델이 99% 이상의 레이아웃 유효성 비율을 확보하여, 구조적으로 타당한 주거용 평면도 생성 능력이 뛰어나다는 것을 입증했다.
• 가장 큰 모델인 GPT-J(6B 파라미터)는 다양한 프롬프트 유형에서 의미 정확도 점수가 25%에서 80% 이상으로 변동하였으며, 최고 기록은 83%였다.
• 모델 확장에 따라 의미 정확도가 크게 향상되어, 모델 용량과 건축 설계 생성 성능 사이에 명확한 상관관계가 있음을 입증했다.
• 모든 테스트된 56개의 프롬프트에 대해 다양하고 유효한 레이아웃을 성공적으로 생성하여, 자연어 기반 생성이 건축 설계에 실현 가능하다는 것을 확인했다.
• 합성 데이터셋과 미세조정된 모델을 오픈소스로 제공함으로써, 의미 기반 생성 설계 분야의 재현 가능성과 추가 연구를 가능하게 했다.
• 결과적으로 LLMs가 반복 워크플로우(예: 품질 다각도 최적화)에 통합될 경우, 설계 탐색을 위한 강력하고 확장 가능하며 접근 용이한 생성 도구로 활용될 수 있음을 시사한다.