[논문 리뷰] Market Concentration Implications of Foundation Models

Jai Vipra, Anton Korinek|arXiv (Cornell University)|2023. 11. 02.

Innovation Policy and R&D인용 수 5

한 줄 요약

이 논문은 ChatGPT를 구동하는 것과 같은 대규모 AI 시스템인 기초 모델의 시장 구조를 분석하며, 높은 확장성과 광범위한 적용 가능성으로 인해 가장 능력 있는 모델들이 자연적 독점에 기여할 가능성이 있음을 주장한다. 이는 경쟁 가능성을 보장하기 위해 수평적 통제를 강화하고, 안전성, 개인정보 보호, 차별 금지 등의 의무적 품질 기준을 설정함으로써 사회적 복지를 확보하는 双중 규제 프레임워크를 제안한다. 이와 동시에 AI 부문과 비AI 부문 간의 균형을 유지한다.

ABSTRACT

We analyze the structure of the market for foundation models, i.e., large AI models such as those that power ChatGPT and that are adaptable to downstream uses, and we examine the implications for competition policy and regulation. We observe that the most capable models will have a tendency towards natural monopoly and may have potentially vast markets. This calls for a two-pronged regulatory response: (i) Antitrust authorities need to ensure the contestability of the market by tackling strategic behavior, in particular by ensuring that monopolies do not propagate vertically to downstream uses, and (ii) given the diminished potential for market discipline, there is a role for regulators to ensure that the most capable models meet sufficient quality standards (including safety, privacy, non-discrimination, reliability and interoperability standards) to maximally contribute to social welfare. Regulators should also ensure a level regulatory playing field between AI and non-AI applications in all sectors of the economy. For models that are behind the frontier, we expect competition to be quite intense, implying a more limited role for competition policy, although a role for regulation remains.

연구 동기 및 목표

• 기초 모델의 시장 구조와 경쟁 정책에 대한 영향을 검토하기 위해.
• 높은 능력을 지닌 AI 모델에서 자연적 독점 경향을 특정하기 위해.
• 선도적 AI 모델에 대한 시장 경쟁 가능성과 최소 품질 기준을 동시에 다루는 규제 프레임워크를 제안하기 위해.
• 경제 부문 전반에서 AI 기술와 비AI 기술 간 공정한 대우를 확보하기 위해.
• 성능 최전선에 위치한 모델에 대한 경쟁 정책과 규제의 역할을 평가하기 위해.

제안 방법

• 확장성, 적응 가능성, 네트워크 효과를 포함한 기초 모델의 경제적 특성 분석.
• 높은 고정비용과 낮은 변동비용의 복제 특성으로 인해 자연적 독점에 기여할 수 있는 시장 모델링.
• 하류 애플리케이션에서의 경쟁을 차단할 수 있는 수직 통합을 방지하기 위한 반독점 정책 개입 제안.
• 선도적 모델에 대해 사전 규제 기준(안전성, 개인정보 보호, 신뢰성, 상호운용성)을 도입할 것을 주장.
• AI와 비AI 기술 간 규제 대우를 비교하여 균형 잡힌 경쟁 환경 조성.
• 선도적 AI 시스템에 대한 정책 권고를 틀로 삼기 위해 이론적 산업조직 원리를 적용.

실험 결과

연구 질문

• RQ1 기초 모델이 자연적 독점에 기여할 수 있는 구조적 시장 역학은 무엇인가?
• RQ2 경쟁 정책은 하류 응용 분야로의 독점적 지배가 확산되는 것을 어떻게 방지할 수 있는가?
• RQ3 사회적 복지를 극대화하기 위해 규제 기관은 가장 능력 있는 기초 모델에 대해 어떤 품질 기준을 적용해야 하는가?
• RQ4 규제 기관은 모든 경제 부문에서 AI와 비AI 기술 간 균형을 어떻게 확보할 수 있는가?
• RQ5 경쟁이 치열한 성능 최전선에 위치한 모델에 대해 규제는 어떤 역할을 하는가?

주요 결과

• 가장 능력 있는 기초 모델는 높은 확장성과 낮은 배포 변동비용으로 인해 자연적 독점 경향을 뚜렷이 보인다.
• 개입이 없을 경우 지배적 모델은 하류 응용 분야로의 수직 통합을 통해 경쟁을 차단할 수 있다.
• 신규 진입자를 차단하는 전략적 행동을 방지함으로써 규제 기관은 시장의 경쟁 가능성을 확보해야 한다.
• 안전성, 개인정보 보호, 차별 금지, 신뢰성, 상호운용성 등을 포함한 의무적 품질 기준은 선도적 모델에 필수적이다.
• AI와 비AI 기술 간 균형 잡힌 규제 환경은 부문 간 왜곡을 방지하기 위해 필요하다.
• 최전선에 위치한 모델의 경우 경쟁은 여전히 치열하므로 반독점 조치의 필요성은 감소하지만, 규제의 필요성은 여전히 존재한다.