[논문 리뷰] Offline-First Large Language Model Architecture for AI-Assisted Learning with Adaptive Response Levels in Low-Connectivity Environments

Joseph Walusimbi, Ann Move Oguti외 2명|arXiv (Cornell University)|2026. 02. 14.

AI in Service Interactions인용 수 0

한 줄 요약

본 논문은 저사양 기기에서 로컬로 추론을 실행하는 오프라인-퍼스트 LLM 아키텍처를 제시하며, 저연결 환경에서 AI 보조 학습을 위한 적응형 응답 수준을 제공합니다.

ABSTRACT

Artificial intelligence (AI) and large language models (LLMs) are transforming educational technology by enabling conversational tutoring, personalized explanations, and inquiry-driven learning. However, most AI-based learning systems rely on continuous internet connectivity and cloud-based computation, limiting their use in bandwidth-constrained environments. This paper presents an offline-first large language model architecture designed for AI-assisted learning in low-connectivity settings. The system performs all inference locally using quantized language models and incorporates hardware-aware model selection to enable deployment on low-specification CPU-only devices. By removing dependence on cloud infrastructure, the system provides curriculum-aligned explanations and structured academic support through natural-language interaction. To support learners at different educational stages, the system includes adaptive response levels that generate explanations at varying levels of complexity: Simple English, Lower Secondary, Upper Secondary, and Technical. This allows explanations to be adjusted to student ability, improving clarity and understanding of academic concepts. The system was deployed in selected secondary and tertiary institutions under limited-connectivity conditions and evaluated across technical performance, usability, perceived response quality, and educational impact. Results show stable operation on legacy hardware, acceptable response times, and positive user perceptions regarding support for self-directed learning. These findings demonstrate the feasibility of offline large language model deployment for AI-assisted education in low-connectivity environments.

연구 동기 및 목표

• 대역폭 제약 환경에서 클라우드 기반 AI가 비실용적일 때 AI 보조 학습을 촉진합니다.
• CPU 전용 하드웨어에서 양자화된 언어 모델을 사용하는 오프라인-퍼스트 추론 아키텍처를 제안합니다.
• 학습자의 능력에 맞춘 적응형 응답 수준으로 커리큘럼에 맞춘 설명을 가능하게 합니다.
• 제한된 연결 조건에서 성능, 사용성 및 교육적 영향력을 평가합니다.

제안 방법

• 클라우드 의존성을 제거하기 위해 로컬 추론이 가능한 양자화된 언어 모델을 사용합니다.
• 저사양 기기 배치를 위한 하드웨어 인식 모델 선택을 통합합니다.
• 단순 영어, 중하위 학년, 상위 학년 및 기술 수준에 맞춘 설명으로 조정되는 적응형 응답 수준을 제공합니다.
• 자연어 상호작용을 통해 커리큘럼에 맞춘 설명을 제공합니다.
• 현실 세계 환경에서 기술 성능, 사용성, 응답 품질 인식 및 교육적 영향을 평가합니다.

실험 결과

연구 질문

• RQ1 오프라인-퍼스트 LLM 아키텍처가 저연결 환경에서 구식 하드웨어에서 안정적인 추론과 허용 가능한 대기 시간을 제공할 수 있습니까?
• RQ2 적응형 응답 수준이 다양한 교육 단계에서 명확성과 이해도를 향상합니까?
• RQ3 제한된 연결에서 중·고등교육과 고등교육의 자기주도 학습에 대한 오프라인 LLM 배치의 영향은 무엇입니까?

주요 결과

• 시스템은 구식 하드웨어에서 클라우드 접근 없이 안정적으로 작동합니다.
• 제한된 연결에서 교육용으로 허용 가능한 응답 시간입니다.
• 사용자는 이 시스템이 자기주도 학습에 도움이 된다고 인식합니다.
• 이 접근법은 저연결 환경에서 AI 보조 교육을 위한 오프라인 LLM 배치의 가능성을 보여줍니다.