개요
학생의 영어 발표를 AI로 자동 평가하는 시스템을 개발했습니다. Azure ML 기반 추론 시스템을 설계·배포·운영했으며, 월간 약 3만 명 학생의 발표 평가에 활용되었습니다.
아키텍처
발표태도 평가 데모
MediaPipe 랜드마크를 입력으로 사용해 발표자의 시선, 자세, 움직임을 분석하고 발표 태도를 평가합니다.
시선 방향 추적

손 제스처 인식

주요 성과
- [MLOps] Azure ML Endpoint와 Blob Storage 기반 추론 파이프라인을 설계·배포·운영하여 월간 약 3만 명 학생의 발표 평가에 활용
- [LLM Agent] 해외 평가 탐색을 위해 학생·평가자 에이전트로 학년과 수준에 맞는 합성 영어 작문을 생성·평가
- [Audio] NVIDIA Parakeet STT를 파인튜닝해 비원어민 어린이 음성의 WER을 9.6%에서 4.4%로 감소
- [Vision] MediaPipe 기반 시선·자세 평가 모델이 검증 데이터에서 정확도 98.32%, F1 98.77%를 기록하고 CPU 추론에 맞게 구성
- [Vision] 개발 단계 GPU 비용 절감을 위해 양자화 이미지 생성 모델을 사용하고, 아동 서비스에 AWS 이미지 안전성 판별과 초기 운영자 검수를 적용
- [Search] BM25와 벡터 검색을 결합해 동일 품질 기준의 내부 로그 평가에서 LLM 호출을 최대 약 20% 절감
기술 스택
- Cloud: Azure ML, Blob Storage, AWS Image Moderation
- Frameworks: PyTorch, HuggingFace, LangGraph
- Models: Quantized Diffusion, NVIDIA Parakeet, MediaPipe
- Serving: FastAPI, ONNX
- Search: Hybrid Search (BM25 + Vector)