멀티모달 감정 분석
상담 음성과 텍스트를 결합한 감정 분석
배경
상담 내용을 분석하는 제품에서 감정 분석 모듈을 맡았습니다.
문제
상담 내용의 감정 분석에서 텍스트만으로는 어조·억양에 담긴 정서 신호가 빠져 분석 결과를 신뢰하기 어려웠습니다.
해결 과정
- 텍스트 모델을 더 키우는 대신, 빠진 신호를 되살리는 쪽을 택함 — 어조·억양은 텍스트에 애초에 없는 정보라 모델 규모로는 회복되지 않는다고 판단
- 음성 데이터를 추가 모달로 결합하는 end-to-end 추론 구조 설계
- 세분화된 감정 표현을 위해 fine-grained 감정 분류 아키텍처 도입
- 멀티모달 전처리 파이프라인 및 BentoML 기반 실시간 추론 서버 구축
결과
- 기존 텍스트 기반 모델 대비 F1-score 10% 향상
임팩트
텍스트만 볼 때 놓치던 정서 신호가 분석에 반영됩니다.