전체 작업

멀티모달 감정 분석

상담 음성과 텍스트를 결합한 감정 분석

TebahSoft2023.03 – 2023.075개월

배경

상담 내용을 분석하는 제품에서 감정 분석 모듈을 맡았습니다.

문제

상담 내용의 감정 분석에서 텍스트만으로는 어조·억양에 담긴 정서 신호가 빠져 분석 결과를 신뢰하기 어려웠습니다.

해결 과정

  1. 텍스트 모델을 더 키우는 대신, 빠진 신호를 되살리는 쪽을 택함 — 어조·억양은 텍스트에 애초에 없는 정보라 모델 규모로는 회복되지 않는다고 판단
  2. 음성 데이터를 추가 모달로 결합하는 end-to-end 추론 구조 설계
  3. 세분화된 감정 표현을 위해 fine-grained 감정 분류 아키텍처 도입
  4. 멀티모달 전처리 파이프라인 및 BentoML 기반 실시간 추론 서버 구축

결과

  • 기존 텍스트 기반 모델 대비 F1-score 10% 향상

임팩트

텍스트만 볼 때 놓치던 정서 신호가 분석에 반영됩니다.

사용 기술

PythonPyTorchStreamlitBentoML
다음 작업상담 요약 및 화자 분리실서비스 반영