AI
On-device로 작동하는 SLM기반 Voice-Phishing 탐지 모델을 만들어보자!
두줄요약
온디바이스에서 SLM으로 보이스 피싱을 탐지하는 구현 흐름을 소개했습니다. STT, LoRA 학습, 양자화, 모바일 구동까지의 절차와 한계를 함께 정리했습니다.
핵심 내용
- 온디바이스에서 동작하는 SLM으로 보이스 피싱 대화를 판별하는 구현 흐름 정리
- 음성 입력은 STT로 텍스트화하고, 텍스트 분류용 SLM이 "예/아니오"로 판단하는 구조
- 개인정보 보호 이점과 함께, 제한된 리소스와 상대적으로 낮은 성능의 한계 언급
구조와 흐름
- 음성 데이터 확보 어려움으로 텍스트 데이터 중심 학습 전개
- 보이스 피싱 데이터와 일반 데이터를 라벨링해 LoRA 방식으로 학습
- 학습된 모델을 base model과 merge 뒤 mlc_llm로 변환·패키징해 모바일에서 구동
주의할 점
- LoRA adapter 미지원으로 base model 병합 과정 필요
- 4bit 양자화 시 모델 크기 감소와 정확도 저하 가능성 동시 고려
- MLCChat 및 플랫폼 조합은 실서비스용 정식 릴리스 여부 확인 필요