AI
Gemma 모델과 프롬프트를 활용한 On-Device AI: 에이닷 오토 차량제어 프로토타입
두줄요약
Gemma와 MediaPipe로 차량 제어용 On-Device AI를 프롬프팅만으로 구현한 실험 과정을 공유했습니다. 기본 명령은 잘 처리했지만, area 인식과 응답 일관성 보완을 위해 파인튜닝이 필요했습니다.
핵심 내용
- Gemma 모델과 MediaPipe를 활용해 에이닷 오토 차량제어에 On-Device AI를 적용한 실험 사례
- 서버가 하던 차량 제어 응답 추출을 LLM 프롬프팅으로 대체하고, propertyName·areaName·value를 JSON으로 구조화
- 역할 정의, 속성 설명, value 규칙, few-shot 예시를 단계적으로 보강하며 응답 정확도와 일관성 개선 시도
- 온도 증가/감소, 전원 제어, 좌석·핸들 열선 등에서 비교적 원하는 결과를 얻었지만 area 오인식과 응답 변동성 한계 존재
주의할 점
- 동일 요청에도 상황에 따라 다른 응답이 나오는 LLM 특성
- token size 제약으로 Instruction 확장 한계
- area 정보와 세부 제어값의 오인식 가능성
적용해볼 점
- 간단한 차량 제어 기능부터 부분적으로 On-Device AI 적용
- 프롬프팅만으로 가능한 범위와 한계 먼저 검증
- 상용화 전 파인튜닝과 정확도·성능 평가 선행