LLM 기반 Chat application framework ＇Aide＇ 개발기

핵심 내용

• LLM 기반 대화형 애플리케이션의 복잡성을 줄이기 위한 자체 프레임워크 Aide 소개
• OpenAI API 기반으로 멀티턴 대화, Tool 호출, Workflow 추상화, 계층적 구조를 지원
• LLM Workflow와 Predefined Workflow를 분리해 유연한 대화 처리와 구조화된 처리 병행
• 협업 효율, 확장성, LLM 커스터마이즈 집중을 위한 프레임워크 설계 방향 정리

구조와 흐름

• Agent가 User Context와 Conversation Context를 바탕으로 적합한 Workflow 선택
• LLM Workflow는 히스토리 참조, tool_calls 처리, 후처리로 멀티턴 대화 구성
• Predefined Workflow는 Step 단위로 엔티티를 파악하며 명확한 질의에 효율적으로 대응

적용해볼 점

• 대고객 LLM 서비스에서 코드와 LLM 로직의 뒤섞임을 줄이기 위한 추상화 필요
• 대화형 에이전트와 업무용 도구를 분리한 설계로 재사용성과 유지보수성 강화 가능
• 향후 패키징과 인터페이스 고도화를 통해 외부 공개 가능한 프레임워크로 확장 여지