AI
생성형 AI를 다루는 기술에 대하여
두줄요약
생성형 AI를 다루기 위한 LLM 원리와 프롬프트 엔지니어링의 핵심을 정리했습니다. 랭체인, RAG, ReAct 같은 확장 방법으로 더 지능적인 애플리케이션을 만드는 방향도 소개했습니다.
핵심 내용
- 생성형 AI를 다루기 위한 기초 개념으로 LLM의 next token prediction 원리와 토큰, system_prompt와 user_prompt의 구분 설명
- 프롬프트 엔지니어링의 핵심 요소로 역할 부여, 간결한 지시, 답변 형식·길이·예시 제시 정리
- 할루시네이션 대응과 확장 도구로 RAG, 파인튜닝, 랭체인, 라마인덱스, ReAct, SequentialChain, Routing 소개
- 랭체인을 통해 외부 도구와 지식 저장소를 연결해 더 지능적인 애플리케이션을 만드는 방향 제시
적용해볼 점
- 프롬프트 작성 시 역할, 형식, 예시를 분리해 설계
- 검증된 자료 기반 응답이 필요하면 RAG와 벡터 DB 활용
- 복잡한 업무는 체인, 라우팅, 외부 도구 연결로 분해해 처리