LangChain이란?

---

AI 기본 용어 정리

 

LangChain을 훑어가기 앞서, 나는 LLM = LangChain = AI라고 생각할 정도로 AI에 대해 잘 몰랐다. 그래서 AI를 공부하겠답시고 LangChain 강의를 들었는데... 전혀 다른 개념이었다. 나 같은 사람이 생기기 전에 일단은 LLM, LangChain, RAG 등 'AI 얘기하다 보면 많이 이야기되는 AI 용어들'을 한번 짚고 넘어가 보겠다.

 

AI

• = Artificial Intelligence, 인공지능
• 계산 시스템이 학습, 추론, 문제 해결, 의사결정 등 인간의 지능과 연관된 작업을 수행할 수 있는 능력

 

LLM

• = Large Language Model, 대규모 언어 모델
• 자연어 이해 및 생성에 특화된 모델로, 인공지능의 일종
• 대규모 데이터를 스스로 학습하는 방식으로 학습한 언어 모델
• 생성형 AI 시스템의 핵심 엔진으로 활용됨 (ex: GPT-4, LLAMA 등등)
• 프롬프트: LLM에 지시하는 명령문

 

ChatGPT

• GPT: OpenAI에서 개발한 LLM의 한 종류
• LLM을 활용한 실제 서비스의 대표 사례
• 사람과 유사한 대화, 질문 응답, 글쓰기 지원 등 다양한 언어 생성 작업 수행

 

ChatGPT의 한계

2년 전 유튜브 영상에서 나온 이야기라 지금과는 많이 다를 수 있다.

• 예전 데이터에 대한 학습의 결과 (= 인터넷 검색 등을 통한 최신 데이터 검색이 불가능)
• 토큰 제한 존재
• 할루시네이션 현상 - AI가 엉뚱한 대답을 하거나 거짓말을 하는 현상

 

한계를 극복하기 위한 해결책들

• n-shot learning: 새로운 작업을 학습할 때 소수의 예시(n개)만 보고도 그 작업을 수행할 수 있게 하는 학습 방식
• fine-tuning: 기존 딥러닝 모델의 가중치를 새로운 데이터셋에 맞게 다시 학습시키는 과정 (=모델의 재학습 필요)
• in-context learning: 입력 프롬프트에 주어진 문맥 기반으로 적절한 출력을 생성하는 방식

=> LangChain을 활용하면 이런 해결책들을 손쉽게 적용할 수 있어, LLM 활용도를 더 끌어올릴 수 있다.

 

 

LangChain

• LLM 기반 에이전트와 애플리케이션 개발을 지원하는 프레임워크
• 기능
  
  • 데이터 인식: 언어 모델과 데이터 소스 연결
  • 에이전트 기능: 언어 모델과 환경의 상호작용에 도움
• => 언어모델을 더 잘 활용할 수 있게 만드는 도구

💡 함께 보면 좋은 이야기 - LangChain과 Spring AI는 뭐가 다른가요?
- Spring AI는 LangChain과 같은 LLM 기반 애플리케이션 개발을 지원하는 프레임워크의 일종.
- python 진영에 LangChain이 있다면, java 진영에는 Spring AI가 있음.
- Spring AI는 스프링 애플리케이션에 AI 기능을 통합할 수 있는 구조 제공하며, 자세한 내용은 공식 사이트 참조.

Spring AI

 

 

RAG

• = Retrieval Augmented Generation, 검색 증강 생성
• 외부 데이터를 참조하여 LLM의 정확도와 신뢰성 향상에 도움을 주는 기술

자세한 내용은 별도 포스팅으로 정리했다.

RAG란? 수정중

 

 

 

---

LangChain 더 알아보기

 

 

기존에는 LangChain의 코어 컴포넌트가 크게 prompt, index, memoery, chain, agent 같이 나뉘었지만, 구조가 계속 개편되는 것으로 보인다. 굉장히 빠른 속도로 크게 변하는 것 같아서 LangChain Docs(공식문서) 참고를 추천한다. (아래는 2025.11 권장 기준)

 

Agents

• LLM과 도구(tools)를 활용하여, 작업을 해결할 방법을 스스로 판단하고 반복 실행하는 시스템
• 목표를 달성하기 위해 루프 내에서 도구(tools)를 실행

출처: LangChain Docs

 

Models

• LLM이 사람처럼 텍스트를 이해하고 생성할 수 있게 하는 역할
• Agent의 추론 엔진 역할 - 어떤 도구를 사용할지, 어떻게 결과를 해석할지 등의 의사 결정 과정을 주도

 

Messages

• LLM과 주고받는 입력 및 출력의 기본 형식
• 컨텐츠와 메타데이터 등 대화 내용과 관련된 정보를 포함

 

Tools

• Agent가 외부 시스템과 상호작용할 수 있게 만들어 실제 행동을 수행할 수 있게 하는 기능
• ex: 인터넷 검색, 계산  수행, DB 조회 등

 

Short-term memory

• 최근 대화의 내용을 기억하고 참고할 수 있게 해주는 시스템
• 모델이 이전 문맥(context)을 활용해 연속적인 처리나 대화를 이어나갈 수 있게 함

 

Streaming

• 완벽한 응답이 준비되기 전에, 점진적으로 작은 단위로 출력할 수 있게 함
• 사용자에게 실시간 업데이트 제공

 

Middleware

• Agent 내부에서 발생하는 일 제어
• 작업 흐름의 시작/끝에 삽입되어 특정 로직을 수행하는 인터셉터(interceptor) 역할

 

Structured output

• 자유로운 텍스트 대신 특정 형식에 맞춰 응답하도록 강제
• ex: json 객체, Pydantic 모델 등

 

🔻 기존의 코어 컴포넌트

Prompt

• LLM에 지시하는 명령문
• example selectors: 예제 지정
• output parsers: 원하는 형식 지정

Prompt Template

• 반복적으로 사용할 수 있는 프롬프트의 구조화된 형태
• 일부만 입력하고도 원하는 결과를 유도할 수 있는, 프롬프트의 함수화 같은 역할
• 사용자가 긴 프롬프트를 입력하는 부담을 줄여줌
• prompt template: 일반적인 프롬프트 템플릿
• chat prompt template: 채팅에 특화된 프롬프트 템플릿

few shot

• 딥러닝 모델에게 예시 결과물을 제공하여, 내가 원하는 결과를 말할 수 있도록 유도하는 방법론
• LangChain에서는 프롬프트와 함께 예제를 넘기는, FewShotPromptTemplate 등이 제공됨

example selector

• 여러 few shot 예제 중에 동적으로 상황에 맞는 적절한 예시를 선택
• LLM에게 다양한 일을 시킬 때, 모든 예시를 한 번에 넣으면 프롬프트가 굉장히 길어짐.
  example selector를 활용해, 관련 있는 예시 몇 개만 골라서 원하는 범위의 답을 하도록 도움.

Output parser

• LLM이 출력하는 형태를 내가 원하는 형태로 고정

 

Index

• LLM의 문서 탐색을 돕는 구성 요소
• ex: Document Loaders, Text Splitters, Vector stores, …

 

Memory

• 이전 상호작용에 대한 정보를 기억하는 시스템
• 대화나 작업의 문맥을 저장해 이후 LLM 호출 시 이전 내용을 참고할 수 있게 함

 

Chain

• 여러 LLM 호출이나 도구 호출을 순차적으로 연결해, 하나의 작업 흐름으로 만듦
• Memory랑은 다른 개념. Memory는 대화의 문맥을 기억하고, Chain은 작업을 연결한다.

 

Agents

• LLM이 스스로 어떤 도구를 사용할지 판단하고, 외부 작업을 수행하도록 하는 구성 요소
• ex: 인터넷 검색, 쿼리 조회 결과를 불러오게 한다, 등

---

출처 및 참고

• 모두의AI님 유튜브 - LangChain 뿌시기
  • Langchain이 뭘까
  • LLM 초간단 설명
  • PromptTemplate, LLM 프롬프트 입력을 더 편하게
•  위키
  • https://en.wikipedia.org/wiki/Artificial_intelligence
  • https://en.wikipedia.org/wiki/Large_language_model
• https://docs.langchain.com/oss/python/langchain/overview
• https://blogs.nvidia.com/blog/what-is-retrieval-augmented-generation/?utm_source=chatgpt.com