260709_강의 정리 (Transformer 구조와 LLM)

 

deep learning · llm

Transformer 구조와 LLM Agent 생태계 정리

• Encoder-only(BERT)와 Decoder-only(GPT) 구조의 차이와 GPT-3의 실제 스케일
• Agent와 Agentic의 개념 구분, Agent를 구성하는 핵심 요소
• LangChain · LangGraph · LlamaIndex 3종 프레임워크의 역할 비교

🧩

1. Transformer 구조 복습 — Encoder vs Decoder

"같은 Transformer인데 왜 BERT는 이해를 잘하고 GPT는 생성을 잘할까" — 구조를 반쪽만 쓰느냐의 차이임

• Transformer는 원래 Encoder와 Decoder가 함께 있는 구조로 설계됨
• Encoder-only 모델(BERT): 문장 전체를 양방향으로 한 번에 읽어 문맥을 파악 → 분류, 검색, 임베딩 생성에 강함
• Decoder-only 모델(GPT): 왼쪽에서 오른쪽으로 순차적으로 다음 단어를 예측 → 텍스트 생성에 특화됨

💡 새 개념

Encoder / Decoder Encoder / Decoder

• Encoder는 입력을 양방향으로 이해하는 역할, Decoder는 출력을 순차적으로 만들어내는 역할

Encoder는 "책 한 권을 다 읽고 이해하는 독자", Decoder는 "한 글자씩 이어 쓰는 작가"에 비유됨

GPT-3의 스케일 d_model, layers, heads

• 파라미터 수: 약 1,750억 개
• hidden dimension(d_model): 12,288 — 단어 하나가 12,288차원 벡터로 표현됨
• 레이어 수: 96개, attention head: 96개(head당 128차원)

→ d_model = 12,288 은 GPT-3가 각 단어를 얼마나 "풍부한 벡터"로 표현하는지를 나타내는 수치

정리
· 같은 Transformer 구조라도 Encoder만 쓰느냐 Decoder만 쓰느냐에 따라 모델의 특기가 갈림
· GPT-3의 압도적인 스케일(12,288차원 × 96레이어)이 오늘날 LLM Agent가 가능해진 기반이 됨

🤖

2. LLM Agent란 무엇인가

"한 번 물어보고 한 번 답하는 것"과 "알아서 계획하고 스스로 고쳐가며 일하는 것"의 차이임

• Agent(에이전트): 역할·목표·도구(Tools)를 가지고 스스로 작업을 수행하는 독립적인 소프트웨어 시스템
• 일반 LLM 호출과 달리 계획 → 실행 → 검토 → 수정을 여러 단계에 걸쳐 스스로 반복하는 자율적 프로세스를 가짐
• Agent vs Agentic: Agent는 자율 작업을 수행하는 시스템 자체를 가리키고, Agentic은 그 시스템이 "얼마나 자율적으로 계획·판단·행동하는지"의 성질을 가리킴

💡 새 개념

Agent의 3요소 Role · Tools · Memory

• Role/Goal — 무엇을, 왜 하는지에 대한 정의
• Tools — 외부 API, 검색, 코드 실행 등 실제 행동 수단
• Memory — 이전 상호작용이나 중간 결과를 기억하는 저장소

→ 세 요소가 있어야 Agent가 "한 번의 답변"이 아니라 "여러 단계짜리 작업"을 이어갈 수 있음

RAG Retrieval-Augmented Generation

• LLM이 답변을 만들기 전에 외부 데이터를 먼저 검색하고, 그 내용을 근거로 답을 생성하는 방식

→ 시험 볼 때 책을 펼쳐놓고 답을 쓰는 오픈북 방식에 가까움 — LLM이 학습하지 않은 최신 정보나 사내 문서 기반 답변에 필수적

계획

→

실행

→

검토

→

수정

🛠️

3. Agent 프레임워크 3종 비교

셋은 경쟁 관계가 아니라 서로 다른 레이어를 담당하는 도구임

LangChain

범용 Agent 개발 플랫폼

"이 모듈이 하는 일을 한 문장으로" — Agent + Tools + Memory + RAG를 자유롭게 조합하는 재료 서랍

• Agent, Tools, Memory, RAG를 자유롭게 조합해 구성 가능
• 커버 범위가 가장 넓은 대신, 복잡한 흐름을 세밀하게 제어하는 기능은 상대적으로 약함

LangGraph

상태머신형 Agent 흐름 관리 도구

"이 모듈이 하는 일을 한 문장으로" — Agent의 작업 흐름을 그래프로 그려 순서와 반복을 명시적으로 통제

• Graph(노드와 엣지) — 작업 단계를 노드로, 단계 간 연결을 엣지로 표현
• State(상태 관리) — 단계마다 데이터와 진행 상황을 유지
• Cycles(순환 루프) — 조건에 따라 이전 단계로 되돌아가는 반복 처리 가능

LlamaIndex

RAG 전용 프레임워크

"이 모듈이 하는 일을 한 문장으로" — 데이터의 검색·인덱싱에 집중해 RAG 성능을 극대화

• 데이터의 검색, 인덱싱을 통해 RAG 성능 극대화가 목표
• 인덱스 종류: Vector(벡터 유사도), Tree(계층적 요약), Summary(요약 기반), Keyword(키워드 매칭)

구분	주 용도	강점	대표 사용 시점
LangChain	Agent 전체 뼈대 구성	가장 넓은 범용성, 다양한 조합	Agent 시스템을 처음부터 구성할 때
LangGraph	작업 흐름 제어	분기·반복이 많은 흐름을 명시적으로 관리	Agent 로직이 복잡해지고 순환 처리가 필요할 때
LlamaIndex	데이터 검색/인덱싱	RAG 성능 최적화에 특화	외부 문서 기반 검색·질의응답이 핵심일 때

선택 기준
· LangChain은 전체 뼈대, LangGraph는 흐름 제어, LlamaIndex는 데이터 검색 담당으로 함께 조합해서 쓰는 경우가 많음
· 단순한 챗봇 수준이면 LangChain만으로 충분하지만, 흐름이 복잡해지면 LangGraph를, 문서 기반 검색이 핵심이면 LlamaIndex를 추가로 결합함