8. 대화 상태와 메모리

from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage
 
llm = ChatOpenAI(model="gpt-4o-mini")
 
# 첫 번째 질문
response1 = llm.invoke([HumanMessage(content="내 이름은 Alice야")])
print(response1.content)  # 출력: 만나서 반가워요, Alice!
 
# 두 번째 질문 (히스토리 전송 안 함)
response2 = llm.invoke([HumanMessage(content="내 이름이 뭐야?")])
print(response2.content)  # 출력: 죄송하지만 당신의 이름을 모릅니다...

# 사용자가 주제에 대해 질문합니다
response1 = llm.invoke([HumanMessage(content="Python에 대해 알려줘")])
print(response1.content)
# 출력: Python은 가독성으로 유명한 고수준 프로그래밍 언어입니다...
 
# 사용자가 대명사로 후속 질문을 합니다
response2 = llm.invoke([HumanMessage(content="그거 주요 기능은 뭐야?")])
print(response2.content)
# 출력: 기꺼이 도와드리겠습니다! 무엇에 대해 물으시는지 구체적으로 말씀해주시겠어요?

사용자: "주문 번호 #12345에 문제가 있어요"
에이전트: "죄송합니다. 어떤 문제가 있으신가요?"
사용자: "배송 주소가 잘못되었어요"
에이전트: "확인해드리겠습니다. 주문 번호를 알려주시겠어요?"
사용자: "방금 말했잖아요..."

from langchain_core.messages import HumanMessage, AIMessage, SystemMessage
 
# SystemMessage: 모델의 동작에 대한 지침
system_msg = SystemMessage(content="당신은 Python 프로그래밍을 전문으로 하는 도움이 되는 어시스턴트입니다.")
 
# HumanMessage: 사용자 입력
user_msg = HumanMessage(content="Python에서 파일을 읽는 방법은?")
 
# AIMessage: 모델의 응답
# (실제로는 LangChain이 모델 응답을 이 객체로 감싸서 반환 - 여기서는 설명을 위해 직접 작성)
ai_msg = AIMessage(content="`open()` 함수를 컨텍스트 매니저와 함께 사용할 수 있습니다...")

from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, AIMessage, SystemMessage
 
llm = ChatOpenAI(model="gpt-4o-mini")
 
# 대화 내역 구성
# SystemMessage는 모델 지시사항으로 맨 앞에 한 번만 사용
# 그 다음: 사용자 입력 → AI 응답 → 사용자 입력 (자연스러운 대화 흐름)
messages = [
    SystemMessage(content="당신은 간결한 Python 튜터입니다."),
    HumanMessage(content="리스트 컴프리헨션이 뭐야?"),
    AIMessage(content="리스트 컴프리헨션은 리스트를 만드는 간결한 방법입니다: [x*2 for x in range(5)]"),
    HumanMessage(content="더 복잡한 예제를 보여줄 수 있어?")
]
 
# 새 질문과 함께 전체 히스토리 전송
response = llm.invoke(messages)
print(response.content)

물론이죠! 다음은 필터링과 변환을 하는 리스트 컴프리헨션입니다:
[x**2 for x in range(10) if x % 2 == 0]
출력 결과는 다음과 같습니다:
[0, 4, 16, 36, 64]

from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.messages import HumanMessage, AIMessage, SystemMessage
 
# 메시지 히스토리 저장소 생성
history = InMemoryChatMessageHistory()
 
# 여러 메시지를 한 번에 추가
history.add_messages([
    SystemMessage(content="You are a helpful Python tutor."),
    HumanMessage(content="What's a decorator in Python?")
])
 
# 메시지를 하나씩 추가
history.add_message(AIMessage(content="A decorator is a function that modifies another function's behavior..."))
history.add_message(HumanMessage(content="Can you show an example?"))
 
# 모든 메시지 조회
messages = history.messages

from langchain_openai import ChatOpenAI
from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.messages import SystemMessage, HumanMessage
 
llm = ChatOpenAI(model="gpt-4o-mini")
history = InMemoryChatMessageHistory()
 
# 시스템 메시지를 히스토리에 추가 (시작 시 한 번만)
system_msg = SystemMessage(content="You are a helpful Python tutor.")
history.add_message(system_msg)
 
# 대화 함수
def chat(user_input):
    """사용자 입력을 받아 LLM에게 요청하고 대화 내역을 자동으로 관리"""
    # 사용자 입력을 히스토리에 추가
    history.add_message(HumanMessage(content=user_input))
    
    # 사용자 입력을 이전 대화 내역과 함께 전송
    response = llm.invoke(history.messages)
    
    # 모델 응답을 히스토리에 추가
    history.add_message(response)
    
    return response.content
 
# 대화 시뮬레이션
print(chat("What's a lambda function?"))
print(chat("Show me an example"))  # 모델이 맥락 기억
print(chat("What's the difference from a regular function?"))  # 여전히 기억

A lambda function is an anonymous function defined with the lambda keyword...
 
Here's an example: square = lambda x: x**2
You can use it like: square(5) # Returns 25
 
Lambda functions are limited to a single expression, while regular functions...

# chapter3_cli.py (원본 - 상태 비저장)
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage
 
llm = ChatOpenAI(model="gpt-4o-mini")
 
def chat_loop():
    print("채팅이 시작되었습니다. 종료하려면 'quit'을 입력하세요.\n")
    while True:
        user_input = input("You: ")
        if user_input.lower() == "quit":
            break
        
        # 상태 비저장 - 히스토리 없음
        response = llm.stream([HumanMessage(content=user_input)])
        print("AI: ", end="", flush=True)
        for chunk in response:
            print(chunk.content, end="", flush=True)
        print("\n")
 
if __name__ == "__main__":
    chat_loop()

# chapter8_cli.py (메모리 포함)
from langchain_openai import ChatOpenAI
from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.messages import SystemMessage, HumanMessage, AIMessage
 
llm = ChatOpenAI(model="gpt-4o-mini")
 
def chat_loop():
    print("채팅이 시작되었습니다. 종료하려면 'quit'을 입력하세요.\n")
    
    # 히스토리 생성 및 시스템 메시지 추가
    history = InMemoryChatMessageHistory()
    history.add_message(SystemMessage(content="당신은 도움이 되는 어시스턴트입니다."))
    
    while True:
        user_input = input("You: ")
        if user_input.lower() == "quit":
            break
        
        # 히스토리에 사용자 메시지 추가
        history.add_message(HumanMessage(content=user_input))
        
        # 응답 스트리밍
        print("AI: ", end="", flush=True)
        full_response = ""
        for chunk in llm.stream(history.messages):
            print(chunk.content, end="", flush=True)
            full_response += chunk.content
        print("\n")
        
        # 히스토리에 AI 응답 추가
        history.add_message(AIMessage(content=full_response))
 
if __name__ == "__main__":
    chat_loop()

채팅이 시작되었습니다. 종료하려면 'quit'을 입력하세요.
 
You: 내 이름은 Alice야
AI: 만나서 반가워요, Alice! 오늘 어떻게 도와드릴까요?
 
You: 내 이름이 뭐야?
AI: 당신의 이름은 Alice입니다.
 
You: 방금 뭘 물어봤어?
AI: 당신의 이름이 무엇인지 물어보셨습니다.
 
You: quit

# [개발] 로컬 인메모리
# from langchain_core.chat_history import InMemoryChatMessageHistory
# history = InMemoryChatMessageHistory()
 
# [프로덕션] PostgreSQL 영구 저장소
import psycopg
from langchain_postgres import PostgresChatMessageHistory
 
# PostgreSQL 연결 생성
sync_connection = psycopg.connect(
    "postgresql://user:password@10.1.1.100:5432/agent_db",
    autocommit=True,
)
 
# DB 연결과 세션 ID 지정
# session_id: 대화를 구분하는 고유 키
#   - 사용자별 대화 관리: session_id = user_id (사용자당 하나의 대화)
#   - 세션별 대화 관리: session_id = uuid (새 대화마다 새 ID 생성)
history = PostgresChatMessageHistory(
    table_name="chat_history",
    session_id="user_123",
    sync_connection=sync_connection
)
 
# --- 저장소 종류와 상관없이 동일한 인터페이스 사용 ---
history.add_message(HumanMessage(content="지난번 주문 내역을 알려줘."))
print(history.messages)

import tiktoken
from langchain_core.messages import BaseMessage, HumanMessage, AIMessage, SystemMessage
from langchain_core.messages.utils import trim_messages
 
# 모델에 맞는 토크나이저 가져오기 (모델 패밀리마다 다른 토크나이저 사용)
# 사용하는 모델명을 입력하면 해당 모델에 맞는 토크나이저가 반환됨
# Claude 모델: Anthropic의 토크나이저 사용 (tiktoken은 OpenAI 전용 라이브러리)
enc = tiktoken.encoding_for_model("gpt-4o")
 
def token_counter(msg: BaseMessage) -> int:
    """단일 메시지의 토큰 수 계산."""
    return len(enc.encode(msg.content or ""))
 
# 대화 내역 생성
messages = [
    SystemMessage(content="You are a helpful assistant."),
    HumanMessage(content="Hi!"),
    AIMessage(content="Hello! How can I help?"),
    HumanMessage(content="What's 2+2?"),
    AIMessage(content="2+2 equals 4."),
    HumanMessage(content="What's 3+3?"),
    AIMessage(content="3+3 equals 6."),
    HumanMessage(content="What's 4+4?"),
]
 
# 최대 토큰 수 이내에 포함되는 메시지만 유지
trimmed = trim_messages(
    messages,
    max_tokens=30,
    token_counter=token_counter,
    include_system=True,
)
 
print(f"원본: {len(messages)}개 메시지")
print(f"트리밍 후: {len(trimmed)}개 메시지")
for m in trimmed:
    print(f"{type(m).__name__}: {m.content}")

import tiktoken
from langchain_openai import ChatOpenAI
from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.messages import SystemMessage, HumanMessage, BaseMessage
from langchain_core.messages.utils import trim_messages
 
llm = ChatOpenAI(model="gpt-4o-mini")
history = InMemoryChatMessageHistory()
enc = tiktoken.encoding_for_model("gpt-4o-mini")
 
def token_counter(msg: BaseMessage) -> int:
    """단일 메시지의 토큰 수 계산."""
    return len(enc.encode(msg.content or ""))
 
def chat_with_trimming(user_input: str, max_tokens: int = 1000) -> str:
    """자동 히스토리 트리밍이 적용된 채팅."""
    history.add_message(HumanMessage(content=user_input))
    
    system_msg = SystemMessage(content="You are a helpful assistant.")
    all_messages = [system_msg] + history.messages
    
    # 최대 토큰 수 이내로 트리밍
    trimmed_messages = trim_messages(
        all_messages,
        max_tokens=max_tokens,
        token_counter=token_counter,
        include_system=True,
    )
    
    response = llm.invoke(trimmed_messages)
    history.add_message(response)
    
    return response.content
 
# 사용 예시
print(chat_with_trimming("I'm planning a trip to Japan"))
print(chat_with_trimming("What should I visit in Tokyo?"))
print(chat_with_trimming("How many days should I spend there?"))
# 히스토리가 계속 쌓여도 최대 토큰 수 이내에 포함되는 최근 대화만 LLM에 전송됨