본문 바로가기

Langchain6

Retrieval-Augmented Generation(RAG) 설명 Retrieval-Augmented Generation(RAG): 아키텍처, 변형, 실전 적용 전략Retrieval-Augmented Generation(RAG)은 대규모 언어 모델(LLM)과 외부 지식 검색 시스템을 결합한 하이브리드 접근 방식입니다. 기존의 LLM이 내부 파라미터에 내재된 지식에 의존하는 반면, RAG는 외부 소스를 동적으로 참조하여 보다 정확하고 사실 기반의 응답을 생성할 수 있게 합니다. 이 과정에서 가장 핵심적인 역할을 수행하는 기술이 벡터 데이터베이스 기반의 문서 검색입니다.가장 간단한 형태의 RAG는 생성형 AI를 사용하는 사용자가 특정한 도메인 지식을 참고하기 위해 URL 정보나 PDF 파일과 같은 외부 자료를 직접 프롬프트에 첨부하여 질문하는 방식이라고 볼 수 있습니다. .. 2025. 5. 8.
LangChain으로 Google Gemini API 쉽게 연동하는 방법 LangChain이란 무엇이며, 왜 사용해야 할까요?LangChain은 대규모 언어 모델(LLM)을 활용한 애플리케이션 개발을 간소화하는 오픈 소스 프레임워크입니다. OpenAI, Gemini(구글), Anthropic 등 다양한 LLM을 구조화하고, 도구 및 메모리 기능을 추가하여 챗봇, 가상 비서, 에이전트, AI 기반 소프트웨어 등 실제 응용 프로그램을 구축할 수 있도록 지원합니다.LLM 프로젝트에 LangChain을 사용하는 이유는 무엇인가요?체인 가능한 구성 요소: 프롬프트, LLM, 도구, 메모리를 결합하여 파이프라인을 쉽게 구축할 수 있습니다.다중 모델 지원: Gemini, OpenAI, Anthropic, Hugging Face 등 다양한 모델과 호환됩니다.내장 템플릿: 프롬프트를 효과적으.. 2025. 5. 8.
LangChain, FAISS, Gemini 임베딩을 활용한 벡터 DB 저장 및 검색 방법 LangChain, FAISS, Gemini 임베딩을 활용한 벡터 DB 저장 및 검색 방법대규모 언어 모델(LLM)을 기반으로 한 RAG(Retrieval-Augmented Generation) 시스템을 구축할 때, 벡터 데이터베이스의 효율적인 저장 및 검색은 핵심 요소입니다. 본 가이드에서는 LangChain, FAISS, Google Gemini 임베딩을 활용하여 문서 임베딩을 저장하고 의미적으로 유사한 정보를 검색하는 전문적인 Python 구현 방식을 설명합니다. 이 구현은 의미 기반 검색 및 RAG 파이프라인을 설계하는 고급 머신러닝 및 딥러닝 엔지니어를 위한 것입니다.LLM 응용에서 벡터 데이터베이스의 중요성기존의 키워드 기반 검색 시스템은 문장의 의미를 제대로 이해하지 못하는 한계가 있습니다... 2025. 5. 8.
랭그래프와 제미나이로 구현한 대화상태 기억하는 LLM 챗봇서버 이 튜토리얼에서는 Stateless 챗봇 서버에 LangGraph를 활용한 상태 기반 메모리 지원을 추가하여 업그레이드합니다. 이를 통해 모델이 이전 메시지를 기억하며 보다 사람다운 다중 턴 대화가 가능합니다.이 업그레이드의 주요 특징LangChain 통합을 통한 Gemini 2.5 Pro 기반 구동세션 메모리 유지를 위한 LangGraph의 MemorySaver 사용Flask로 구현되었으며 CORS 지원 포함thread_id를 사용하여 사용자별 대화 히스토리 유지Stateless 버전과의 차이점Stateless 버전과의 주요 차이점은 다음과 같습니다:상태 관리: messages를 통해 대화 히스토리를 추적하기 위해 TypedDict 기반의 State 클래스를 도입LangGraph 통합: StateGra.. 2025. 5. 8.
대화상태 유지 챗봇 구현: Gemini와 LangGraph 활용 AI 챗봇을 설계할 때 가장 중요한 아키텍처 결정 중 하나는 챗봇을 이전 대화 내용 유지 없는 상태(stateless)로 만들 것인지 이전 대화 내용 유지(stateful)로 만들 것인지입니다. 그 차이가 무엇이고 왜 중요한지 알아보겠습니다.이전 대화 내용 유지 없는 챗봇 (Stateless Chatbots)무상태 챗봇은 사용자 입력을 각각 독립적인 메시지로 처리합니다. 이전 대화 내용을 기억하지 않기 때문에 구현은 간단하지만, 대화의 맥락을 반영하기 어려워 복잡한 질의나 자연스러운 상호작용에 제약이 있습니다.대화 내용 유지 챗봇 (Stateful Chatbots)상태 유지 챗봇은 이전 대화의 맥락을 기억하며 응답할 수 있어, 더 개인화되고 일관성 있는 대화를 제공합니다. 긴 대화나 사용자 선호도 기억,.. 2025. 5. 8.
Google Gemini 2.5 Pro와 LangChain으로 간단한 LLM 챗봇 서버 만들기 Introduction이 글에서는 Google Gemini 2.5 Pro와 LangChain을 활용해 가볍지만 강력한 챗봇 백엔드를 구현하는 방법을 다룹니다. 또한, 대화형 AI의 내부 구조를 이해하고, 대화 친화적인 프론트엔드 인터페이스를 배포하는 방법도 설명합니다.프로토타입을 만들든, 기업 규모의 애플리케이션에 LLM을 통합하든, 이 패턴은 탄탄한 기반을 제공합니다.Step 1: Install Dependencies다음은 우리가 사용할 최소 기술 스택입니다:Python Packagespip install flask flask-cors langchain langchain-google-genai python-dotenvGoogle API 키가 담긴 .env 파일이 있는지 확인하세요:GOOGLE_API_K.. 2025. 5. 8.

티스토리툴바