LangChain의 개념과 활용법

• 수업 내용 리마인드 및 아카이빙 목적의 업로드

---

---

 

오늘은 LangChain이라는 강력한 도구를 소개하려 합니다. LangChain은 생성형 AI(Generative AI) 모델을 활용하여 더욱 효율적이고 다기능적인 워크플로우를 만들 수 있는 프레임워크인데요. 이를 통해 복잡한 프롬프트 관리와 다중 모델 통합을 쉽게 할 수 있습니다. 이번 글에서는 LangChain의 기본 개념, 환경 설정, 다양한 활용법에 대해 차례대로 설명드릴게요.

 

1. LangChain이란?

LangChain은 생성형 AI 모델, 특히 언어 모델(LLM)을 활용하여 다양한 작업을 수행할 수 있게 해주는 도구입니다. 단순히 언어 모델을 사용하는 것 이상의 기능을 제공하며, 다양한 장점이 있습니다.

LangChain을 사용하는 이유

• 프롬프트 관리의 용이성: OpenAI API 사용 시 직접 프롬프트를 관리하는 대신, LangChain은 템플릿을 이용해 프롬프트를 동적으로 생성하고 쉽게 매개변수를 삽입할 수 있습니다. 이를 통해 프롬프트의 재사용성과 유지보수가 훨씬 간편해집니다.
• 워크플로우 자동화: 여러 단계의 작업을 손쉽게 구성할 수 있어, 데이터를 여러 단계로 처리하거나 조건에 따라 다른 작업을 수행하는 복잡한 워크플로우도 쉽게 구현할 수 있습니다.
• 다중 모델 및 도구 통합: LangChain은 OpenAI의 모델뿐만 아니라 다른 모델이나 도구와도 쉽게 통합할 수 있는 기능을 제공합니다. 예를 들어 한 모델의 출력을 다른 모델의 입력으로 사용하는 파이프라인을 구성할 수 있습니다.
• 재사용 가능성 및 모듈화: 코드를 모듈화하고 재사용이 가능하여 유지보수가 쉽습니다. 템플릿을 사용해 코드의 중복을 줄이고, 동일한 패턴의 작업을 여러 번 수행할 때 효율적으로 사용할 수 있습니다.
• 조건부 로직 및 분기 처리: 특정 조건에 따라 다른 프롬프트를 사용하거나 다른 모델을 호출하는 등의 로직을 구성할 수 있습니다. 이러한 기능은 복잡한 대화 시스템을 구축할 때 유용합니다.

 

2. LangChain 환경 설정

LangChain을 사용하려면 환경 설정이 필요합니다. 먼저 Windows나 Mac 환경에서 설치를 진행하고, .env 파일을 만들어 API 키를 설정해야 합니다. 또한, LangSmith와 같은 다양한 도구를 설정하여 작업의 추적 및 로깅을 할 수 있습니다.

• .env 파일 생성: 프로젝트 디렉토리 하위에 .env 파일을 생성하고, OPENAI_API_KEY와 같은 환경 변수를 설정합니다.
• LangSmith 설정: LangSmith는 각 단계의 입력과 출력을 추적하고 기록할 수 있는 기능을 제공합니다. 이를 통해 모델의 성능을 모니터링하고, 문제 발생 시 디버깅이 용이합니다.

 

3. LangChain 시작하기

LangChain을 사용해 간단한 LLM 객체를 생성하고, 프롬프트에 대한 응답을 생성할 수 있습니다. 예를 들어, "대한민국의 수도는 어디인가요?"와 같은 질문을 작성하고 이를 모델에 전달하여 답변을 생성하는 방식으로 사용할 수 있습니다.

• LogProb 사용: LogProb는 특정 토큰이 나올 확률의 로그 값을 반환하는데, 이는 모델의 성능을 평가하거나 여러 텍스트 시퀀스를 비교할 때 유용합니다. 낮은 로그 확률은 해당 시퀀스가 덜 자연스러움을 의미합니다.
• 스트리밍 출력: 스트리밍으로 응답을 생성하여 모델이 텍스트를 반환하는 즉시 해당 부분을 사용할 수 있습니다. 긴 텍스트를 처리할 때 유용합니다.

 

4. 멀티모달 모델 – 이미지 인식

LangChain을 사용하면 여러 종류의 데이터를 동시에 처리할 수 있습니다. 이를 멀티모달 모델이라고 하며, 텍스트, 이미지, 오디오, 비디오 등의 다양한 데이터를 다룰 수 있습니다. 예를 들어, GPT-4 모델은 이미지 인식 기능을 포함하고 있어, 이미지에 대한 설명을 제공할 수 있습니다.

 

5. 프롬프트 템플릿 활용

LangChain의 프롬프트 템플릿 기능을 사용하면 사용자 입력 변수를 사용해 완전한 프롬프트 문자열을 만들 수 있습니다. 예를 들어 {country}의 수도는 어디인가요?와 같은 템플릿을 정의하고, 변수에 값을 대입해 프롬프트를 생성할 수 있습니다.

 

6. Chain 활용하기

LangChain에서는 여러 작업을 순차적으로 연결하여 복잡한 워크플로우를 구축할 수 있습니다. 각 작업은 이전 작업의 출력물을 입력으로 받아 다음 작업을 수행하며, 이러한 과정들이 연결된 것을 체인(Chain)이라고 합니다. LLM을 두 개 사용하는 등 다양한 형태로 체인을 구성할 수 있습니다.

• LCEL (LangChain Expression Language): LLM 어플리케이션 구성 요소를 쉽게 조합할 수 있도록 해주는 표현식 체계로, 파이프(|)를 통해 여러 실행 가능한 요소를 연결해줍니다.
• 병렬 체인 구성: 여러 runnable 인스턴스를 병렬로 실행하여 작업을 효율적으로 처리할 수 있습니다. 독립적인 작업이나 대기 시간이 긴 작업(예: API 호출, 파일 입출력)을 병렬로 처리하여 시간을 절약할 수 있습니다.

 

7. Runnable 활용하기

LangChain의 Runnable 객체를 활용해 입력 데이터를 효과적으로 전달하거나, 사용자 정의 함수를 프롬프트 입력으로 사용할 수 있습니다.

• RunnablePassthrough: 입력을 그대로 전달하거나 키를 추가하여 전달하는 기능을 제공하며, 사용자가 키 값을 기억하기 어려운 경우에 유용합니다.
• RunnableLambda: 사용자 정의 함수를 매핑하여 사용할 수 있으며, 이를 통해 프롬프트에 값을 추가하거나 변형할 수 있습니다.