모든 순간이 'AI'였다.

수업 내용 리마인드 및 아카이빙 목적의 업로드 오늘은 LangChain을 활용한 Few-Shot Learning과 다양한 Output Parser를 소개하려고 합니다. LangChain은 대화형 AI의 성능을 크게 향상시킬 수 있는 강력한 도구인데요, 특히 자연어 처리와 관련된 작업에서 매우 유용하게 활용될 수 있습니다. 이번 글에서는 Few-Shot Learning, 예제 선택기(ExampleSelector), 그리고 다양한 Output Parser의 사용법을 단계별로 설명드릴게요. 이를 통해 더욱 똑똑한 AI 응답을 만들어낼 수 있습니다! 1. FewShotPromptTemplate을 활용한 학습 개선LangChain의 FewShotPromptTemplate은 AI 모델에게 몇 가지 예제를 제공하여 ..

수업 내용 리마인드 및 아카이빙 목적의 업로드 BERT(Bidirectional Encoder Representations from Transformers)는 2018년 구글이 발표한 획기적인 자연어 처리(NLP) 모델입니다. BERT는 Transformer 아키텍처의 양방향 인코더를 기반으로 하여, 입력된 텍스트의 모든 단어를 양방향으로 동시에 처리합니다. 이를 통해 문맥을 더 깊이 이해하고, 기존 모델들보다 높은 성능을 발휘할 수 있게 되었습니다. 이번 글에서는 BERT 모델의 기본 개념, 학습 과정, 모델 구조, 그리고 파인튜닝(Fine-Tuning) 방법을 자세히 알아보겠습니다. 1. BERT 모델이란?BERT는 Transformer 아키텍처의 인코더 부분을 활용한 사전 학습된(pre-traine..

수업 내용 리마인드 및 아카이빙 목적의 업로드 Transformer 모델은 최근 자연어 처리(NLP)와 컴퓨터 비전 분야에서 가장 주목받는 딥러닝 기술 중 하나입니다. 기존의 순환신경망(RNN) 기반 모델들이 가진 여러 한계를 극복하며, 빠르고 정확한 성능을 보여주고 있습니다. 이 글에서는 Transformer 모델의 핵심 개념, 작동 방식, 그리고 그 장점을 자세히 알아보겠습니다. 1. Transformer란?Transformer는 RNN이나 LSTM과 달리 입력 시퀀스를 순차적으로 처리하지 않고, 병렬 처리를 통해 데이터를 학습하는 모델입니다. 특히 Self-Attention 메커니즘을 도입하여 시퀀스 내 모든 단어 간의 상호작용을 동시에 계산합니다. 이 방식은 RNN의 단점인 장기 의존성 문제를 해..

수업 내용 리마인드 및 아카이빙 목적의 업로드 Attention 메커니즘이 적용된 Seq2Seq 구조Attention 사용디코더는 인코더의 모든 출력(hidden state)을 활용하여 더 정확한 번역을 수행  이번 글에서는 Seq2Seq 모델을 사용하여 영어-프랑스어 번역 모델을 구축하고 학습하는 과정을 단계별로 설명합니다. 이 프로젝트는 자연어 처리(NLP)에서 많이 사용되는 Seq2Seq 구조를 적용해 언어 간 번역을 수행하는 모델을 만드는 과정입니다. 1. 필요한 모듈 임포트프로젝트에서 사용되는 주요 모듈들을 먼저 설치하고 불러옵니다. 이 과정에서는 PyTorch 라이브러리를 이용해 딥러닝 모델을 구현하고, 데이터 처리에는 Pandas와 Numpy를 사용합니다.# 필요 모듈 설치!pip insta..

수업 내용 리마인드 및 아카이빙 목적의 업로드 기본 Seq2Seq 구조Attention 미사용인코더의 마지막 hidden state만 디코더에 입력으로 사용 이번 글에서는 Seq2Seq(Sequence-to-Sequence) 모델을 활용하여 영어 문장을 프랑스어로 번역하는 모델을 구축하는 과정을 단계별로 설명해드리겠습니다. 데이터 다운로드, 전처리, 모델 구성, 학습, 그리고 번역까지의 전 과정을 다룹니다. 이 글을 통해 자연어 처리에서 Seq2Seq 모델을 어떻게 활용하는지 이해하고 직접 구현할 수 있을 거예요.  1. 필요 모듈 임포트우선, 데이터 처리와 모델 구축을 위해 필요한 모듈을 모두 임포트합니다. PyTorch, Numpy, Pandas 등의 라이브러리를 사용하여 데이터를 처리하고, torc..

수업 내용 리마인드 및 아카이빙 목적의 업로드  Seq2Seq(Sequence to Sequence) 모델은 특히 기계 번역, 텍스트 요약, 질문 답변 등에서 뛰어난 성능을 발휘하는 모델입니다. 이 모델은 하나의 문장(입력 시퀀스)을 받아 또 다른 문장(출력 시퀀스)으로 변환하는 방식으로 작동합니다. 오늘은 Seq2Seq 모델의 기본 개념과 그 한계를 보완한 Attention 메커니즘에 대해 알아보겠습니다.  1. Seq2Seq 모델이란?Seq2Seq는 RNN 계열의 모델로, 하나의 시퀀스를 입력받아 또 다른 시퀀스를 출력하는 구조입니다. 이 모델은 주로 기계 번역에서 많이 사용됩니다. 예를 들어, 영어 문장을 입력하면 그에 해당하는 한국어 문장을 출력하는 방식이죠. 1) Seq2Seq의 구조Seq2Se..

수업 내용 리마인드 및 아카이빙 목적의 업로드 이번 글에서는 PyTorch를 활용해 이름 분류기를 만들어 볼 거예요. 이 실습에서는 이름 데이터를 사용해 특정 언어를 예측하는 모델을 만들어 보고, 학습한 후 모델의 성능을 평가해보겠습니다. 과정을 차근차근 따라가면 어렵지 않게 이해할 수 있으니, 함께 진행해봐요.1. 필요한 라이브러리 불러오기우선 실습에 필요한 라이브러리들을 불러올게요. GPU를 사용 가능한 경우, GPU를 사용해 학습 속도를 높일 수 있습니다.import torchimport torch.nn as nnimport torch.optim as optimfrom torch.nn.utils.rnn import pad_sequencefrom torch.utils.data import Datase..

수업 내용 리마인드 및 아카이빙 목적의 업로드1. 영어 Word2Vec 만들기1) 필요 모듈 로드먼저 Word2Vec 학습을 위해 필요한 라이브러리를 불러옵니다.import reimport urllib.requestimport zipfilefrom lxml import etreefrom nltk.tokenize import word_tokenize, sent_tokenizeimport nltknltk.download("punkt") 2) 데이터 로드데이터는 TED 강연 텍스트로, XML 형식으로 제공됩니다. content 태그 사이의 내용을 추출합니다.# 데이터 다운로드urllib.request.urlretrieve("https://raw.githubusercontent.com/ukairia777/ten..

수업 내용 리마인드 및 아카이빙 목적의 업로드 자연어 처리는 말 그대로 컴퓨터가 사람의 언어를 이해하고 처리할 수 있도록 도와주는 분야입니다. 그중에서 단어를 숫자로 변환하여 벡터로 표현하는 방법을 임베딩(Embedding)이라고 해요. 오늘은 그 대표적인 기법들인 Word2Vec, GloVe, 그리고 FastText를 차근차근 알아보려고 합니다. 1. Word2Vec – 단어와 단어 사이의 관계를 학습하자!Word2Vec은 단어를 벡터로 표현하는 대표적인 임베딩 기법이에요. 이 방법은 단순히 단어를 숫자로 바꾸는 것에서 끝나는 게 아니라, 단어 사이의 관계까지 고려해서 단어 벡터를 만듭니다. 1) Embedding과 Vectorization의 차이먼저 Vectorization은 단어를 수치로 변환하는 ..

수업 내용 리마인드 및 아카이빙 목적의 업로드  자연어 처리에서 텍스트의 유사도를 측정하는 것은 매우 중요한 작업이에요. 단어 임베딩을 통해 벡터로 변환된 단어들 사이의 거리를 측정하면, 단어들이 얼마나 비슷한지 계산할 수 있습니다. 이번 글에서는 유클리디안 거리, 자카드 유사도, 코사인 유사도를 계산하는 방법을 단계별로 알아봐요.  1. 유클리디안 거리 (Euclidean Distance)유클리디안 거리는 두 벡터 사이의 직선 거리를 의미합니다. 즉, 두 점 사이의 최단 거리를 구하는 방법이죠. 벡터 간의 차이를 계산한 후, 그 차이의 제곱을 더하고 루트를 취하면 유클리디안 거리가 나옵니다. * 유클리디안 거리 계산 코드 예시import numpy as np# 단어 임베딩 사전word_embedding..