모든 순간이 'AI'였다.

수업 내용 리마인드 및 아카이빙 목적의 업로드 BERT(Bidirectional Encoder Representations from Transformers)는 2018년 구글이 발표한 획기적인 자연어 처리(NLP) 모델입니다. BERT는 Transformer 아키텍처의 양방향 인코더를 기반으로 하여, 입력된 텍스트의 모든 단어를 양방향으로 동시에 처리합니다. 이를 통해 문맥을 더 깊이 이해하고, 기존 모델들보다 높은 성능을 발휘할 수 있게 되었습니다. 이번 글에서는 BERT 모델의 기본 개념, 학습 과정, 모델 구조, 그리고 파인튜닝(Fine-Tuning) 방법을 자세히 알아보겠습니다. 1. BERT 모델이란?BERT는 Transformer 아키텍처의 인코더 부분을 활용한 사전 학습된(pre-traine..

수업 내용 리마인드 및 아카이빙 목적의 업로드 Transformer 모델은 최근 자연어 처리(NLP)와 컴퓨터 비전 분야에서 가장 주목받는 딥러닝 기술 중 하나입니다. 기존의 순환신경망(RNN) 기반 모델들이 가진 여러 한계를 극복하며, 빠르고 정확한 성능을 보여주고 있습니다. 이 글에서는 Transformer 모델의 핵심 개념, 작동 방식, 그리고 그 장점을 자세히 알아보겠습니다. 1. Transformer란?Transformer는 RNN이나 LSTM과 달리 입력 시퀀스를 순차적으로 처리하지 않고, 병렬 처리를 통해 데이터를 학습하는 모델입니다. 특히 Self-Attention 메커니즘을 도입하여 시퀀스 내 모든 단어 간의 상호작용을 동시에 계산합니다. 이 방식은 RNN의 단점인 장기 의존성 문제를 해..

수업 내용 리마인드 및 아카이빙 목적의 업로드 Attention 메커니즘이 적용된 Seq2Seq 구조Attention 사용디코더는 인코더의 모든 출력(hidden state)을 활용하여 더 정확한 번역을 수행  이번 글에서는 Seq2Seq 모델을 사용하여 영어-프랑스어 번역 모델을 구축하고 학습하는 과정을 단계별로 설명합니다. 이 프로젝트는 자연어 처리(NLP)에서 많이 사용되는 Seq2Seq 구조를 적용해 언어 간 번역을 수행하는 모델을 만드는 과정입니다. 1. 필요한 모듈 임포트프로젝트에서 사용되는 주요 모듈들을 먼저 설치하고 불러옵니다. 이 과정에서는 PyTorch 라이브러리를 이용해 딥러닝 모델을 구현하고, 데이터 처리에는 Pandas와 Numpy를 사용합니다.# 필요 모듈 설치!pip insta..

수업 내용 리마인드 및 아카이빙 목적의 업로드  Seq2Seq(Sequence to Sequence) 모델은 특히 기계 번역, 텍스트 요약, 질문 답변 등에서 뛰어난 성능을 발휘하는 모델입니다. 이 모델은 하나의 문장(입력 시퀀스)을 받아 또 다른 문장(출력 시퀀스)으로 변환하는 방식으로 작동합니다. 오늘은 Seq2Seq 모델의 기본 개념과 그 한계를 보완한 Attention 메커니즘에 대해 알아보겠습니다.  1. Seq2Seq 모델이란?Seq2Seq는 RNN 계열의 모델로, 하나의 시퀀스를 입력받아 또 다른 시퀀스를 출력하는 구조입니다. 이 모델은 주로 기계 번역에서 많이 사용됩니다. 예를 들어, 영어 문장을 입력하면 그에 해당하는 한국어 문장을 출력하는 방식이죠. 1) Seq2Seq의 구조Seq2Se..

수업 내용 리마인드 및 아카이빙 목적의 업로드 이번 글에서는 GasRateCO2 데이터셋을 사용해 시계열 예측을 진행하는 과정을 소개할게요. 우리는 파이토치 기반의 LSTM(Long Short-Term Memory) 모델을 사용해서 예측 작업을 수행할 거예요. 데이터를 불러오고 전처리한 뒤, 모델을 학습시키고 평가하는 전 과정을 함께 진행해 보겠습니다. 1. 필요 모듈 임포트우선, 필요한 모듈을 임포트해볼게요. torch, darts, torchinfo 등의 모듈을 사용하고, GPU가 사용 가능한지 확인해볼게요.!pip install darts!pip install torchinfoimport torchimport torch.nn as nnimport torch.optim as optimfrom torc..

수업 내용 리마인드 및 아카이빙 목적의 업로드 이번 글에서는 LSTM(Long Short-Term Memory) 모델을 사용해 주식 데이터를 예측하는 과정을 단계별로 설명하려고 합니다. 주식 시장의 데이터는 시간에 따라 변화하는 시계열 데이터로, 과거 데이터를 바탕으로 미래의 주가를 예측하는 데 LSTM은 RNN의 한계를 보완한 적합한 모델입니다. 1. 필요한 모듈 임포트먼저, 필요한 모듈을 모두 임포트하고 GPU가 사용 가능한 경우 이를 설정합니다.import torchimport torch.nn as nnimport torch.optim as optimfrom torchinfo import summaryfrom torch.utils.data import Dataset, DataLoaderimport ..

수업 내용 리마인드 및 아카이빙 목적의 업로드 이번 글에서는 PyTorch를 활용해 이름 분류기를 만들어 볼 거예요. 이 실습에서는 이름 데이터를 사용해 특정 언어를 예측하는 모델을 만들어 보고, 학습한 후 모델의 성능을 평가해보겠습니다. 과정을 차근차근 따라가면 어렵지 않게 이해할 수 있으니, 함께 진행해봐요.1. 필요한 라이브러리 불러오기우선 실습에 필요한 라이브러리들을 불러올게요. GPU를 사용 가능한 경우, GPU를 사용해 학습 속도를 높일 수 있습니다.import torchimport torch.nn as nnimport torch.optim as optimfrom torch.nn.utils.rnn import pad_sequencefrom torch.utils.data import Datase..

수업 내용 리마인드 및 아카이빙 목적의 업로드 AI와 딥러닝을 배우다 보면 RNN(순환 신경망)과 LSTM(장단기 메모리)라는 용어를 자주 듣게 됩니다. 특히 시계열 데이터를 처리하는 데 뛰어난 성능을 보여주는데요. 오늘은 RNN과 LSTM의 기본 개념부터 그 차이점까지 하나씩 알아보겠습니다! 1. RNN(순환 신경망)이란?RNN은 순환 신경망(Recurrent Neural Network)의 약자입니다. 일반적인 신경망은 과거의 정보를 기억하지 못하는 단점이 있는데, RNN은 이전 시점의 정보를 활용해 새로운 데이터를 처리할 수 있습니다. 예를 들어, 문장이나 시간에 따라 변화하는 데이터를 다룰 때 유용해요. 1) RNN의 작동 방식RNN의 핵심 아이디어는 이전 시점의 정보를 반영해 더 나은 예측을 하자..

수업 내용 리마인드 및 아카이빙 목적의 업로드  이번 글에서는 다중 선형 회귀를 파이토치로 직접 구현해보는 과정을 소개할게요. 다층 퍼셉트론(MLP) 모델을 사용해서 비선형 데이터에 대한 예측을 해볼 거예요. 처음부터 끝까지 함께 진행하면서 학습 과정과 평가 방법까지 차근차근 살펴봐요.  1. 필요 모듈 로드 먼저, 필요한 라이브러리를 가져오고 GPU가 사용 가능한지 확인해볼게요. 파이토치, 데이터 전처리 및 시각화를 위한 다양한 모듈들을 사용합니다. !pip install torchinfoimport torchimport torch.nn as nnimport torch.optim as optimfrom torch.utils.data import DataLoader, Dataset, random_spli..

수업 내용 리마인드 및 아카이빙 목적의 업로드  이번 글에서는 파이토치(Pytorch)를 사용하여 단순 선형 회귀 모델을 구현하고 학습시키는 과정을 단계별로 살펴볼게요. 기본적인 데이터셋 생성부터 모델 정의, 학습, 평가, 시각화까지 전체 워크플로우를 다뤄요. 이 글을 통해 선형 회귀 모델이 어떻게 작동하는지 이해하고, 파이토치를 이용해 직접 모델을 구현해봐요.  1. 필요한 라이브러리 로드 먼저 실습에 필요한 라이브러리부터 설치하고 가져와야겠죠? torchinfo는 모델 구조를 확인하는 데 유용한 도구에요.pip install torchinfoimport torchimport torch.nn as nnimport torch.optim as optimfrom torch.utils.data import D..