donghunkang

Sequence-to-Sequence (Seq2Seq)- sequence를 다른 sequence로 바꾸어 주는 모델- Encoder와 Decoder로 구성Encoder: 입력 데이터(한국어)를 context vector로 압축Decoder: context vector에서 출력 데이터(영어)를 유추- 문제점Context vector의 크기는 고정/ sequence가 길어지면 정보 손실이 발생 Attention특정 출력값을 만들어내기 위해 입력값 중 관련 있는 부분을 더 집중 Transformer- 일반적인 Seq2Seq 모델과 마찬가지로 Encoder-Decoder 구조- 데이터를 병렬적으로 처리 가능=> How? - Positional encoding! Positional Encoding- 입력 데이터의..

시계열 데이터- 일반적인 회귀 모델은 데이터가 서로 독립적이라 가정- 시계열 데이터는 데이터 간의 시간적 상관 관계를 가짐- 시계열 모델은 데이터 간의 시간적 패턴을 모델링 가능 RNN(Recurrent neural network)- 시계열 데이터에 적용할 수 있는 대표적인 신경망 모델-  t+1 시간 동안의 입력 X0,...,Xt를 RNN의 신경망 A에 입력할 때, A는 다음의 식에 따라 h0,...,ht를 출력.- hi는 i시간 동안의 입력값의 패턴 정보를 가지게 되고, 최종 출력 ht는 연속된 데이터의 시간적 패턴을 모델링RNN 모델의 구현- RNN에 데이터를 적용하기 위해 읽어온 데이터를 시계열 데이터 형식으로 변환- Pandas로 읽어온 데이터의 shape은 다음과 같다. - Many to on..

회귀 분석(regression analysis)입력 변수와 출력 변수 사이의 관계를 모델링하여, 입력값에 대한 출력값을 예측하는 일.회귀의 기본 원칙은 잔차(residual error)를 최소화 하는 것. Q) 잔차를 무조건 최소화 하면 좋은가?A) NO! - 학습용 데이터로 훈련하여 테스트용 데이터에 적용=> 학습 데이터에 과도하게 적합된 회귀 모델(과적합)은 일반화가 어려움. 회귀 모델설명 변수 X로부터 반응 변수 y를 예측하는 task- 목적: 잔차를 최소화하는 베타를 찾는 것. - 종류: 선형 회귀 모델, 비선형 회귀 모델 선형 회귀 모델모델의 변수 베타와 Y가 선형 관계- 목적: 잔차를 최소화하는 베타를 찾는 것.  - 장/단점: 빠르고 효율적이며, 최적화가 쉽다./ 복잡한 관계를 모델링하기 어..

시계열 데이터- 시계열 데이터: 연속된 시간 동안 순차적으로 측정한 데이터- 일반적인 데이터는 서로 독립적인데 반해, 시계열 데이터는 데이터 간에 시간적으로 상관관계가 있다.- 시계열 데이터를 분석하려면 과거의 데이터들이 미래에 미치는 영향의 패턴을 알아내는 것이 중요EX) 일년 동안의 기온, 주가, 자연어, 비디오- 시계열 데이터의 이용 EX)Many to many- 기온 예측- 번역One to many- 이미지 캡셔닝Many to one- 자동 완성- 출력 전압 예측  전압 파형 데이터- 회로에 인가한 입력 전압과 그에 따른 5가지 출력 전압 값을 picosecond 단위로 기록=> 훈련데이터: 452,283개/ 테스트 데이터: 193,836개 - txt파일 형태로 저장=> ,로 구분/ 시간, 입력 ..

프로젝트 소개프로젝트 목표- 회로에 인가한 입력 전압 파형(picosecond 단위)으로부터 5가지 출력 전압 파형 예측- 일반적으로 Buffer 회로 시뮬레이션을 통해 출력 파형의 특성을 확인함.   (실험자원이나 시간제약으로 인해 대량의 데이터를 처리하기에 어려움)- 딥러닝을 이용하여 시계열 데이터의 회귀 모델을 학습하여, 대량의 데이터를 효율적으로 처리 가능= Jupyter notebook + pandas, Numpy, matplotlib, PyTorch, sckit learn 활용  데이터 소개: 사용하는 전압 파형 데이터 소개- 회로에 인산한 전압 파형과 5가지 출력 전압 파형을 picosecond 단위로 기록 => 시계열 데이터!- 시계열 데이터: 시간에 걸쳐 순차적으로 기록되고 배열되는 데이..