donghunkang

Regularization(정규화,규제화)어떤 규제를 가해서 모델의 학습 데이터에 대한 overfitting을 완화하는 방법(EX) L2-regularization, L1-regularization, Drop out, Weight decay- Training Accuracy(TA)- Test Accuracy = Gemeralization Performance(일반화 성능)(GP) Regression Classification RegularizationEX) L2-Regularization (polynomial fitting) Gradient Descent with L2-RegularizationL2-Regularization (Classification) L1-Regularization (LASSO) M..

Binary Classificationyes or no problem(True or False)=> 문제 정의가 중요!EX) Binary Classification with Linear Regression Logistic RegressionSigmoid Function Decision BoundarySigmoid Function1D EX) Linear regression VS Logistic regression Non-linear Decision Boundary Loss Function for Logistic RegressionSingle Line formGradient Descent for Logistic Regression Partial dervative of Wj

관계 대수- 관계 모델을 위한 기본적인 연산들의 집합관계 대수가 중요한 이유 ⭐1. 관계 모델 연산을 위한 공식적인 토대를 제공2. 질의를 구현하고 최적화하기 위한 기반을 사용3. 관계 대수의 몇 가지 개념은 RDBMS를 위한 SQL 표준 질의에 반영됨 SQL 질의를 처리하는 과정 관계 대수 연산자- 셀력션(selection) 연산자: 특정한 조건을 만족하는 튜플들을 선택함으로써 튜플의 수를 줄임- 프로젝션(projection) 연산자: 특정 애트리뷰트를 제거함으로써 각 튜플의 크기를 줄임- 집합(set) 연산자: 튜플의 결합과 비교를 통해 유사한 2개의 튜플 집합을 조작- 조인(join), 프로덕트(product) 연산자: 애트리뷰트를 더함으로써 각 튜플의 크기를 늘림  셀렉션 연산자 ⭐- 릴레이션으로..

Introduction-CTFTFourier series presentation- perdiodic signals(주기 신호) => linear combinations of harmonicaklly related complex exponentials- aperiodic signals(비주기 신호) => 복소 지수 함수의 주파수가 무한히 가까워지며 적분 형태로 변함 Representation of aperiodic signals: the CTFT- CT periodic square wave FSR로 시작=> T 증가, w0 감소: 샘플링 밀집=> T 무한으로 향할때: FS coefficient 집합은 envelop function에 가까워짐  Fourier transform representation of..

Recall: Linear Time Invariant Systems in DT- System이 linear, time invartiant일 때, unit impulse responses는 서로의 모든 time-shifted version 이다.- 일반적으로 0인덱스를 생략하여 다음과 같이 정의- LTI 시스템에 대한 Convolution sum은 다음과 같다- 위의 식은 다음과 같이 표현할 수도 있다. convolution sum(= superposition sum):  Introduction to "Continuous" Convolution- Discrete system에 대한 convolution sum은 "sifting priciple"에 기반을 두고 있고, 입력 신호는 스케일링되고 이동된 임펄스 ..

ER모델 => 릴레이션 스키마 변환 단계1. ER모델의 각 개체 클래스에 대해 릴레이션 스키마 생성2. 셍성한 스키마에 애트리뷰트 추가3. 기본 키 애트리뷰트 지정4. ER모델의 모든 관계성을 어떻게 표현할 것인지 선택개선 과정- 처음 변화된 스키마가 중복된 정보를 가지거나, 비효율적이어도 걱정할 필요 없다.- 정규화 과정을 통해 해결 강한 개체 클래스 변환[규칙1]- ER모델의 강한 개체 클래스 각각에 대해, 같은 이름으로 릴레이션 스키마를 생성[규칙2]- 강한 개체 클래스의 단순 애트리뷰트에 대해, 릴레이션 스키마에서 같은 이름으로 애트리뷰트 생성[규칙3]- 강한 개체 클래스의 키들 중 하나를 릴레이션 스키마의 키로 선택- 선택된 키가 여러 개의 단순 애트리뷰트들로 구성된다면, 릴레이션 스키마의 키는..

Signal - 시간이나 위치와 같은 변수가 변화하는 패턴- 정보를 전달하는 역할- 하나 이상의 독립 변수를 함수로 표현 Continuous-Time Signals(연속 시간 신호)- 대부분의 현실 세계 신호- 시간 간격이 유한할 수도 무한할 수도 있다  Discrete-Time Signals(이산 시간 신호)- 샘플링된 신호- 시간 축에서 불연속적인 간격으로 정의Sampled continuous signal  Periodic Signals(주기 신호)일정한 주기 T후에 반복되는 신호Even and Odd Signals(짝/홀 신호)=> 어떠한 signal도 Even과 Odd signal의 합으로 나타낼 수 있다Exponential and Sinusoidal Signals(지수 및 사인 신호)- (com..

데이터베이스와 현실 세계데이터베이스 설계 단계 데이터 모델(Data Model)- 컴퓨터에 저장할 데이터의 구조를 논리적으로 표현하기 위해 사용하는 지능적 도구- 정보들의 구조를 기술하기 위해 사용되는 도구- 데이터베이스의 정보 내용을 명세화구성 요소1. 데이터 구조(data structure): 데이터베이스에 표현될 대상으로서의 개체 타입과 이들간의 관계를 명세2. 연산(operation): 데이터베이스에 표현된 개체 인스터스를 처리하는 작업에 대한 명세3. 제약 조건(constraints): 데이터베이스에 허용될 수 있는 개체 인스턴스에 대한 논리적 제약을 명세 개념적(conceptual) 데이터 모델- 사용자들이 이해할 수 있는 용어로 시스템을 기술- 데이터베이스의 초기 명세서로 이용- 사용자들과 ..

Vectorization Properties of Transpose Normal Equation Locally weighted regression"Parametic" learning algorithmFit fixed set of parameters(w) to dataEX) linear regression, Neural Network주어진 학습데이터로 파라미터 학습을 완료한 이후에 test를 수행한다."Non-parametic" learning algorithmAmount of data/parameters you need to keep grows(linearly) with size of dataEX) K-nearest neighbors, Locally weighted regressiontest를 수행할 때..

Introduction to MDPs- Markov Decision Process는 RL(강화학습)을 위한 environment(환경)을 공식적으로 설명- 거의 모든 RL문제는 MDP로 형식화할 수 있다.=> environmnet가 완전히 fully observable(관찰 가능)할때. 즉, 현재 상태가 과정을 완전히 설명 Markov Property(속성)"현재가 주어지면 미래는 과거와 독립적이다."상태 St가 Markov임을 의미하려면 다음 조건을 만족해야 함.- State는 과거로부터 얻는 모든 관련 정보를 포함- 현재 State를 알면, 과거의 정보는 무시할 수 있다.=> 즉, State는 미래 예측에 필요한 충분한 통계량이다. State Transition Matrix(상태 전이 행렬)State..