HeYStRanGeR
article thumbnail
밑바닥부터 시작하는 딥러닝 ch.4 신경망 학습
Computer Science/Deep Learning 2023. 11. 27. 16:09

(23.11.27) 학습 - train data 로 부터 weight, bias (가중치 매개변수) 의 최적값을 얻는 것이다. ===> 신경망이 학습할 수 있도록 하는 지표를 loss function 이라고 한다. - 학습의 목표: loss function의 결과값을 가장 작게 만드는 weight, bias 를 찾는 것 - 신경망은 end-to-end machine learning 이라고도 한다. ==> 입력부터 출력까지 사람의 개입이 없다는 의미. 데이터의 구분 : train + test - train data 를 통해 학습하고, 최적의 weight, bias 를 찾는다. - test data 를 통해 학습한 모델의 성능을 평가한다. - 하나의 data 로 학습하고, 해당 data 로 평가하면, 그 성..

article thumbnail
[ML] Linear Regression (선형회귀) & Normal Equation (정규방정식)

(2022.03.30~04.01) 기계학습 들으면서 정리하기 7탄 Lecture4_ML 내용정리-1 예측선 긋기: 선형회귀 -----> 오차 수정하기: 경사하강법 (오차를 줄이는 방향으로 함수의 계수를 최적화함) 회귀 Regression : 회귀 분석은 대표적인 지도학습 알고리즘 선형회귀: 독립변수 x를 사용하여 종속변수 y의 움직임을 예측하고, 설명하는 작업. 예측선을 긋는 일 - 단순 선형회귀: 하나의 x값으로 y값 설명이 가능할 때 - 다중 선형회귀: x값이 여러 개 필요할 때 - 선형회귀의 모델은 선형 방정식, 동작을 결정하는 파라미터는 직선의 기울기(w)와 y절편(b) - 선형회귀의 오차함수(손실함수,비용함수)의 예로는 평균제곱오차가 있음 - 선형회귀에서의 학습은 손실함수인 MSE를 최소로 만드..

article thumbnail
[ML] Gradient Descent : 경사하강법

(2022.03.26) 기계학습 수업들으면서 정리하기 3탄 Lecture2_ML 내용 정리 -2 머신러닝은 문제를 해결하는 모델 모델의 동작을 결정하는 것은 파라미터 파라미터를 더 좋은 상태로 변경하는 것이 학습 모델은 현재의 파라미터를 바탕으로 행동을 하는데, 이는 실제 결과와 차이가 있음. --> 이를 오차라고 함. 오차가 없다 == 학습이 완벽하게 잘 되어있다 == 모델이 데이터를 잘 설명한다고 볼 수 있다 ---> 학습이란 오차가 줄어드는 방향으로 파라미터를 변경하는 일이라고 할 수 있음. 경사하강법: Gradient Descent - 현재 가중치 w위치에서 오차 곡면의 기울기를 알면, 기울기를 따라 내려가 곡면의 낮은 곳으로 갈 수 있음 - 최적해에 도달하면, 기울기 벡터가 0이 될 것이고, 이..

728x90