Linear Regression

모두를 위한 딥러닝 강의 시즌1을 듣고 복습한 내용입니다.

 

공부 시간에 따른 시험 성적 예측

 

- 가정 : H(x) = Wx + b

 

x (hours)	y (score)
10	90
9	80
3	50
2	30

어떤 선이 데이터를 잘 나타내는지 체크해봐야 한다. -> Cost(Loss) function을 이용

 

Cost function (Loss function)

제곱을 하므로 차이가 클 때 더 큰 페널티를 준다고도 볼 수 있다.

 

학습의 목표 : cost값을 가장 작게 하는 W와 b를 찾는 것!

 

참고) 차이에 제곱하는 이유?

- 절댓값의 코드 상의 구현에서는 if 문이 필히 들어가게 되는데 매번 if문에 걸려서 체크를 하게되는 것보다 제곱을 하는 편이 빠르다.

- 제곱을 하게되면 차이가 클수록 cost 값이 매우 커져서 w, b 텐서에 대한 변화가 많이 줄 수 있다.

- 제곱값이 1보다 작으면 그 값이 더 작아지게 되는데 이를 통해서 gradient 값이 작아져서 정확도가 높아질 수록 점점 세밀하게 변화시킬수 있다.

---

 

텐서플로우 코드 (버전 2.0이상)

 

import tensorflow as tf
import numpy as np

x_train = [1, 2, 3, 4]
y_train = [0, -1, -2, -3]

tf.model = tf.keras.Sequential()

tf.model.add(tf.keras.layers.Dense(units=1, input_dim=1))

sgd = tf.keras.optimizers.SGD(lr=0.1)
tf.model.compile(loss='mse', optimizer=sgd)

tf.model.fit(x_train, y_train, epochs=200)

y_predict = tf.model.predict(np.array([5, 4]))
print(y_predict)