Multi-variable linear regression

모두를 위한 딥러닝 강의 시즌1을 듣고 복습한 내용입니다.

 

시험 점수 예측

 

Quiz 1 ( X1 )	Quiz 2 ( X2 )	Midterm 1 ( X3 )	Final ( Y )
73	80	75	152
93	88	93	185
89	91	90	180
96	98	100	196

Multi-variable cost function

 

앞선 식에서는 w값이 x값보다 앞에서 곱해졌지만 행렬 곱을 이용하기 위해서 X는 앞에, W는 뒤에 둔다.

 

 

 

[instance 수, var 수]  *  [ ? = var수 , ? = Y ]  =  [instance 수, Y]

- [n, 3] * [ ? = 3 , ? = 2 ] = [n, 2]

 

순서에 유의하기

 

---

텐서플로우 코드 (버전 2.0 이상)

import tensorflow as tf
import numpy as np

x_data = [[73., 80., 75.],
          [93., 88., 93.],
          [89., 91., 90.],
          [96., 98., 100.],
          [73., 66., 70.]]
y_data = [[152.],
          [185.],
          [180.],
          [196.],
          [142.]]

tf.model = tf.keras.Sequential()

tf.model.add(tf.keras.layers.Dense(units=1, input_dim=3))  # input_dim=3 gives multi-variable regression
tf.model.add(tf.keras.layers.Activation('linear'))  # this line can be omitted, as linear activation is default
# advanced reading https://towardsdatascience.com/activation-functions-neural-networks-1cbd9f8d91d6

tf.model.compile(loss='mse', optimizer=tf.keras.optimizers.SGD(lr=1e-5))
tf.model.summary()
history = tf.model.fit(x_data, y_data, epochs=100)

y_predict = tf.model.predict(np.array([[72., 93., 90.]]))
print(y_predict)