ml_framework

fit(delta_weight_update)

명징직조지훈 2023. 4. 25. 23:22

계산한 delta 값을 통해 가중치를 업데이트 한다.

델타값과 이전 노드 출력과의 연산으로 이를 수행한다.

 # 가중치 업데이트
for layer_num in range(len(self.layer) - 1):
	weight_update = self.layer[layer_num].get('delta') @ self.layer[layer_num].get('hidden_output').T
	self.layer[layer_num]['weight'] = self.layer[layer_num].get('weight') - (weight_update.T * learning_rate)

델타값에 이전층의 출력값과의 연산을 통해 가중치 변화량에 대한 비용 함수의 변화량 계산, 이를 적용시킨다.

 

dense 클래스에 적용시키는 방법을 생각해봐야 할 듯