ml_framework
fit(delta_weight_update)
명징직조지훈
2023. 4. 25. 23:22
계산한 delta 값을 통해 가중치를 업데이트 한다.
델타값과 이전 노드 출력과의 연산으로 이를 수행한다.
# 가중치 업데이트
for layer_num in range(len(self.layer) - 1):
weight_update = self.layer[layer_num].get('delta') @ self.layer[layer_num].get('hidden_output').T
self.layer[layer_num]['weight'] = self.layer[layer_num].get('weight') - (weight_update.T * learning_rate)
델타값에 이전층의 출력값과의 연산을 통해 가중치 변화량에 대한 비용 함수의 변화량 계산, 이를 적용시킨다.
dense 클래스에 적용시키는 방법을 생각해봐야 할 듯