본문 바로가기

dev_AI_framework

LOSS Function 의 역전파 이후 데이터 검증

Loss function 의 역전파 계산 이후 

grad_out 값의 이상,

 

[DEBUG][LOSS] y_true device ptr = 0000000706030600
[DEBUG][LOSS] y_pred device ptr = 0000000706032400
[DEBUG][LOSS] y_true values (first 10): 1.00000
[DEBUG][LOSS] y_pred values (first 10): 0.51211
[DEBUG][LOSS] grad_out from BCE backward (first 10): -0.48789
[INFO] op_type=7, output_id=loss, input_id=activation_2990186475984_out
[INFO] grad_out ptr = 0000000706032A00, grad_input ptr = 0000000000000000
[DEBUG] grad_out values (first 10): 0.00000 0.00000 0.20523 0.00000 307348073856968022527436828704768.00000 843610853410486609957093376.00000 1119133488930748728363450368.00000 0.00000 0.00000 0.00000

디버깅 코드 추가 후 확인, Loss backward 커널 실행 겨로가는 정상,

이후 grad_out 에서의 문제,