11. 실천 방법론

심층 학습 기법들을 성공적으로 적용하려면 사용할 수 있는 알고리즘의 종류와 작동 원리를 알 필요가 있다. 그러나 그것만으론 부족, 

주어진 특정한 응용 과제에 맞는 알고리즘을 선택하는 방법과 실험적으로 실행한 학습 모형의 반응을 주시하고 분석해서 기계 학습 시스템을 개선하는 방법도 알아야 한다.

 

자료를 더 수집할 것인지,

모형의 수용력을 더 늘리거나 줄일 것인지,

정치고하 특징들을 추가 또는 제거할 것인지,

모형의 최적화를 개선할 것인지

모형의 근사적인 추론을 개선할 것인지 등의 결정

 

많은 실행 비용이 필요하므로 제대로된 판단이 필요

 

실제 응용에서는, 흔히 쓰이는 평범한 알고리즘을 제대로 적용하는 것이 고급 알고리즘을 엉성하게 적용하는 것보다 더 나을 때가 많다. 

알고리즘을 제대로 적용하는 적절한 방법론에 익숙해져야 한다.

 

다음과 같은 심층 학습 시스템 설계 과정

• 목표를 결정한다. 특히, 사용할 오차 측정법과 목표 오차 측도의 결정
• 실질적인 종단간 파이프라인 시스템을 확립한다.
• 성과 개선의 병목을 파악할 수 있는 수단을 시스템에 내장
• 파악한 사실들에 기초해서, 점진적인 변화를 반복,