머신러닝 모델의 목적은 학습시키지 않은 실제 데이터를 추론하는데 사용하는 것,
학습 후에는 일반적으로 프로덕션 환경에 배포하고, 수신된 요청에 대한 응답으로 예측을 수행한다.
프로덕션 .ML 모델과 관련된 다양한 상황에서 탄력성과 관련된 문제를 해결한다.
스트레이트 서빙 함수 디자인 패턴을 사용하면 초당 수천, 수백만 개의 예측 요청을 서빙 인프라가 확장하고 처리할 수 있다.
또한 배치 서빙 디자인 패턴을 사용해 수백만, 수십 억 개의 예측에 대한 정기적/비정기적 요청을 비동기식으로 처리할 수 있다. 이와 같은 패턴은 머신러닝 모델의 작성자와 사용자 간의 결합을 줄여준다는 점에서 탄력성 이상의 의미를 갖는다.
연속 모델 평가 디자인 패턴은 배포된 모델이 의도한 대로 동작하는지를 감지해 일반적인 문제를 처리한다.
또한 여러 대의 분산된 기기에 모델을 배포할 경우에는 2단계 예측 디자인 패턴을 사용할 수 있다.
'머신러닝 디자인 패터' 카테고리의 다른 글
| 4.3 디자인 패턴 12 : 체크포인트 (0) | 2023.07.01 |
|---|---|
| 4.2 디자인 패턴 11: 유용한 과대적합 (0) | 2023.06.30 |
| 4. 모델 학습 디자인 패턴 (0) | 2023.06.30 |
| 3.3 디자인 패턴 7: 앙상블 (0) | 2023.06.30 |
| 3.2 디자인 패턴 6 : 멀티 라벨 (0) | 2023.06.30 |