기존 AI 모델 실행 시스템의 구성 - Existing Systems

현재 시스템들이 어떤 전제와 목적 위에서 설계되었는지 정리,

 

AI 모델 실행의 일반적 구조

• python 코드로 모델 정의
• 연산 그래프 형태로 구성
• 그래프를 실행 엔진을 통해 반복실행

 

그래프 중심 구조의 핵심 전제

• 연산간 의존성은 그래프로 표현 가능
• 실행 순서는 그래프 위상 정렬로 ㄹ결정
• 최적환느 그래프 단위에서 수행
• 실행은 그래프를 따라 반복

 

그래프가 해결한 문제들

• 자동 미분을 위한 의존성 관리
• 실행 순서의 명시적 표현
• 연산 재사용 및 공통 최적화

 

 

실행을 넘어선 제어에 대해선

• 연산의 의미적 성질
• 의미 보존 변형
• 조합 가능 구조
• 유효한 제약 조건

 

고정 그래프의 선택

• 동적 구조는 최적화와 분석의 난이도 증가
• 실행 결정이 런타임과정으로 밀릴수록 예측 가능성의 하락

 

생성되는 경계

• 제한적인 구조 변형
• 실행 기반 최적화 중심
• 모델은 실행 대상, 제어 대상이 아님...