본문 바로가기

AI Compiler framework

객체가 아닌 상태로서의 kernel 해석 - op attribute 구조를 끝까지 들고 가자

ops 가 누적되면서 online kernel selection 이 이뤄지고, 선택된 kernel + 다음 ops 가 다시 결합되어 또 다른 kernel 이 선택될 수 있다면 kernel meta 를 별도 개념으로 두지 않고, kernel 을 op attribute 의 한 형태로 흡수

고정된 엔드 포인트가 아닌 하나의 정규화 상태로 보는 관점

 

1. 이 관점의 본질 kernel 은 객체가 아닌 상태

기존 관점

  • op - 선택 - kernel
  • kernel 은 최종 산출물

새로운 관점

  • op - attribute 누적 - state
  • kernel 은 특정 state 를 대표하는 canonical implementation

kernel 은 op attribute 가 충분히 구체화되었을 때 해당 state 를 실행하는 하나의 물리적 선택지

  • 별도의 계층이 아닌, AttributeState 의 한 지점에 붙는 label 이 된다.