본문 바로가기

AI Compiler framework

StageC 현재 방식 확인

2단계 매칭 / 최적화 구조

  • StageC 가 lowerd ops 를 순차 스캔하면서 특정 패턴을 만나면 fused op 로 rewrite 한다
  • 그 다음 OpAttrs 는 rewrite 된 lowered 를 기준으로 설명용 메타를 생성한다.
  • 실행은 kernel_id(kid) 가 이미 박힌 상태로 backend 가 그대로 실행한다.

online attributes 누적 - candidates 교집합 - flush 가 아니라

online 패턴 매칭 - op 단위 kid 확정 구조

 

lowered ops 를 앞에서부터 읽으면서

gemm_epilogue 조건 만족 시 ops 자체 변경  - 패턴 매칭 fuse 적용 matching