AICF Rich-Matirx Fusion Compile Pipeline ( Concept & Rules )

1. 목표

그래프 최적화를그래프 탐색 코드가 아닌 두 층으로 분리한다.

• 구조층 (Structure) : 인접 행렬 A 로 표현되는 연결 관계
• 의미층 (Semantics) : A 의 각 edge 에 붙는bitmask(feature) 로 표현되는 데이터 / 안정성 / 전이 정보

최적화는 다음 형태로 수행된다.

• (매칭) A 위에서 bitmask 필터링 + 선형대수 매칭으로 패턴을 찾고
• (변환) 패턴에 대해 op 를 fuse / rewire 하며
• (갱신) 변환 결과가 feature bitmask 에도 정확히 반영되도록 규칙에 따라 재계산 / 통합 한다.

 

2. 핵심 개념

2.1 Edge Feature 는 관측이 아니라 계약

A_rich[i, j] 의 bit 는 단순 메타데이터가 아니라 컴파일러가 신뢰하는 계약

• 매칭 단계 : bit 조건을 만족해야만 후보가 됨
• 리라이트 단계 : 그래프를 바꾸면 bit 도 규칙에 따라 갱신되어야 함
• 갱신이 틀리면 : 잘못되 fuse, 잘못된 backward, 잘못된 메모리 재사용이 발생

 

3. Compile Pipeline 의 두 축

3.1 Matchin (Pattern Discovery)

패턴 매칭은 두 단계로 구성

Step A : Edge Filter (bitmask gating)

예

• SAFE_SINGLE_USE
• DTYPE_F32
• CONTIGUOUS
• NO_ALIAS

같은 필수 비트를요구한다

 

Step B : Algebraic Match (matrix product)

노드 타입 선택자와 결합하여 패턴을 찾는다. 

 

3.2 Rewrite (Fusion / Optimization)

매칭된 패턴에 대해 다음을 수행

• 노드 통합
• 입력 통합
• 출력 통합
• 중간 노드 제거 또는 identiy 처리
• consumer 들의 input rewire

 

4. Feature Bitmask 의 통합 규칙이 필요한 이유

그래프를 fuse 하면 edge 도 변화하고, edge 의 의미도 변화한다.

 

5. Feature 통합 규칙의 종류

fuse 후 새 edge 의 feature 는 크게 3종 규칙 중 하나로 정해진다.

Rule Type 1 - AND-merge (제약은 강화 / 유지)

안전 조건처럼 깨지면 안 되는 속성은 보통 AND

 

Rule Type 2 - OR-merge (능력 / 가능성은 합집합)

가능성 태그는 OR

• eligibility
• capability

 

Rule Type 3 - TRANSFORM (전이 정보는 재계산)