콘텐츠로 이동

ADR-003: Adjacency Matrix KD 방법 선택

상태: 부분 실패 (2026-04-09)

맥락

GWN Teacher의 A_adp를 Student에 전달하는 5가지 방법(A~E)을 검토. 방법 E(Adj-Guided Loss) → C(Hidden Alignment) → D(Relational KD) 순서로 진행 계획.

결정

방법 E를 먼저 빠르게 검증, 이후 방법 C로 본격 진행.

근거

  • 방법 E: 0.5일, 기존 파이프라인 변경 최소
  • 방법 C: 이론 근거 강함 (FitNet, SDKD), 논문 기여도 높음
  • 방법 D: 5가구 동시 학습 필요 → 리스크 높음, C 성공 후에만

결과

  • 방법 E (A_adp FiLM + Adj-Guided): 2×2 Factorial 비유의 → FAIL
  • Gate 0-A: A_adp 대각선 지배도 FAIL (23.84, 기준 5.0의 4.8배)
  • 방법 C (Hidden Alignment): 미실행 — 다음 단계 후보
  • 방법 D (Relational KD): 미실행