Operator Fusion

İşleç birleştirme (Operator Fusion) — Ardışık tensor operasyonlarını tek optimize kernel veya graph node içinde birleştirerek memory traffic ve kernel launch overhead'i azaltma.

ML Sistemleri Bağlamı

MatMul + bias + activation veya normalization zincirleri fusion adayı olabilir. Inference engine shape ve hardware bilgisine göre fusion uygular.

Model ve Servis Sınırı

Fusion her zaman mümkün değildir; dynamic control flow, aliasing veya numerik hassasiyet kısıtları ayrı kernel gerektirebilir.

İlişkili ML Sistem Kavramları

• ONNX
• Inference Engine
• Memory Bandwidth
• Kernel