maminusのメモか何か
id:maminus
ONNXRuntimeのカスタムオペレータを実装してみた
ソースコードはここ↓ github.com 背景とか TensorRTを使おうとしてモデルの一部をONNXのカスタムオペレータにすることがある。(TensorRTのプラグインを使うケース) ただカスタムオペレータを含むモデルはそのままではONNXRuntimeで推論できない。ということはONNX Simplifierのようなツールを使うこともできない。 カス…