[Onnx] onnx-simplifier dynamic batch 모델 사용 방법

onnx-simplifier란

onnx-simplifier은 onnx model의 구조를 간소화해주는 작업을 진행한다.

 

onnx-simplifier는 밑의 링크에 가면 간단한 사용법을 알 수 있다.

https://shuka.tistory.com/7?category=1224641

[Onnx] onnx-simplifier를 이용한 onnx 모델 간소화

 

dynamic batch에 대한 onnx-simplifier 오류

그런데 만약 pytorch나 다른 framework에서 onnx로 변환할 때 dynamic batch로 해서 onnx model로 변환을 하였을 경우 onnxsim을 쓸 때 다음과 같으 에러가 발생한다.

 

 

dynamic batch에 대한 onnx-simplifier 오류 해결

model이 dynamic 형식으로 되어 있기 때문에 option을 넣어주라는 오류이다.

python -m onnxsim model.onnx model_sim.onnx --dynamic-input-shape --input-shape "input_cls:1,3,256,256"

 

여기서 input_cls는 onnx로 변환할 때 input 이름을 지정해 줬으면 그 이름과 같은 이름으로 지정해주면 된다.