내가 하는 일은 Python에서 모델을 연구 및 학습 하고 학습한 모델을 c++에서 추론할 수 있는 라이브러리를 만들어 배포하는 일이다. 모델 학습은 Tensorflow, PyTorch, MXNet등의 프레임워크는 사용하기 쉽기 때문에 크게 문제될 것은 없다. 따라서, C++에서 추론을 하기 최대한 간편한 프레임워크를 찾아 학습 프레임워크도 그것에 맞추기로 마음 먹었다. (미리 말하는 현재 나의 Best: PyTorch(학습) -> Onnx(변환) -> Onnx runtime(추론)) 1. 선택 기준 - windows 및 linux에서 사용가능해야한다. - 라이브러리의 크기가 너무 크면 안된다. - GPU 사용이 가능해야하며, GPU 메모리의 할당과 해제가 올바르게 작동해야한다. - 멀티 Thread 환..
[ML/DL] 모델 학습 및 C++ 추론 프레임워크 선택기
내가 하는 일은 Python에서 모델을 연구 및 학습 하고 학습한 모델을 c++에서 추론할 수 있는 라이브러리를 만들어 배포하는 일이다. 모델 학습은 Tensorflow, PyTorch, MXNet등의 프레임워크는 사용하기 쉽기 때문에 크게 문제될 것은 없다. 따라서, C++에서 추론을 하기 최대한 간편한 프레임워크를 찾아 학습 프레임워크도 그것에 맞추기로 마음 먹었다. (미리 말하는 현재 나의 Best: PyTorch(학습) -> Onnx(변환) -> Onnx runtime(추론)) 1. 선택 기준 - windows 및 linux에서 사용가능해야한다. - 라이브러리의 크기가 너무 크면 안된다. - GPU 사용이 가능해야하며, GPU 메모리의 할당과 해제가 올바르게 작동해야한다. - 멀티 Thread 환..
2022.03.10
