Tensorflow Serving API의 Predict Server 구축에서 CPU | GPU의 속도차이
Tensorflow Serving API는 Predict Server 구축에서 CPU | GPU의 속도차이
[결론]
GPU
[사유]
1개의 Prediction Request를 진행할때
CPU | GPU의 성능차이는 별로 없어 보이지만
대량 요청의 경우에는 GPU가 훨씬 빠른 성능을 보인다고 한다.
너무 당연한 얘기.... 그냥 기록 남길려고 한다.
[참고링크]
https://github.com/tensorflow/serving/issues/798
评论
发表评论