Tensorflow Serving API의 Predict Server 구축에서 CPU | GPU의 속도차이
Tensorflow Serving API는 Predict Server 구축에서 CPU | GPU의 속도차이 [결론] GPU [사유] 1개의 Prediction Request를 진행할때 CPU | GPU의 성능차이는 별로 없어 보이지만 대량 요청의 경우에는 GPU가 훨씬 빠른 성능을 보인다고 한다. 너무 당연한 얘기.... 그냥 기록 남길려고 한다. [참고링크] https://github.com/tensorflow/serving/issues/798