Tensorflow Serving API의 Predict Server 구축에서 CPU | GPU의 속도차이

-

Tensorflow Serving API는 Predict Server 구축에서 CPU | GPU의 속도차이

[결론]
 GPU


[사유]

 1개의 Prediction Request를 진행할때

CPU | GPU의 성능차이는 별로 없어 보이지만

대량 요청의 경우에는 GPU가 훨씬 빠른 성능을 보인다고 한다.

너무 당연한 얘기.... 그냥 기록 남길려고 한다.

[참고링크]
https://github.com/tensorflow/serving/issues/798

评论

发表评论

此博客中的热门博文

String

-
# trim # Python string_ = string.strip() # Java String string_ = string.trim(); # PHP $ string_ = trim( $stirng ); # substring  # Python result = string[0:6] # 0/6 - Index # Java String sub = string.substring(0, 6); # 0/6 - Index # PHP $ string_ = substr( $string , 0, 6); # 0 - Start # 6 - Length # equals # Java Only boolean tf = string . equals ( "string" ); # Operation == <- HDD address equals # length # Python lenght = len( string ) # Java int i = string .lenght(); # PHP $ int = strlen($ string ); # split # Python array = string.split( "delimiter" ) # Java String[] array = string.split( "," ); # Parameter : Regex, limit # Can use Regex. # PHP $array = explode( "delimiter" , $string); # concat  # Java String string = string .concat(string_) ; String string = string + string_ ; # Python / PHP string = string + string_ $string = $string . $string_ ; ...
阅读全文

Linux Cron

-
crontab -e # 修改 crontab 文件，如果文件不存在会自动创建 crontab –l # 显示 crontab 文件 crontab -r # 删除 crontab 文件 crontab -ir # 删除 crontab 文件前提醒用户 #Example # m h  dom mon dow   command */2 * * * * date >> ~/time.log ## 每隔两分钟就执行 date >> ~/time.log 命令（记录当前时间到time.log文件）。你可以把它加入你的crontab中，然后保存退出。 sudo service cron restart # 星号          表示任意值，比如在小时部分填写 * 代表任意小时（每小时） # 逗号          可以允许在一个部分中填写多个值，比如在分钟部分填写 1,3 表示一分钟或三分钟 # 斜线          一般配合 * 使用，代表每隔多长时间，比如在小时部分填写 */2 代表每隔两分钟。所以 */1 和 * 没有区别                   */2 可以看成是能被2整除的任意值。 * * * * * # 每隔一分钟执行一次任务 0 * * * * # 每小时的0点执行一次任务，比如6:00，10:00 6,10 * 2 * * # 每个月2号，每小时的6分和10分执行一次任务 */3,*/5 * * * * # 每隔3分钟或5分钟执行一次任务，比如10:03，10:05，10:06 [Link][] https://blog.csdn.net/u014221090/article/details/53816231 [Link][] https://www.cnblogs.com/daxian2012/articles/2589894.html [De...
阅读全文

链表

-
链表 class Node:     def __init__(self,initdata):         self.data = initdata         self.next = None     def getData(self):         return self.data     def getNext(self):         return self.next     def setData(self,newdata):         self.data = newdata     def setNext(self,newnext):         self.next = newnext 无序链表 class UnorderedList:          # init_head is last Node.      def __init__(self):         self.head = None              def isEmpty(self):         return self.head == None     def add(self,item):         temp = Node(item)         temp.setNext(self.head)         self.head = temp  ...
阅读全文