s********k 发帖数: 6180 | 1 就是offline的machine learning已经做好了model需要比较real time的online
serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving
by C++?还是有其他什么更好的技术方案? |
s*****e 发帖数: 115 | 2 我也在local 机器上搭一个kubernete来serve tensorflow的model,model是自己train
的。还没找到好用的tutorial
serving
【在 s********k 的大作中提到】 : 就是offline的machine learning已经做好了model需要比较real time的online : serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving : by C++?还是有其他什么更好的技术方案?
|
h**********c 发帖数: 4120 | 3 啥叫real time,啥叫real time,啥叫real time?
real time 要求有scheduler,你这么分布的架构,先讲讲时钟同步怎么解决,QOS spec。
serving
【在 s********k 的大作中提到】 : 就是offline的machine learning已经做好了model需要比较real time的online : serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving : by C++?还是有其他什么更好的技术方案?
|
s********k 发帖数: 6180 | 4 确实这个定义还没写清楚,起码就是delay不能500ms以上吧,你说的其他问题还得进一
步看看
spec。
【在 h**********c 的大作中提到】 : 啥叫real time,啥叫real time,啥叫real time? : real time 要求有scheduler,你这么分布的架构,先讲讲时钟同步怎么解决,QOS spec。 : : serving
|
h**********e 发帖数: 4328 | 5 deploy到所有app server?
【在 s********k 的大作中提到】 : 确实这个定义还没写清楚,起码就是delay不能500ms以上吧,你说的其他问题还得进一 : 步看看 : : spec。
|
s*****e 发帖数: 115 | 6 楼主需要转发图片么? 如果图片比较大,比如2-3 MB一张, realtime假设是30张,是
不是应该用shared memory的办法而不是message passing? |