由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 搭建一个real time online serving system
相关主题
online service machine learning model deploymentScala的用途
关于aws问goodbug老师一个问题Pinterest陶涛:三个教训和三个发展选择
Pinterest的开源deploy系统:TeletraanScala in L
在software的工业界,中国人技术上做到最高那一层?现在cpp真的没用武之地了。高频交易都可以用java做了
还是别争了,从旁观者角度看,两个方案没准都能工作【南加内推】Big data SWE (转载)
Cassandra 看测试read也不算慢呢怎么设计这个client
java 真不适合12306一类的网站混linux+open source三个月有感,对开发人员来说就是个大坑啊!
c++的两大威胁为什么apache big data 项目多是Java?
相关话题的讨论汇总
话题: serving话题: real话题: time话题: online话题: 搭建
进入Programming版参与讨论
1 (共1页)
s********k
发帖数: 6180
1
就是offline的machine learning已经做好了model需要比较real time的online
serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving
by C++?还是有其他什么更好的技术方案?
s*****e
发帖数: 115
2
我也在local 机器上搭一个kubernete来serve tensorflow的model,model是自己train
的。还没找到好用的tutorial

serving

【在 s********k 的大作中提到】
: 就是offline的machine learning已经做好了model需要比较real time的online
: serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving
: by C++?还是有其他什么更好的技术方案?

h**********c
发帖数: 4120
3
啥叫real time,啥叫real time,啥叫real time?
real time 要求有scheduler,你这么分布的架构,先讲讲时钟同步怎么解决,QOS spec。

serving

【在 s********k 的大作中提到】
: 就是offline的machine learning已经做好了model需要比较real time的online
: serving,一般的技术架构是什么?kafka处理log进storm,然后核心的online serving
: by C++?还是有其他什么更好的技术方案?

s********k
发帖数: 6180
4
确实这个定义还没写清楚,起码就是delay不能500ms以上吧,你说的其他问题还得进一
步看看

spec。

【在 h**********c 的大作中提到】
: 啥叫real time,啥叫real time,啥叫real time?
: real time 要求有scheduler,你这么分布的架构,先讲讲时钟同步怎么解决,QOS spec。
:
: serving

h**********e
发帖数: 4328
5
deploy到所有app server?

【在 s********k 的大作中提到】
: 确实这个定义还没写清楚,起码就是delay不能500ms以上吧,你说的其他问题还得进一
: 步看看
:
: spec。

s*****e
发帖数: 115
6
楼主需要转发图片么? 如果图片比较大,比如2-3 MB一张, realtime假设是30张,是
不是应该用shared memory的办法而不是message passing?
1 (共1页)
进入Programming版参与讨论
相关主题
为什么apache big data 项目多是Java?还是别争了,从旁观者角度看,两个方案没准都能工作
tensorflow的designCassandra 看测试read也不算慢呢
[请教]friend class in C++ templatejava 真不适合12306一类的网站
C++要学到什么程度?c++的两大威胁
online service machine learning model deploymentScala的用途
关于aws问goodbug老师一个问题Pinterest陶涛:三个教训和三个发展选择
Pinterest的开源deploy系统:TeletraanScala in L
在software的工业界,中国人技术上做到最高那一层?现在cpp真的没用武之地了。高频交易都可以用java做了
相关话题的讨论汇总
话题: serving话题: real话题: time话题: online话题: 搭建