由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - tensorflow session run 的 overhead 太大怎么办?
相关主题
再来问问tensorflow的问题一个C++的概念问题
lightroom请科普下双路deep learningintel icc hash_map 求救!
tensorflow用小的batch size GPU吃不饱怎么破?STL感觉实在太变态了
Spark 和 Tensorflow 线性回归问题[菜鸟问题]类模板问题
Log file for VB application ?c++ iterator 弱问
C++请教,使用c++ vector iterator后输出vector数据出错c++ template question:
总结一下kaggle比赛请问Linux底下有没有最简易的show 2D x-y curve的工具
DL一个基础问题:用那个design pattern好?
相关话题的讨论汇总
话题: tensorflow话题: estimator话题: api话题: 训练话题: overhead
进入Programming版参与讨论
1 (共1页)
l****r
发帖数: 119
1
用tensorflow做ctr预估,我用cpu单机调用tensorflow estimator api训练一个简单的
模型,比如FFM,每一个minibatch的训练速度其实很快,比如一个batch 500个样本,
速度2ms吧。想提高训练速度。。我发现tensorflow session.run()的开销挺大的,因
为每次都检查输入的是什么。。estimator api调用monitoredsession,session.run之
前之后检查各种hook,开销更大~1ms。所以这个模型一半的时间消耗在python代码里,
难以提速。
请教大牛,大样本的ctr预估模型,一般怎么加速?调c++ api么?多谢!
l*******m
发帖数: 1096
2
你这个模型应该上TF v2,TF.function 可以让一句python跑n iterations. 所以
python的overhead大大减少。我的gnn, 用tf.function比eager快了快一倍,估计比v1
的静态图快20-40%

:用tensorflow做ctr预估,我用cpu单机调用tensorflow estimator api训练一个简单
的模型,比如FFM,每一个minibatch的训练速度其实很快,比如一个batch 500个样本,
:速度2ms吧。想提高训练速度。。我发现tensorflow session.run()的开销挺大的,因
l****r
发帖数: 119
3
多谢!TF2.0 的estimator api 比TF1.x快么?我回去研究一下

v1
本,
,因

【在 l*******m 的大作中提到】
: 你这个模型应该上TF v2,TF.function 可以让一句python跑n iterations. 所以
: python的overhead大大减少。我的gnn, 用tf.function比eager快了快一倍,估计比v1
: 的静态图快20-40%
:
: :用tensorflow做ctr预估,我用cpu单机调用tensorflow estimator api训练一个简单
: 的模型,比如FFM,每一个minibatch的训练速度其实很快,比如一个batch 500个样本,
: :速度2ms吧。想提高训练速度。。我发现tensorflow session.run()的开销挺大的,因

b******g
发帖数: 77
4
训练用python,训练完export成saved model,用model server serving。
l****r
发帖数: 119
5
是的想提高训练的速度

【在 b******g 的大作中提到】
: 训练用python,训练完export成saved model,用model server serving。
l*******m
发帖数: 1096
6
不清楚。我v1也用estimator, v2不用了。主要是虽然还支持但不鼓励。我用keras建模
,但自己写train loop, 这样自己好控制

:多谢!TF2.0 的estimator api 比TF1.x快么?我回去研究一下
1 (共1页)
进入Programming版参与讨论
相关主题
关于inserterLog file for VB application ?
binary_search只要求forward_iterator?C++请教,使用c++ vector iterator后输出vector数据出错
deque的pointer和reference是怎么回事?总结一下kaggle比赛
a question about std::stackDL一个基础问题:
再来问问tensorflow的问题一个C++的概念问题
lightroom请科普下双路deep learningintel icc hash_map 求救!
tensorflow用小的batch size GPU吃不饱怎么破?STL感觉实在太变态了
Spark 和 Tensorflow 线性回归问题[菜鸟问题]类模板问题
相关话题的讨论汇总
话题: tensorflow话题: estimator话题: api话题: 训练话题: overhead