由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - The Linux Scheduler: a Decade of Wasted Cores
相关主题
问个弱智问题Google Web Toolkit 令人失望 (转载)
来来,讨论一下multithread, multi-core, affinityPHP真火啊
要不要学习 scripting languages such as Python?java在数组上的问题:作茧自缚
why do we need to map user threads to kernel threads?Intern/Full-time Opportunity for Graphics/GUI Software Engi (转载)
C++ 做线性代数,方便使用的库?GOOG tops $1000 now
如何在website里面画graph?处理海量csv数据+socket data stream processing: scala还是clojure
想把项目的code全部从matlab转到C++可行吗?Java搞图像分析还是不成气候啊
请教牛人:自学内核编程怎么开始呢借人气求教 我这种基础能自学成码农吗 (转载)
相关话题的讨论汇总
话题: scheduler话题: linux话题: cores话题: wasted话题: decade
进入Programming版参与讨论
1 (共1页)
c*******v
发帖数: 2599
1
http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
=======================
这些scheduler都不是以预测为基础的算法。
也就是reforement learning或者预测控制为基础的办法。
我认为实际上大型的服务器,客户端给的request可预测性更强。
反而是很少用户的服务器,客户端给的需求难以预测。
在现代AI/ML把线性代数普及到程序员级别后,
会有更好的solution。
c*******v
发帖数: 2599
2
Actually I felt Android did better.

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

h*i
发帖数: 3446
3
prediction based algorithms will have un-forseen problems.
Do that with cpu, you get meltdown etc.
Do that with OS scheduler, you will probably enable some kind of attacks.
I would rather let these decisions to app developers: provide a bunch of
toolkit, so they can choose, config, or even customize their own scheduler
algorithms for their needs.

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

g****t
发帖数: 31659
4
Let's write some books and give some talks on "best practice of coding xxx
app" to handle the un-forseen problems.

【在 h*i 的大作中提到】
: prediction based algorithms will have un-forseen problems.
: Do that with cpu, you get meltdown etc.
: Do that with OS scheduler, you will probably enable some kind of attacks.
: I would rather let these decisions to app developers: provide a bunch of
: toolkit, so they can choose, config, or even customize their own scheduler
: algorithms for their needs.

c*******v
发帖数: 2599
5
http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
=======================
这些scheduler都不是以预测为基础的算法。
也就是reforement learning或者预测控制为基础的办法。
我认为实际上大型的服务器,客户端给的request可预测性更强。
反而是很少用户的服务器,客户端给的需求难以预测。
在现代AI/ML把线性代数普及到程序员级别后,
会有更好的solution。
c*******v
发帖数: 2599
6
Actually I felt Android did better.

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

h*i
发帖数: 3446
7
prediction based algorithms will have un-forseen problems.
Do that with cpu, you get meltdown etc.
Do that with OS scheduler, you will probably enable some kind of attacks.
I would rather let these decisions to app developers: provide a bunch of
toolkit, so they can choose, config, or even customize their own scheduler
algorithms for their needs.

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

g****t
发帖数: 31659
8
Let's write some books and give some talks on "best practice of coding xxx
app" to handle the un-forseen problems.

【在 h*i 的大作中提到】
: prediction based algorithms will have un-forseen problems.
: Do that with cpu, you get meltdown etc.
: Do that with OS scheduler, you will probably enable some kind of attacks.
: I would rather let these decisions to app developers: provide a bunch of
: toolkit, so they can choose, config, or even customize their own scheduler
: algorithms for their needs.

c*******v
发帖数: 2599
9
这个贴更有意思。作者之结论,有github代码可以实证。

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

h**********c
发帖数: 4120
10
你能定义下这个AI/ML,
很多统计上的优化,在大规模集成电路的设计中已经用过了。不如叫给年轻人实际的职
业技能,比如计算机辅助翻肉并啥的

【在 c*******v 的大作中提到】
: http://www.ece.ubc.ca/~sasha/papers/eurosys16-final29.pdf
: =======================
: 这些scheduler都不是以预测为基础的算法。
: 也就是reforement learning或者预测控制为基础的办法。
: 我认为实际上大型的服务器,客户端给的request可预测性更强。
: 反而是很少用户的服务器,客户端给的需求难以预测。
: 在现代AI/ML把线性代数普及到程序员级别后,
: 会有更好的solution。

相关主题
想把项目的code全部从matlab转到C++可行吗?PHP真火啊
请教牛人:自学内核编程怎么开始呢java在数组上的问题:作茧自缚
Google Web Toolkit 令人失望 (转载)Intern/Full-time Opportunity for Graphics/GUI Software Engi (转载)
进入Programming版参与讨论
c*******v
发帖数: 2599
11
我管别人的事干嘛。驴头不对马嘴的人多了,你操心的过来吗。
linux kernel之前有遗传算法scheduler patch (2005),
我说的思路,不是啥独创。只是随便一说而已。从优化的角度而言,
NP类型的问题,组合优化问题,一直有人用AI/ML做。
https://mandrivausers.org/index.php?/topic/21976-tuning-the-kernel-with-a-
genetic-algorithm/&tab=comments#comment-164521

【在 h**********c 的大作中提到】
: 你能定义下这个AI/ML,
: 很多统计上的优化,在大规模集成电路的设计中已经用过了。不如叫给年轻人实际的职
: 业技能,比如计算机辅助翻肉并啥的

n******t
发帖数: 4406
12
這事情上面Linus是對的,別去在意他裝逼的語氣。
scheduler沒啥好折騰的,越複雜越沒用。因爲真正scale的時候都是app自己調度的。
當然這東西學術界的人始終有興趣,聽起來高大上,外行還不懂,又能發頂會,何樂而
不爲呢?
我有一個專搞吞吐優化的系統,最後最好的性能是在no scheduler上面搞出來的。
scheduler弄來弄去唯一有點用的地方是桌面系統,所以平心而論這一點上面其實M$做
得還行。

【在 c*******v 的大作中提到】
: 这个贴更有意思。作者之结论,有github代码可以实证。
c*******v
发帖数: 2599
13
我看,Linus说的与做的可能要分开。
遗传算法scheduler还就是在linux上实战过(见之前的link)。
其他的系统(NT,Solaris,Mac,IBM/HP Unix,etc),此类fancy项目不可能进去的。
2005年linux应该是linus基本完全掌控的。

【在 n******t 的大作中提到】
: 這事情上面Linus是對的,別去在意他裝逼的語氣。
: scheduler沒啥好折騰的,越複雜越沒用。因爲真正scale的時候都是app自己調度的。
: 當然這東西學術界的人始終有興趣,聽起來高大上,外行還不懂,又能發頂會,何樂而
: 不爲呢?
: 我有一個專搞吞吐優化的系統,最後最好的性能是在no scheduler上面搞出來的。
: scheduler弄來弄去唯一有點用的地方是桌面系統,所以平心而論這一點上面其實M$做
: 得還行。

c*******v
发帖数: 2599
14
另外对固定任务的机器而言,(我认为)理论上来说,优化到最后要做的反而是去掉OS
带来的
overhead。
----道理很明显:OS那堆各种资源优化,从内存到进程线程,都是针对通用计算机的。
就是说未来机器干什么是不知道的,但是有几个假设的条件。(例如最近用过的线程,
下一次更容易起来。)
然而,要是一个server是任务固定和明确的,那些东西包括OS里面很多东西都是没用的。
这就是这件事荒谬的地方。
所以从这个角度而言,我同意你的说法。

【在 n******t 的大作中提到】
: 這事情上面Linus是對的,別去在意他裝逼的語氣。
: scheduler沒啥好折騰的,越複雜越沒用。因爲真正scale的時候都是app自己調度的。
: 當然這東西學術界的人始終有興趣,聽起來高大上,外行還不懂,又能發頂會,何樂而
: 不爲呢?
: 我有一個專搞吞吐優化的系統,最後最好的性能是在no scheduler上面搞出來的。
: scheduler弄來弄去唯一有點用的地方是桌面系統,所以平心而論這一點上面其實M$做
: 得還行。

n******t
发帖数: 4406
15
Linux自己就是一個open source項目誰願意加什麼加什麼本來就沒限制。你要merge進
linus的branch當然另說。
但是其實在Linux被大公司控制之前,從商用角度來說本身merge進kernel tree並不是
很重要,很多公司維護 out-of-tree kerne很多年,沒有任何問題。

【在 c*******v 的大作中提到】
: 我看,Linus说的与做的可能要分开。
: 遗传算法scheduler还就是在linux上实战过(见之前的link)。
: 其他的系统(NT,Solaris,Mac,IBM/HP Unix,etc),此类fancy项目不可能进去的。
: 2005年linux应该是linus基本完全掌控的。

n******t
发帖数: 4406
16
任務固定不一定說只run一個任務,所以OS裏面很多東西還是有用的。但是這個裏面那
些需要那些不需要,是一個trade off,知道搞到什麼程度適可而止是這裏面最重要的
技術。
過猶不及這件事情,很多做CS人是不理解的,因爲這件事情需要的是審美,不是具體知
識。當然成天刷題的人更是已經失去了養成正確審美的能力。

OS
的。

【在 c*******v 的大作中提到】
: 另外对固定任务的机器而言,(我认为)理论上来说,优化到最后要做的反而是去掉OS
: 带来的
: overhead。
: ----道理很明显:OS那堆各种资源优化,从内存到进程线程,都是针对通用计算机的。
: 就是说未来机器干什么是不知道的,但是有几个假设的条件。(例如最近用过的线程,
: 下一次更容易起来。)
: 然而,要是一个server是任务固定和明确的,那些东西包括OS里面很多东西都是没用的。
: 这就是这件事荒谬的地方。
: 所以从这个角度而言,我同意你的说法。

T********i
发帖数: 2416
17
我当年开源发布的那个12306,就是针对no scheduler做的的一个小程序。
不需要扯淡,自动就能最优。
c*******v
发帖数: 2599
18
你把之前别人贴那个并行计算c程序自动优化下看看要多久算出来。
其最初版本有大数组access。

【在 T********i 的大作中提到】
: 我当年开源发布的那个12306,就是针对no scheduler做的的一个小程序。
: 不需要扯淡,自动就能最优。

T********i
发帖数: 2416
19
我从来不刷任何题,没空,也没那个能力。


: 你把之前别人贴那个并行计算c程序自动优化下看看要多久算出来。

: 其最初版本有大数组access。



【在 c*******v 的大作中提到】
: 你把之前别人贴那个并行计算c程序自动优化下看看要多久算出来。
: 其最初版本有大数组access。

1 (共1页)
进入Programming版参与讨论
相关主题
JS就应该杜绝OOPC++ 做线性代数,方便使用的库?
请问为什么现在big data的toolkit都是和java有紧密的关系?如何在website里面画graph?
举两个用java搞算法的例子,供批判使用想把项目的code全部从matlab转到C++可行吗?
技术都是有局限性的请教牛人:自学内核编程怎么开始呢
问个弱智问题Google Web Toolkit 令人失望 (转载)
来来,讨论一下multithread, multi-core, affinityPHP真火啊
要不要学习 scripting languages such as Python?java在数组上的问题:作茧自缚
why do we need to map user threads to kernel threads?Intern/Full-time Opportunity for Graphics/GUI Software Engi (转载)
相关话题的讨论汇总
话题: scheduler话题: linux话题: cores话题: wasted话题: decade