由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 為什麼golang algernon比C nginx慢幾十倍?golang行嗎
相关主题
Goodbug,是不是单机大于1 million/s的I/O你就输了?C++ OO approach to use multi-dim array for HPC
什么是OS Memory management and heap structure?Help, what you can do in this situation?
说说我以前做的ultra low latency架构吧求推荐:fortran好用的debug软件
玩go还是要玩OOlinux内存分配中page的几个问题
magagop可以看看这些基本golang scheduler的资料转王垠雄文-Oberon 操作系统:一个被忽略的珍宝
怎样能把go写的稍微漂亮一点?请教一个逻辑地址到物理地址映射的问题 (转载)
magagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。转:王垠--一种新的操作系统设计
刚刚发现,立刻简报,SHOW大坑看晕了
相关话题的讨论汇总
话题: futex话题: pid话题: golang话题: resumed话题: unfinished
进入Programming版参与讨论
1 (共1页)
m*****p
发帖数: 39
1
軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
一代架構了。
這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
nginx的零頭多,75% CPU都是idle,有失golang的水準。
這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件
開發部門不停的refactoring,翻修輪子製造工作崗位,才能保證軟件質量和性能。這
樣對於優秀的硬件工程師,跳槽也就一兩家公司競爭offer,而同樣優秀的軟件工程師
會有十幾家或更多公司競爭,包裹大幾倍就成了正常的市場現象。
w***g
发帖数: 5958
2
软件也是,c的性能被numpy糟蹋,numpy被pandas糟蹋,tensorflow被keras糟蹋,
pandas和keras用的人最多。下里巴人最好找工作。

:軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx
差了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
:一代架構了。
n***p
发帖数: 110
3
要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
功不可没

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

g****t
发帖数: 31659
4
Golang写起来和python一样容易。那么
只要比python快几倍就可以了。不和c plus比。
g****t
发帖数: 31659
5
以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
现在语言的设计要讨好程序员,不然出门就是死。
在这个程序员民主化进程中,唯一的例外是basic.
Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
不是没有道理的。


: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
c.

: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
硬件的

: 功不可没



【在 n***p 的大作中提到】
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
: 功不可没

n***p
发帖数: 110
6
嗯,各花入各眼,很难一个语言一统江湖。

【在 g****t 的大作中提到】
: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
: 现在语言的设计要讨好程序员,不然出门就是死。
: 在这个程序员民主化进程中,唯一的例外是basic.
: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
: 不是没有道理的。
:
:
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
: c.
:
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
: 硬件的

g****t
发帖数: 31659
7
参考文献
http://time.com/69316/basic/
Basic: the language that made computers personal
I would lik to say:
DNN: the algorithm that made data analysis personal


: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。

: 现在语言的设计要讨好程序员,不然出门就是死。

: 在这个程序员民主化进程中,唯一的例外是basic.

: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,

: 不是没有道理的。

: c.

: 硬件的



【在 g****t 的大作中提到】
: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
: 现在语言的设计要讨好程序员,不然出门就是死。
: 在这个程序员民主化进程中,唯一的例外是basic.
: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
: 不是没有道理的。
:
:
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
: c.
:
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
: 硬件的

y**********u
发帖数: 2839
8
没用,又没钱,还天天担心被裁,惨惨惨

【在 n***p 的大作中提到】
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
: 功不可没

s*********y
发帖数: 6151
9
静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是nginx改吧
改吧 你提这种问题没意思的很
d******c
发帖数: 2407
10
你这个引申的结论就不合适了
搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
多,可能性无限。
硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
件成本算上,而且这个成本是和规模一起放大的。
你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。
另外nginx本来就是俄罗斯人搞的,在一个领域追求性能极致,golang是几个人创造工
具创造市场给自己保住饭碗,你用的更不知道是谁写的自己吹牛用的,跟nginx这样在
市场中证明的肯定没法比。

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

相关主题
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
magagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。Help, what you can do in this situation?
刚刚发现,立刻简报,SHOW求推荐:fortran好用的debug软件
进入Programming版参与讨论
g****t
发帖数: 31659
11
Can we put go binary server behind the nginx ?

【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

m*****p
发帖数: 39
12
就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
就像drystone測試,一般都選最簡單的應用。


: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
nginx改吧

: 改吧 你提这种问题没意思的很



【在 s*********y 的大作中提到】
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是nginx改吧
: 改吧 你提这种问题没意思的很

T*******x
发帖数: 8565
13
numpy 糟蹋C的性能了吗?

:软件也是,c的性能被numpy糟蹋,numpy被pandas糟蹋,tensorflow被keras糟蹋,
:pandas和keras用的人最多。下里巴人最好找工作。
m*****p
发帖数: 39
14
我的主要觀點是硬件設計非常謹慎,我們改幾行RTL都得層層審批,一幫大牛評估,可
有可無的都被砍掉,於是硬件CPU廠家的性能差距越來越小。而軟件互聯網領域開發要
求糙快猛,實現同樣的功能,性能差異極大,導致各種方便麵語言橫行,golang是一個
,python更差,java也不咋滴。
我認為主要原因不是golang、python、java這些語言爛,而是用這些語言的大部分程序
員普遍缺乏軟件效率和CPU架構的基本常識,寫的東西爛。但這些並不妨礙他們的
package大,福利更好。因為硬件領域狡兔死獵狗烹,做得太穩定就沒工作了。


: 你这个引申的结论就不合适了

: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造
市场

: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的
事情太

: 多,可能性无限。

: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,
产生新

: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,
成本只

: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得
先把硬

: 件成本算上,而且这个成本是和规模一起放大的。

: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕
你真的

: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。



【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

m*****p
发帖数: 39
15
互聯網領域講究一個月上線,勉強完成功能,然後不斷改進提高性能,提升空間有一百
倍以上。硬件正好相反,用幾年時間設計,一旦發布,靠固件和微指令性能提升空間只
有幾個percent,如果出問題(meltdown)新固件性能下降卻很大。這就是我感嘆的地
方。
n***p
发帖数: 110
16
试过rust的iron或者rocket没有? 期待你的评估结果

【在 m*****p 的大作中提到】
: 就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
: 求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
: 就像drystone測試,一般都選最簡單的應用。
:
:
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
: nginx改吧
:
: 改吧 你提这种问题没意思的很
:

w***g
发帖数: 5958
17
可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。

【在 g****t 的大作中提到】
: Can we put go binary server behind the nginx ?
m*****p
发帖数: 39
18
你說的scale成本低是不準確的。我們硬件scale有兩種:scale-up和scale-out。你說
的scale成本線性增加是scale-out,但多核處理器設計必須要考慮scale-up,就是在同
樣內存地址空間上爆核心,問題很多,不容易提升。另外MPI算scale-out,OpenMP是
scale-up。互聯網基本是scale-out,傳統數據庫是scale-up。CPU設計兩個都需要考慮。


: 你这个引申的结论就不合适了

: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造
市场

: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的
事情太

: 多,可能性无限。

: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,
产生新

: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,
成本只

: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得
先把硬

: 件成本算上,而且这个成本是和规模一起放大的。

: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕
你真的

: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。



【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

y**********u
发帖数: 2839
19
感觉magagop兄说这么多,还是因为自己挣得太少,如果把你的package和互联网换过来
,你应该很开心吧
加油吧,有空去龟版看看,里面氛转码围很好的
爱你宝贝

【在 m*****p 的大作中提到】
: 互聯網領域講究一個月上線,勉強完成功能,然後不斷改進提高性能,提升空間有一百
: 倍以上。硬件正好相反,用幾年時間設計,一旦發布,靠固件和微指令性能提升空間只
: 有幾個percent,如果出問題(meltdown)新固件性能下降卻很大。這就是我感嘆的地
: 方。

d***a
发帖数: 13752
20
ngnix快,是因为写它的人对硬件性能非常了解,对软件底层细节抠的很细。连C++都不
用,只用C, 就是为了性能最大化啊。
其实你自己不就是在做这种类型的工作吗?我的理解,你做的工作是系统软件优化,
对吧?

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

相关主题
linux内存分配中page的几个问题转:王垠--一种新的操作系统设计
转王垠雄文-Oberon 操作系统:一个被忽略的珍宝大坑看晕了
请教一个逻辑地址到物理地址映射的问题 (转载)high performance computer architecture 这课有啥大意义吗
进入Programming版参与讨论
y*j
发帖数: 3139
21
Apache 的那些project用过几个,每个质量都相当差,印象相对不好。


: 可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。



【在 w***g 的大作中提到】
: 可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。
e*******o
发帖数: 4654
22
看了一下algernon 一个人搞的大杂烩。
lz你比较各啥。
d*******o
发帖数: 493
23
go本身就有http.FileServer,为什么要用第三方库。
性能跟nginx相差不大
https://www.reddit.com/r/golang/comments/28so0e/go_networking_performance_vs
_nginx/
m**u
发帖数: 541
24
其实这很好理解,什么都是为着客户转的,你看看现在垃圾程序员是大多数,作为语言
的客户,你得为着他们转,搞高了他们弄不转,就不用了,所以没有客户了,语言就挂
了。所以,归根结底,是现在程序员烂货居多导致的。
S*******n
发帖数: 305
25
algernon 性能比nginx慢几十倍,你就得出golang不行了…… 然后感叹硬件不好混...
.无力吐槽
d******c
发帖数: 2407
26
任何一个功能要做好都没有简单的
这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
少钱途,因为nginx已经push到极限了,很难有余地做的更好
软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
开始个项目,但那根本不是产品

【在 m*****p 的大作中提到】
: 就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
: 求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
: 就像drystone測試,一般都選最簡單的應用。
:
:
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
: nginx改吧
:
: 改吧 你提这种问题没意思的很
:

y**********u
发帖数: 2839
27
其实magagop兄耿耿于怀的就是那帮傻x凭啥挣那么多了,百思不得其解
索南都不容易啊,大家一起转码拿大包不好吗?

【在 d******c 的大作中提到】
: 任何一个功能要做好都没有简单的
: 这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
: 了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
: 少钱途,因为nginx已经push到极限了,很难有余地做的更好
: 软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
: 开始个项目,但那根本不是产品

m*****p
发帖数: 39
28
刚刚用了golang official的http benchmark,得到跟algernon同样的结果,说明还是
golang的问题,即使用124个线程,性能也无法达到nginx在48核上98%的占用率,
golang http benchmark只有30%占用率。
https://github.com/golang/benchmarks/blob/master/http/http.go

【在 e*******o 的大作中提到】
: 看了一下algernon 一个人搞的大杂烩。
: lz你比较各啥。

y**********u
发帖数: 2839
29
软件做这么烂?为啥还能拿大包呢?百思不得其解啊

【在 m*****p 的大作中提到】
: 刚刚用了golang official的http benchmark,得到跟algernon同样的结果,说明还是
: golang的问题,即使用124个线程,性能也无法达到nginx在48核上98%的占用率,
: golang http benchmark只有30%占用率。
: https://github.com/golang/benchmarks/blob/master/http/http.go

m*****p
发帖数: 39
30
为什么我测试的性能差别很大呢,难道哪里搞错了?
我现在用这个:https://github.com/golang/benchmarks/blob/master/http/http.go
48核30k RPS,nginx是400k以上

vs

【在 d*******o 的大作中提到】
: go本身就有http.FileServer,为什么要用第三方库。
: 性能跟nginx相差不大
: https://www.reddit.com/r/golang/comments/28so0e/go_networking_performance_vs
: _nginx/

相关主题
老魏问你个问题什么是OS Memory management and heap structure?
咱们好像生活在两个世界里说说我以前做的ultra low latency架构吧
Goodbug,是不是单机大于1 million/s的I/O你就输了?玩go还是要玩OO
进入Programming版参与讨论
m*****p
发帖数: 39
31
golang的http microbenchmark结果跟algernon一样,说明不是algernon问题,要不就
是golang需要额外调优,跟jvm一样https://github.com/golang/benchmarks/blob/
master/http/http.go

..

【在 S*******n 的大作中提到】
: algernon 性能比nginx慢几十倍,你就得出golang不行了…… 然后感叹硬件不好混...
: .无力吐槽

m*****p
发帖数: 39
32
但是http都这么弱,违背了当初golang的卖点:如java一样好用,类似c的性能。
其实性能比c弱多了,根本就不是类似好么。

【在 d******c 的大作中提到】
: 任何一个功能要做好都没有简单的
: 这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
: 了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
: 少钱途,因为nginx已经push到极限了,很难有余地做的更好
: 软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
: 开始个项目,但那根本不是产品

s********k
发帖数: 6180
33
同学,这些语言的目的就是让人不需要了解硬件底层都可以写,要不又懂CPU,又懂多
核,NUMA架构,还懂服务器设计的人才实在太少,怎么满足的了人民群众日益增长的需
求啊

【在 m*****p 的大作中提到】
: 我的主要觀點是硬件設計非常謹慎,我們改幾行RTL都得層層審批,一幫大牛評估,可
: 有可無的都被砍掉,於是硬件CPU廠家的性能差距越來越小。而軟件互聯網領域開發要
: 求糙快猛,實現同樣的功能,性能差異極大,導致各種方便麵語言橫行,golang是一個
: ,python更差,java也不咋滴。
: 我認為主要原因不是golang、python、java這些語言爛,而是用這些語言的大部分程序
: 員普遍缺乏軟件效率和CPU架構的基本常識,寫的東西爛。但這些並不妨礙他們的
: package大,福利更好。因為硬件領域狡兔死獵狗烹,做得太穩定就沒工作了。
:
:
: 你这个引申的结论就不合适了
:
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造

m*****p
发帖数: 39
34
对头,一个人随便写写,就能开一个项目,拿大包裹。
algernon支持的feature一大堆,却连基本的http static file都做不好。
说明很多开源项目的功能其实是只能看看而已,别当真。
golang不吹牛说跟C效率类似,就更没有人用了

【在 y**********u 的大作中提到】
: 其实magagop兄耿耿于怀的就是那帮傻x凭啥挣那么多了,百思不得其解
: 索南都不容易啊,大家一起转码拿大包不好吗?

s********k
发帖数: 6180
35
其实你可以去把它那个改好,就也能拿大包裹了:)
话说我看到很多benchmark都没有差10倍,C肯定是要快,不过你可以贴code看看是不是
哪里测试错了

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

m*****p
发帖数: 39
36
NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
古怪的新语言:golang/rust/scala等等。

【在 s********k 的大作中提到】
: 同学,这些语言的目的就是让人不需要了解硬件底层都可以写,要不又懂CPU,又懂多
: 核,NUMA架构,还懂服务器设计的人才实在太少,怎么满足的了人民群众日益增长的需
: 求啊

m*****p
发帖数: 39
37
https://github.com/golang/benchmarks/blob/master/http/http.go
就是这个

【在 s********k 的大作中提到】
: 其实你可以去把它那个改好,就也能拿大包裹了:)
: 话说我看到很多benchmark都没有差10倍,C肯定是要快,不过你可以贴code看看是不是
: 哪里测试错了

y**********u
发帖数: 2839
38
赞magagop兄这么坦诚,爱你

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

y**********u
发帖数: 2839
39
赞magagop兄这么坦诚,爱你

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

h*i
发帖数: 3446
40


【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

相关主题
玩go还是要玩OOmagagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
magagop可以看看这些基本golang scheduler的资料刚刚发现,立刻简报,SHOW
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
进入Programming版参与讨论
s********k
发帖数: 6180
41
有几个人能有做出Nginx水平啊,广大人民群众的需求这点少的牛人满足不了啊

【在 m*****p 的大作中提到】
: NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
: 古怪的新语言:golang/rust/scala等等。

s********k
发帖数: 6180
42
话说老兄觉得Golang现在没法pin to core,不识NUMA,这正是大好机会啊,你要是能
够参与这方面的工作岂不是立马就大包裹了.看问题角度要不同嘛,你看到一个东西烂
,但是还很受欢迎,不要去质疑为什么烂还收欢迎,要去想为啥这么烂还能收欢迎,我
稍微改进下岂不是可以日进斗金。这样想大包裹自然来。
随便给两个你看看
https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
qxM2Vp7iGwwuM/pub
https://docs.google.com/document/d/1At2Ls5_
fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit

【在 m*****p 的大作中提到】
: NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
: 古怪的新语言:golang/rust/scala等等。

y**********u
发帖数: 2839
43
> : https://docs.google.com/document/d/1At2Ls5_
> : fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit
竟然是Russ Cox,多年前经常在USACO上看到他的题解,往事如梦啊

【在 s********k 的大作中提到】
: 话说老兄觉得Golang现在没法pin to core,不识NUMA,这正是大好机会啊,你要是能
: 够参与这方面的工作岂不是立马就大包裹了.看问题角度要不同嘛,你看到一个东西烂
: ,但是还很受欢迎,不要去质疑为什么烂还收欢迎,要去想为啥这么烂还能收欢迎,我
: 稍微改进下岂不是可以日进斗金。这样想大包裹自然来。
: 随便给两个你看看
: https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
: qxM2Vp7iGwwuM/pub
: https://docs.google.com/document/d/1At2Ls5_
: fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit

m*****p
发帖数: 39
44
罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
// scanobject scans the object starting at b, adding pointers to gcw.
// b must point to the beginning of a heap object or an oblet.
// scanobject consults the GC bitmap for the pointer mask and the
// spans for the size of the object.
//
//go:nowritebarrier
func scanobject(b uintptr, gcw *gcWork) {
// Note that arena_used may change concurrently during
// scanobject and hence scanobject may encounter a pointer to
// a newly allocated heap object that is *not* in
// [start,used). It will not mark this object; however, we
// know that it was just installed by a mutator, which means
// that mutator will execute a write barrier and take care of
// marking it. This is even more pronounced on relaxed memory
// architectures since we access arena_used without barriers
// or synchronization, but the same logic applies.
...
// Work here is duplicated in scanblock and above.
// If you make changes here, make changes there too.
obj := *(*uintptr)(unsafe.Pointer(b + i)) ===> this line
caused cache miss?
// At this point we have extracted the next potential
pointer.
// Check if it points into heap and not back at the current
object.
if obj != 0 && arena_start <= obj && obj < arena_used && obj
-b >= n {
// Mark the object.
if obj, hbits, span, objIndex := heapBitsForObject(
obj, b, i); obj != 0 {
greyobject(obj, b, i, hbits, span, gcw,
objIndex)
}
}
y**********u
发帖数: 2839
45
赞啊,转码浪费了,可是不转还是没钱,唉,人生好难

【在 m*****p 的大作中提到】
: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
: // scanobject scans the object starting at b, adding pointers to gcw.
: // b must point to the beginning of a heap object or an oblet.
: // scanobject consults the GC bitmap for the pointer mask and the
: // spans for the size of the object.
: //
: //go:nowritebarrier
: func scanobject(b uintptr, gcw *gcWork) {
: // Note that arena_used may change concurrently during
: // scanobject and hence scanobject may encounter a pointer to

f*******t
发帖数: 7549
46
展开说说?

【在 m*****p 的大作中提到】
: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
: // scanobject scans the object starting at b, adding pointers to gcw.
: // b must point to the beginning of a heap object or an oblet.
: // scanobject consults the GC bitmap for the pointer mask and the
: // spans for the size of the object.
: //
: //go:nowritebarrier
: func scanobject(b uintptr, gcw *gcWork) {
: // Note that arena_used may change concurrently during
: // scanobject and hence scanobject may encounter a pointer to

m*****p
发帖数: 39
47
目前发现两大问题:
1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
G1强很多么?NGINX不用GC不是照样可以写程序么?
2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
goroutines给本来就很脆弱的futex加重负担。
各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
设计失误吧?
[pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
u64=140170486062464}}], 128, -1) = 1
[pid 29063] futex(0x147c010, FUTEX_WAKE, 1) = 1
[pid 29063] read(6,
[pid 29010] <... futex resumed> ) = 0
[pid 29063] <... read resumed> "GET /1kb HTTP/1.1\r\nHost: dx-1"..., 4096) =
1316
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1) = 1
[pid 29977] <... futex resumed> ) = 0
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=0, tv_nsec=994743017} <
unfinished ...>
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] sched_yield(
[pid 29063] futex(0xc42434c148, FUTEX_WAKE, 1
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 0
[pid 29977] sched_yield(
[pid 29019] <... futex resumed> ) = 0
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29019] epoll_wait(4,
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29019] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29977] <... futex resumed> ) = 0
[pid 29063] write(6, "HTTP/1.1 200 OK\r\nAccept-Ranges: "..., 1444 <
unfinished ...>
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=9, tv_nsec=999836825} <
unfinished ...>
[pid 29019] futex(0xc432ddc948, FUTEX_WAKE, 1
[pid 29063] <... write resumed> ) = 1444
[pid 29019] <... futex resumed> ) = 1
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] sched_yield(
[pid 29062] <... futex resumed> ) = 0
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29063] read(6,
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29063] <... read resumed> 0xc42ed24000, 4096) = -1 EAGAIN (Resource
temporarily unavailable)
[pid 29977] <... futex resumed> ) = 0
[pid 29063] epoll_wait(4,
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=9, tv_nsec=999668369} <
unfinished ...>
[pid 29063] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29062] epoll_wait(4,
[pid 29063] epoll_wait(4,
[pid 29062] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29019] epoll_wait(4,
[pid 29062] futex(0xc432ddc948, FUTEX_WAIT, 0, NULL
[pid 29019] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29019] futex(0xc42434c148, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29010] futex(0x147c010, FUTEX_WAIT, 0, {tv_sec=60, tv_nsec=0} <
unfinished ...>
[pid 29977] <... futex resumed> ) = -1 ETIMEDOUT (Connection timed out)
[pid 29977] futex(0x147c010, FUTEX_WAKE, 1) = 1
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=0, tv_nsec=15876} <
unfinished ...>
[pid 29010] <... futex resumed> ) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29977] <... futex resumed> ) = -1 ETIMEDOUT (Connection timed out)
[pid 29977] futex(0xc42434c148, FUTEX_WAKE, 1) = 1
[pid 29019] <... futex resumed> ) = 0
[pid 29977] futex(0xc432ddc948, FUTEX_WAKE, 1
[pid 29019] futex(0xc4340ffd48, FUTEX_WAKE, 1
[pid 29977] <... futex resumed> ) = 1
[pid 29062] <... futex resumed> ) = 0
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=5, tv_nsec=730378996} <
unfinished ...>
[pid 29062] futex(0xc432ddc948, FUTEX_WAIT, 0, NULL
[pid 29508] <... futex resumed> ) = 0
[pid 29019] <... futex resumed> ) = 1
[pid 29508] futex(0xc4340ffd48, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29019] epoll_ctl(4, EPOLL_CTL_DEL, 6, 0xc43657db64) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29019] close(6) = 0
[pid 29019] futex(0xc4340ffd48, FUTEX_WAKE, 1) = 1
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29019] futex(0xc42434c148, FUTEX_WAIT, 0, NULL
[pid 29508] <... futex resumed> ) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29508] futex(0xc4340ffd48, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29010] futex(0x147c010, FUTEX_WAIT, 0, {tv_sec=60, tv_nsec=0} <
unfinished ...>
m*****p
发帖数: 39
m*****p
发帖数: 39
49
golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。
T********i
发帖数: 2416
50
pid 29010 貌似是GC thread。否则没法解释20us醒一次。
GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实也很高。一般
比20%要大。
当然我可以用空间换时间。但是那是customize allocators。

【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

相关主题
Help, what you can do in this situation?转王垠雄文-Oberon 操作系统:一个被忽略的珍宝
求推荐:fortran好用的debug软件请教一个逻辑地址到物理地址映射的问题 (转载)
linux内存分配中page的几个问题转:王垠--一种新的操作系统设计
进入Programming版参与讨论
g****t
发帖数: 31659
51
牛。GC你统计过longest pause什么的吗?
gc作者之一在这里
https://groups.google.com/forum/m/?fromgroups#!topic/golang-dev/Ab1sFeoZg_8


: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b i))

: // scanobject scans the object starting at b, adding pointers to
gcw.

: // b must point to the beginning of a heap object or an oblet.

: // scanobject consults the GC bitmap for the pointer mask and
the

: // spans for the size of the object.

: //

: //go:nowritebarrier

: func scanobject(b uintptr, gcw *gcWork) {

: // Note that arena_used may change concurrently during

: // scanobject and hence scanobject may encounter a
pointer to



【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

g****t
发帖数: 31659
52
可预测性很重要。jvm最早时候我记得老死机吧?
c的话比较复杂,各种编译器各种优化什么的。


: pid 29010 貌似是GC thread。否则没法解释20us醒一次。

: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实
也很高
。一般

: 比20%要大。

: 当然我可以用空间换时间。但是那是customize allocators。



【在 T********i 的大作中提到】
: pid 29010 貌似是GC thread。否则没法解释20us醒一次。
: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实也很高。一般
: 比20%要大。
: 当然我可以用空间换时间。但是那是customize allocators。

s********k
发帖数: 6180
53
赞干货
两个问题
1,关闭GC等于内存最后一直在那然后不会回收,你做一次test可能性能更好,但是肯
定不是长久之计,GC只有20%的overhead其实还不错了,拿完全手动内存分配的C和go的
GC比肯定好,就像极致的手动挡当然比自动挡快,可以比较下JVM有GC下的overhead?
2. FUTEX, 是不是这个问题?https://github.com/golang/go/issues/23360
话说完全可以提交一个PR了

JVM
herd

【在 m*****p 的大作中提到】
: 目前发现两大问题:
: 1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
: G1强很多么?NGINX不用GC不是照样可以写程序么?
: 2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
: problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
: goroutines给本来就很脆弱的futex加重负担。
: 各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
: 设计失误吧?
: [pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
: u64=140170486062464}}], 128, -1) = 1

d***a
发帖数: 13752
54
如果用golang的syscall包,可以用SO_REUSEPORT吧。OS要支持SO_REUSEPORT。
这个比较对golang不太公平。golang可以做很多事情,nginx专长做web server。

【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

d***a
发帖数: 13752
55
我的两分钱如下: :-)
1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
关,看起来象。
2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
futex调用。
我说的不一定对。

JVM
herd

【在 m*****p 的大作中提到】
: 目前发现两大问题:
: 1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
: G1强很多么?NGINX不用GC不是照样可以写程序么?
: 2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
: problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
: goroutines给本来就很脆弱的futex加重负担。
: 各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
: 设计失误吧?
: [pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
: u64=140170486062464}}], 128, -1) = 1

d***a
发帖数: 13752
56
看了一下algernon源代码,好像就是用了golang的http包,在上面加了一层处理各种文
件类型...如果我的理解没错。
这样来做,不太可能有好的性能啊。:)

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

s********k
发帖数: 6180
57
所以说就是golang的这个包并没有做event based loop,还是直接狂开goroutine,所
以肯定比不过专门针对epoll做的IO密集型nginx?

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

s********k
发帖数: 6180
58
golfing 里面那个http package最好?

【在 d***a 的大作中提到】
: 看了一下algernon源代码,好像就是用了golang的http包,在上面加了一层处理各种文
: 件类型...如果我的理解没错。
: 这样来做,不太可能有好的性能啊。:)

m*****p
发帖数: 39
59
SO_REUSEPORT是Linux Kernel 3.9里面新加的,可以让多个process共享socket,减少
socket accept上的瓶颈。
golang不支持这个我挺吃惊的。NGINX 1.9就有了。对于业务繁重的HTTP服务器,或者
压力测试,SO_REUSEPORT必不可少。
感觉默认的goroutine blocking工作模式效率比non-blocking event poll低很多,虽
然编程更容易。
难道后端不应该都是non-blocking模式么?还有goroutine概念,给硬件加速带来负担
。不知道各种网卡traffic steering技术对golang有没有效果。

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

m*****p
发帖数: 39
60
内存设计得好,就不需要自动GC。内存泄露可以用工具各种测试,反而JVM GC的bug不
好弄,也不好优化。
Cassandra为了躲避GC,特地用JNI搞了offheap objects,malloc也换成jemalloc,这
不就是Cpp么?
JVM GC效率也是问题,G1比CMS慢好多,Shenandoah比G1更慢。。。
关于20%问题,对于软件工程师可能不算什么,对于硬件CPU,10%以上就可以决定跑分
输赢。

【在 s********k 的大作中提到】
: 赞干货
: 两个问题
: 1,关闭GC等于内存最后一直在那然后不会回收,你做一次test可能性能更好,但是肯
: 定不是长久之计,GC只有20%的overhead其实还不错了,拿完全手动内存分配的C和go的
: GC比肯定好,就像极致的手动挡当然比自动挡快,可以比较下JVM有GC下的overhead?
: 2. FUTEX, 是不是这个问题?https://github.com/golang/go/issues/23360
: 话说完全可以提交一个PR了
:
: JVM
: herd

相关主题
大坑看晕了咱们好像生活在两个世界里
high performance computer architecture 这课有啥大意义吗Goodbug,是不是单机大于1 million/s的I/O你就输了?
老魏问你个问题什么是OS Memory management and heap structure?
进入Programming版参与讨论
m*****p
发帖数: 39
61
自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
都这么做了
只有亚麻和阿里是奇葩。

【在 g****t 的大作中提到】
: 可预测性很重要。jvm最早时候我记得老死机吧?
: c的话比较复杂,各种编译器各种优化什么的。
:
:
: pid 29010 貌似是GC thread。否则没法解释20us醒一次。
:
: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实
: 也很高
: 。一般
:
: 比20%要大。
:
: 当然我可以用空间换时间。但是那是customize allocators。
:

s********k
发帖数: 6180
62
这些大公司里面,CPP,java,golang都用的(当然软软加上C#),CPP是好,但是真是
顶级人才满足不了人民群众日益增长需求,要精通太难了。
做大规模项目
human is always the least scalable in your system

【在 m*****p 的大作中提到】
: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
: 都这么做了
: 只有亚麻和阿里是奇葩。

s********k
发帖数: 6180
63
你看看这个?
https://github.com/kavu/go_reuseport
https://github.com/libp2p/go-reuseport

【在 m*****p 的大作中提到】
: SO_REUSEPORT是Linux Kernel 3.9里面新加的,可以让多个process共享socket,减少
: socket accept上的瓶颈。
: golang不支持这个我挺吃惊的。NGINX 1.9就有了。对于业务繁重的HTTP服务器,或者
: 压力测试,SO_REUSEPORT必不可少。
: 感觉默认的goroutine blocking工作模式效率比non-blocking event poll低很多,虽
: 然编程更容易。
: 难道后端不应该都是non-blocking模式么?还有goroutine概念,给硬件加速带来负担
: 。不知道各种网卡traffic steering技术对golang有没有效果。

m*****p
发帖数: 39
64
謝謝,我也找到這些了,但他們都是非標準、野生的SO_REUSEPORT庫,我本身也不是搞
golang的,只能報告裡面寫,目前標準golang不支持,未來1.11有可能支持了

【在 s********k 的大作中提到】
: 你看看这个?
: https://github.com/kavu/go_reuseport
: https://github.com/libp2p/go-reuseport

w**z
发帖数: 8232
65
绝大部分的应用对实时性的要求是可以容忍 偶尔 long gc。 一般互联网公司 SLA 99.
99% 在 large distributed system 里,别说 long paused GC, 整个机器不见了的事
情时刻在发生。客户端容错做好就行了,一个 request timeout, 下一个 request 就
去别的node

:自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
:我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
m*****p
发帖数: 39
66
其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
論:http://accelazh.github.io/storage/Tail-Latency-Study
百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
1。關閉GOGC,優化tail latency。
2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
事件編程的效率,來彌補goroutine性能問題。
結論是GO可以被使用,但需要優化。
https://youtu.be/n9FkJkMdzL4

99.
华为

【在 w**z 的大作中提到】
: 绝大部分的应用对实时性的要求是可以容忍 偶尔 long gc。 一般互联网公司 SLA 99.
: 99% 在 large distributed system 里,别说 long paused GC, 整个机器不见了的事
: 情时刻在发生。客户端容错做好就行了,一个 request timeout, 下一个 request 就
: 去别的node
:
: :自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
: :我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为

y**********u
发帖数: 2839
67
牛逼,请收下我的膝盖

【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

s********k
发帖数: 6180
68
赞资料
现在golang运行环境大部分其实更复杂,很多事在cloud上的VM做的,VM针对bare
linux的调度就是多了一层,如果用container(绝大部分golang都用k8s或者其他
container的部署技术)比如k8s,那么一个VM只是一个node,上面还有很多pod,又加
了一层隔离,其中的网络配置方式也可以有多种。所以这个性能优化还真是一个大课题
。搞定这个绝对大包不愁啊
magagop 你底层系统经验这么好,绝对应该搞搞这个

【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

y*j
发帖数: 3139
69
关于Go的多线程GC慢的问题,这里有一个解释:
https://blog.cloudflare.com/go-dont-collect-my-garbage/
基本就是线程很多的时候,GC频繁回收大量的临时变量,导致性能提升不大。
他调节了GOGC的参数,最后能够充分利用24核,性能提高23倍。


: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。

: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软
腾讯百
度华为

: 都这么做了

: 只有亚麻和阿里是奇葩。



【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

y*j
发帖数: 3139
70
关于Golang, 我感觉是CPP的一个简化版,但是砍得太猛了,也许留下stack 上的自动
变量会好一些。至少减轻GC的压力。


: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。

: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百
度华为

: 都这么做了

: 只有亚麻和阿里是奇葩。



【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

相关主题
什么是OS Memory management and heap structure?magagop可以看看这些基本golang scheduler的资料
说说我以前做的ultra low latency架构吧怎样能把go写的稍微漂亮一点?
玩go还是要玩OOmagagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
进入Programming版参与讨论
m*****p
发帖数: 39
71
剛才看了看goroutine的評論,發現Csharp的fiber和Java的loom都很有競爭力,Cpp也
有Facebook的Folly庫支持fiber,看來狗家go確實沒有軟家Csharp語言能力強。
T********i
发帖数: 2416
72
俺一直都说,C#是最好的语言。。。。

【在 m*****p 的大作中提到】
: 剛才看了看goroutine的評論,發現Csharp的fiber和Java的loom都很有競爭力,Cpp也
: 有Facebook的Folly庫支持fiber,看來狗家go確實沒有軟家Csharp語言能力強。

m*****p
发帖数: 39
73
關於golang的NUMA,我找到文檔了,2014年設計,至今(2018年)沒有人實現,說明不
容易。老毛子就是有人才啊,Dmitry Vyukov
https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
qxM2Vp7iGwwuM/pub
https://groups.google.com/forum/#!topic/golang-dev/Hjj3fPBLXlk
m*****p
发帖数: 39
74
这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
少的。
The main concepts in Go runtime are:
M - OS thread (Machine).
P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
G - Goroutine.
Netpoll - network poller (epoll descriptor).
RunQ - scheduler queue with runnable G's.
MHeap - global memory allocator state (contains central caches and free
spans).
MCache - per-P memory allocator cache.
GC - garbage collector.
Current system architecture can be depicted as follows:
Runtime does not try hard to ensure any locality, resources like P's and M's
are pooled. Runtime is not aware of system topology. MCache is tied to P,
and this provides some locality. But then P is not tied to M, so this *
locality is easily destroyable*. New G's are generally submitted to the
local RunQ, but once again P is not tied to M. When an M returns from a
syscall quickly, it tries to re-acquire the same P it used before the
syscall.
m*****p
发帖数: 39
75
多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且还能非
线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。

【在 y*j 的大作中提到】
: 关于Go的多线程GC慢的问题,这里有一个解释:
: https://blog.cloudflare.com/go-dont-collect-my-garbage/
: 基本就是线程很多的时候,GC频繁回收大量的临时变量,导致性能提升不大。
: 他调节了GOGC的参数,最后能够充分利用24核,性能提高23倍。
:
:
: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
:
: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软
: 腾讯百
: 度华为
:
: 都这么做了

y*j
发帖数: 3139
76
把GC完全关掉,时间一长,非耗尽内存空间不可。


: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且
还能非

: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。



【在 m*****p 的大作中提到】
: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且还能非
: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。

b*******s
发帖数: 5216
77
golang + docker may be the best practice

【在 s********k 的大作中提到】
: 赞资料
: 现在golang运行环境大部分其实更复杂,很多事在cloud上的VM做的,VM针对bare
: linux的调度就是多了一层,如果用container(绝大部分golang都用k8s或者其他
: container的部署技术)比如k8s,那么一个VM只是一个node,上面还有很多pod,又加
: 了一层隔离,其中的网络配置方式也可以有多种。所以这个性能优化还真是一个大课题
: 。搞定这个绝对大包不愁啊
: magagop 你底层系统经验这么好,绝对应该搞搞这个

y*j
发帖数: 3139
78
Csharp 也是我的favorite。java和它相比很粗糙,cpp 和它相比又太复杂混乱。


: 俺一直都说,C#是最好的语言。。。。



【在 T********i 的大作中提到】
: 俺一直都说,C#是最好的语言。。。。
m*****p
发帖数: 39
79
CSharp在Linux、非x86架构下有性能很好的编译器和库么?
听说.NET开源的只是核心库,不是全部,不知道未来怎样。还有IDE和社区,这也很重
要。

【在 y*j 的大作中提到】
: Csharp 也是我的favorite。java和它相比很粗糙,cpp 和它相比又太复杂混乱。
:
:
: 俺一直都说,C#是最好的语言。。。。
:

m*****p
发帖数: 39
80
关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。

【在 y*j 的大作中提到】
: 把GC完全关掉,时间一长,非耗尽内存空间不可。
:
:
: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且
: 还能非
:
: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。
:

相关主题
刚刚发现,立刻简报,SHOW求推荐:fortran好用的debug软件
C++ OO approach to use multi-dim array for HPClinux内存分配中page的几个问题
Help, what you can do in this situation?转王垠雄文-Oberon 操作系统:一个被忽略的珍宝
进入Programming版参与讨论
y*j
发帖数: 3139
81
我自己瞎猜的,如果内存一点也不释放的话,会损失Cache locality, 内存空间会碎片
化。


: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。



【在 m*****p 的大作中提到】
: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。
d***a
发帖数: 13752
82
内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。

【在 y*j 的大作中提到】
: 我自己瞎猜的,如果内存一点也不释放的话,会损失Cache locality, 内存空间会碎片
: 化。
:
:
: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。
:

s********k
发帖数: 6180
83
用.Net core,比之前那个overhead很高的.net好很多,关键是LINQ比Java 新的那个
stream好用啊

【在 m*****p 的大作中提到】
: CSharp在Linux、非x86架构下有性能很好的编译器和库么?
: 听说.NET开源的只是核心库,不是全部,不知道未来怎样。还有IDE和社区,这也很重
: 要。

s********k
发帖数: 6180
84
page fault不是忙IO把,是swap出去之后重新load进TLB很花时间?

害。

【在 d***a 的大作中提到】
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。
s********k
发帖数: 6180
85
如果本来就是在VM上面再加pod上运行container,这个NUMA的作用还会很大吗?因为没
法控制底层的OS,golang也很难做好scheduler把?

miss

【在 m*****p 的大作中提到】
: 这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
: 和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
: 估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
: 该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
: 少的。
: The main concepts in Go runtime are:
: M - OS thread (Machine).
: P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
: G - Goroutine.
: Netpoll - network poller (epoll descriptor).

s********k
发帖数: 6180
86
我觉得你是不是可以换个方法实验
你目前的实验室基于一个200+核心直接run bare golang的http server?但是实际上很
多golang打包container的都是基于pod的,可以试一下k8s,比如你开# of core 个VM
?然后pin每个VM到一个core成为一个node,再每个node上再开2个pod?
所以你原来的测试是1个http server 开N个goroutine,现在变成每个pod上开一个http
server,就应该是1个http server开N/200/2个goroutine
这样的scheduler问题就完全变了。不知道效果如何

miss

【在 m*****p 的大作中提到】
: 这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
: 和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
: 估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
: 该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
: 少的。
: The main concepts in Go runtime are:
: M - OS thread (Machine).
: P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
: G - Goroutine.
: Netpoll - network poller (epoll descriptor).

y*j
发帖数: 3139
87
看那个报告的样子,应该还没有到经常page fault 的地步,否则性能会下降得非常厉
害。


: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss
更厉害。



【在 d***a 的大作中提到】
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。
d***a
发帖数: 13752
88
从内存里做TLB refill大约是150-200个纳秒左右吧,page fault的延迟是毫秒级了。

【在 s********k 的大作中提到】
: page fault不是忙IO把,是swap出去之后重新load进TLB很花时间?
:
: 害。

d***a
发帖数: 13752
89
是的,不过如果把GC关掉长时间运行下去,page fault会增加的。

miss

【在 y*j 的大作中提到】
: 看那个报告的样子,应该还没有到经常page fault 的地步,否则性能会下降得非常厉
: 害。
:
:
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss
: 更厉害。
:

s********k
发帖数: 6180
90
哦所以你意思是swap到disk上了?不做GC确实有可能,不过如果GC下多个goroutine频
繁调度不知道会不会频繁重新load TLB,golang的schedule好像在避免这个

【在 d***a 的大作中提到】
: 从内存里做TLB refill大约是150-200个纳秒左右吧,page fault的延迟是毫秒级了。
相关主题
请教一个逻辑地址到物理地址映射的问题 (转载)high performance computer architecture 这课有啥大意义吗
转:王垠--一种新的操作系统设计老魏问你个问题
大坑看晕了咱们好像生活在两个世界里
进入Programming版参与讨论
m*****p
发帖数: 39
91
.NET Core 2目前只支持Windows下的arm64,等Linux下也有arm64再開始轉吧。
Mono支持Linux的arm64,但性能應該不行(跟gcc 7.2比)

【在 s********k 的大作中提到】
: 用.Net core,比之前那个overhead很高的.net好很多,关键是LINQ比Java 新的那个
: stream好用啊

m*****p
发帖数: 39
92
我們試過lxc和kvm,如果不是Xeon的CPU的話,性能會再下降一個數量級(因為host-
guest communication in kernel code),而且裡面坑特別多,就不細講了。另外
docker和k8s對非x86的支持也不是很好。
虛擬化和容器不是silverbullet,至少在性能上說。AWS最近就在去VM化,參考AWS
Nitro和baremetal EC2。如果同時用虛擬化和容器,或者雙重虛擬化,性能就別指望了。

VM
http

【在 s********k 的大作中提到】
: 我觉得你是不是可以换个方法实验
: 你目前的实验室基于一个200+核心直接run bare golang的http server?但是实际上很
: 多golang打包container的都是基于pod的,可以试一下k8s,比如你开# of core 个VM
: ?然后pin每个VM到一个core成为一个node,再每个node上再开2个pod?
: 所以你原来的测试是1个http server 开N个goroutine,现在变成每个pod上开一个http
: server,就应该是1个http server开N/200/2个goroutine
: 这样的scheduler问题就完全变了。不知道效果如何
:
: miss

s********k
发帖数: 6180
93
我的意思是实际上运行环境很多事虚拟化的,你把NGINX跑到VM上是不是也会性能下降.
VM肯定性能下降,但是大家(Golang http server 和NGINX)都下降下,你再比较下呢?
?关于去VM倒是又是一个课题。

了。

【在 m*****p 的大作中提到】
: 我們試過lxc和kvm,如果不是Xeon的CPU的話,性能會再下降一個數量級(因為host-
: guest communication in kernel code),而且裡面坑特別多,就不細講了。另外
: docker和k8s對非x86的支持也不是很好。
: 虛擬化和容器不是silverbullet,至少在性能上說。AWS最近就在去VM化,參考AWS
: Nitro和baremetal EC2。如果同時用虛擬化和容器,或者雙重虛擬化,性能就別指望了。
:
: VM
: http

m*****p
发帖数: 39
94
Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
多,這也是亞馬遜買CPU公司做硬件的原因。

降.
呢?

【在 s********k 的大作中提到】
: 我的意思是实际上运行环境很多事虚拟化的,你把NGINX跑到VM上是不是也会性能下降.
: VM肯定性能下降,但是大家(Golang http server 和NGINX)都下降下,你再比较下呢?
: ?关于去VM倒是又是一个课题。
:
: 了。

d***a
发帖数: 13752
95
你用的nginx和golang algernon是I/O intensive的workload。如果跑compute
intensive的workload,VM和裸机会很接近。
看起来你们用的硬件,对VM中的I/O部分的支持不好啊,不应该影响这么大。有可能是I
/O虚拟化的硬件支持不好。感觉你们的系统,要调的地方很多,工作量很大。:)

【在 m*****p 的大作中提到】
: Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
: 下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
: 多,這也是亞馬遜買CPU公司做硬件的原因。
:
: 降.
: 呢?

s********k
发帖数: 6180
96
对啊,我就是这个意思,专门针对单机优化上,最接近底层的C做出来的还是肯定好,
但是很少golang是在bare的单机上运行,大部分都是distributed的VM上

【在 m*****p 的大作中提到】
: Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
: 下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
: 多,這也是亞馬遜買CPU公司做硬件的原因。
:
: 降.
: 呢?

T********i
发帖数: 2416
97
其实所谓云架构,大多数是没啥必要的。
VM慢了一个数量级以上,无论如何都不能justify。
被人收割骗钱而已。

【在 s********k 的大作中提到】
: 对啊,我就是这个意思,专门针对单机优化上,最接近底层的C做出来的还是肯定好,
: 但是很少golang是在bare的单机上运行,大部分都是distributed的VM上

p*u
发帖数: 2454
98
云本来就是为了节省IT support的costs,不是提高性能。

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

s********k
发帖数: 6180
99
追求性能肯定要自己做,但是大部分应用上云架构主要是方便,开启服务,scale,
monitor,啥都方便,等到服务做大了,再专门自己搞DC做

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

m*****n
发帖数: 3575
100
你和软件工程师只有一个本质差别:
你不掌握生产资料,所以只能被剥夺剩余价值
卡尔 马克思
相关主题
Goodbug,是不是单机大于1 million/s的I/O你就输了?玩go还是要玩OO
什么是OS Memory management and heap structure?magagop可以看看这些基本golang scheduler的资料
说说我以前做的ultra low latency架构吧怎样能把go写的稍微漂亮一点?
进入Programming版参与讨论
j*******h
发帖数: 1
101
不明白。软件工程师不是也在被剥夺剩余价值?
本来软件既是生产资料又是劳动产出,结果给来了个开源。
唉唉唉

【在 m*****n 的大作中提到】
: 你和软件工程师只有一个本质差别:
: 你不掌握生产资料,所以只能被剥夺剩余价值
: 卡尔 马克思

N*****r
发帖数: 94
102

你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

【在 j*******h 的大作中提到】
: 不明白。软件工程师不是也在被剥夺剩余价值?
: 本来软件既是生产资料又是劳动产出,结果给来了个开源。
: 唉唉唉

j*******h
发帖数: 1
103
nginx

【在 N*****r 的大作中提到】
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

f******2
发帖数: 2455
104
开源是牛逼但不被承认的社会底层的唯一出路,类似十月革命掀桌子


: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司



【在 N*****r 的大作中提到】
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

f*******t
发帖数: 7549
105
啥出路?做高质量开源能挣大钱?

【在 f******2 的大作中提到】
: 开源是牛逼但不被承认的社会底层的唯一出路,类似十月革命掀桌子
:
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司
:

m*****n
发帖数: 3575
106
R就是这么搞的
一边开源
一边弄个收费高级版
还有Qt系列也是如此

【在 f*******t 的大作中提到】
: 啥出路?做高质量开源能挣大钱?
b******t
发帖数: 9
107
algernon三年四百多个星的野鸡库也敢用
想用go webserver, 试试caddy
l***p
发帖数: 358
108
速度不是唯一的要求

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

m*****p
发帖数: 39
109
IO虛擬化目前只有intel的vt-d、sr-iov、apic-v做得很好,其他非x86架構都不行,因
為軟件問題。別看白皮書介紹得簡單,裡面非常複雜,非常不好做,坑特別多。性能只
有xeon可以接近裸機,這就是xeon佔領99.9%市場的原因,amd都不行。

是I

【在 d***a 的大作中提到】
: 你用的nginx和golang algernon是I/O intensive的workload。如果跑compute
: intensive的workload,VM和裸机会很接近。
: 看起来你们用的硬件,对VM中的I/O部分的支持不好啊,不应该影响这么大。有可能是I
: /O虚拟化的硬件支持不好。感觉你们的系统,要调的地方很多,工作量很大。:)

w**z
发帖数: 8232
110
现在有自己DC的公司已经没几个了。以后也不太会有新的公司用自己DC了

【在 s********k 的大作中提到】
: 追求性能肯定要自己做,但是大部分应用上云架构主要是方便,开启服务,scale,
: monitor,啥都方便,等到服务做大了,再专门自己搞DC做

相关主题
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
magagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。Help, what you can do in this situation?
刚刚发现,立刻简报,SHOW求推荐:fortran好用的debug软件
进入Programming版参与讨论
s********k
发帖数: 6180
111
做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在cloud
上,比如netflix,但是99%公司还没到追求极致性能就死掉了

【在 w**z 的大作中提到】
: 现在有自己DC的公司已经没几个了。以后也不太会有新的公司用自己DC了
w**z
发帖数: 8232
112
你提到的那些都是在 cloud 流行之前开始的,不存在从 cloud 转到 自己 DC 的。公
司规模越大,要转的代价就越大, 真不如乖乖给 aws 写支票。新的有一定规模的公司
,除了 uber, 都在云上。

:做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在
cloud
:上,比如netflix,但是99%公司还没到追求极致性能就死掉了
f*******t
发帖数: 7549
113
Dropbox转到自己的DC了

【在 w**z 的大作中提到】
: 你提到的那些都是在 cloud 流行之前开始的,不存在从 cloud 转到 自己 DC 的。公
: 司规模越大,要转的代价就越大, 真不如乖乖给 aws 写支票。新的有一定规模的公司
: ,除了 uber, 都在云上。
:
: :做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在
: cloud
: :上,比如netflix,但是99%公司还没到追求极致性能就死掉了

w**z
发帖数: 8232
114
that was a bold move.
During its early years, Dropbox ran its entire operation on Amazon’s cloud
computing service. But more recently it has moved much of its
infrastructure off AWS to cut down on costs. The company said that in 2016,
it was able to shrink its cost of revenue by $35.1 million as part of its
AWS migration, which it refers to as “Infrastructure Optimization.” As
tech publication GeekWire notes, the data center move help saved
Dropbox about $75 million over a two-year period.

:Dropbox转到自己的DC了
m*****p
发帖数: 39
115
感覺golang的默認goroutine設計模式有問題,下面是golang http microbenchmark的
perf report:
60.24% [kernel] [k] arch_cpu_idle
6.43% [kernel] [k] _raw_spin_lock
4.40% http [.] runtime.runqgrab
2.19% http [.] runtime.findrunnable
感覺golang如果有很多goroutine和thread,大部分時間都會用在runtime.runqgrab上
,然後runtime.futex會過載,導致系統60% CPU都是idle
m*****p
发帖数: 39
116
在runtime/proc.go裡面有很多lock(&sched.lock),
例如把goroutine放到global runq裡面就需要lock
func goschedImpl(gp *g) {
status := readgstatus(gp)
if status&^_Gscan != _Grunning {
dumpgstatus(gp)
throw("bad g status")
}
casgstatus(gp, _Grunning, _Grunnable)
dropg()
lock(&sched.lock)
globrunqput(gp)
unlock(&sched.lock)
schedule()
}
sched是runtime2.go裡面的一個全局變量
var (
allglen uintptr
allm *m
allp []*p // len(allp) == gomaxprocs; may change at safe
points, otherwise immutable
allpLock mutex // Protects P-less reads of allp and all writes
gomaxprocs int32
ncpu int32
forcegc forcegcstate
sched schedt
newprocs int32
)
schedt是一個type struct
type schedt struct {
// accessed atomically. keep at top to ensure alignment on 32-bit
systems.
goidgen uint64
lastpoll uint64
lock mutex
// Global runnable queue.
runqhead guintptr
runqtail guintptr
runqsize int32
// Global cache of dead G's.
gflock mutex
// Central cache of sudog structs.
sudoglock mutex
// Central pool of available defer structs of different sizes.
deferlock mutex
}
lock mutex就是32位變量
// Mutual exclusion locks. In the uncontended case,
// as fast as spin locks (just a few user-level instructions),
// but on the contention path they sleep in the kernel.
// A zeroed Mutex is unlocked (no need to initialize each lock).
type mutex struct {
// Futex-based impl treats it as uint32 key,
// while sema-based impl as M* waitm.
// Used to be a union, but unions break precise GC.
key uintptr
}
func lock實現極其簡單,就是先CAS看鎖了沒,然後spinning一會兒,最後futexsleep:
// This implementation depends on OS-specific implementations of
//
// futexsleep(addr *uint32, val uint32, ns int64)
// Atomically,
// if *addr == val { sleep }
// Might be woken up spuriously; that's allowed.
// Don't sleep longer than ns; ns < 0 means forever.
//
// futexwakeup(addr *uint32, cnt uint32)
// If any procs are sleeping on addr, wake up at most cnt.
func lock(l *mutex) {
// Speculative grab for lock.
v := atomic.Xchg(key32(&l.key), mutex_locked)
if v == mutex_unlocked {
return
}
if ncpu > 1 {
spin = active_spin
}
for {
// Try for lock, spinning. procyield(active_spin_cnt)
// Try for lock, rescheduling. osyield()
// Sleep.
v = atomic.Xchg(key32(&l.key), mutex_sleeping)
if v == mutex_unlocked {
return
}
wait = mutex_sleeping
futexsleep(key32(&l.key), mutex_sleeping, -1)
}
}
m*****p
发帖数: 39
117
所以我前面提到的golang性能的第二個問題不是algernon獨有,也是golang區別於c的
最大特點:goroutine。目前golang最多能有一千萬併發goroutines,換成內存也就是
幾十GB,對於AWS上的只有幾十GB的VM小系統估計夠用了,但是對於多路1TB共享內存大
系統,golang目前沒有NUMA調度架構顯然不行。
測試golang http,其實變成了測試Linux sys_futex(),唉。。。
c****f
发帖数: 1102
118
现在只有很极致的公司才追求那10%的性能优化 更多的追求实用 短平快
人家根本不care这点区别 再堆机器就是了 机器多少钱 我请人回来弄类似nginx的
memory trick得花多少钱 以后怎么维护? 升级 更新怎么办?
就想之前碰到一个公司 所有的http服务都是in house的 结果碰到H2 自己做的基于LVS
的链接toss back不能用了不说 连H2的功能的prototype都要做好久
但是市场需求就是马上要H2 你怎么办? 只能去掉自己in house的LB
所有在用人成本 今后维护 各方面来说 真的可以追求那最顶点性能优化的公司也就没
几个
现在K8S这么热 大家都网上迁呢 谁在乎调度器和API被干爆了如何 多加几个就是了
m*****p
发帖数: 39
119
看清我的結論:性能差別10倍不止,不是10%,如果是50%,我都會說golang很好。但是
差距1000%,我就呵呵了。

LVS

【在 c****f 的大作中提到】
: 现在只有很极致的公司才追求那10%的性能优化 更多的追求实用 短平快
: 人家根本不care这点区别 再堆机器就是了 机器多少钱 我请人回来弄类似nginx的
: memory trick得花多少钱 以后怎么维护? 升级 更新怎么办?
: 就想之前碰到一个公司 所有的http服务都是in house的 结果碰到H2 自己做的基于LVS
: 的链接toss back不能用了不说 连H2的功能的prototype都要做好久
: 但是市场需求就是马上要H2 你怎么办? 只能去掉自己in house的LB
: 所有在用人成本 今后维护 各方面来说 真的可以追求那最顶点性能优化的公司也就没
: 几个
: 现在K8S这么热 大家都网上迁呢 谁在乎调度器和API被干爆了如何 多加几个就是了

f*******t
发帖数: 7549
120
别钻牛角尖了,找到一个特殊的应用说性能差10倍以上,作为技术研究是好的,但没有
实际意义。用Go写backend service的公司很多,碰到性能瓶颈,总会有fix或者
workaround。如果真的需要10倍性能,而Go无论如何都达不到的,就换更合适的语言写
对应的模块唄。

【在 m*****p 的大作中提到】
: 看清我的結論:性能差別10倍不止,不是10%,如果是50%,我都會說golang很好。但是
: 差距1000%,我就呵呵了。
:
: LVS

相关主题
linux内存分配中page的几个问题转:王垠--一种新的操作系统设计
转王垠雄文-Oberon 操作系统:一个被忽略的珍宝大坑看晕了
请教一个逻辑地址到物理地址映射的问题 (转载)high performance computer architecture 这课有啥大意义吗
进入Programming版参与讨论
m*****p
发帖数: 39
121
http的goroutine和gogc不是特殊應用,是golang做web後台的基礎好麼,回去先看看什
麼是goroutine和gogc再來回復。這兩個問題非常不好workaround,是golang區別於cpp
語言的根子。

【在 f*******t 的大作中提到】
: 别钻牛角尖了,找到一个特殊的应用说性能差10倍以上,作为技术研究是好的,但没有
: 实际意义。用Go写backend service的公司很多,碰到性能瓶颈,总会有fix或者
: workaround。如果真的需要10倍性能,而Go无论如何都达不到的,就换更合适的语言写
: 对应的模块唄。

g****t
发帖数: 31659
122
做web后台那你就和java比啊。和cpp较劲为哪般呢。。。
任何语言和c/cpp,fortran,pascal比性能都没什么意义。

cpp

【在 m*****p 的大作中提到】
: http的goroutine和gogc不是特殊應用,是golang做web後台的基礎好麼,回去先看看什
: 麼是goroutine和gogc再來回復。這兩個問題非常不好workaround,是golang區別於cpp
: 語言的根子。

m*****p
发帖数: 39
123
軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
一代架構了。
這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
nginx的零頭多,75% CPU都是idle,有失golang的水準。
這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件
開發部門不停的refactoring,翻修輪子製造工作崗位,才能保證軟件質量和性能。這
樣對於優秀的硬件工程師,跳槽也就一兩家公司競爭offer,而同樣優秀的軟件工程師
會有十幾家或更多公司競爭,包裹大幾倍就成了正常的市場現象。
w***g
发帖数: 5958
124
软件也是,c的性能被numpy糟蹋,numpy被pandas糟蹋,tensorflow被keras糟蹋,
pandas和keras用的人最多。下里巴人最好找工作。

:軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx
差了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
:一代架構了。
n***p
发帖数: 110
125
要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
功不可没

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

g****t
发帖数: 31659
126
Golang写起来和python一样容易。那么
只要比python快几倍就可以了。不和c plus比。
g****t
发帖数: 31659
127
以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
现在语言的设计要讨好程序员,不然出门就是死。
在这个程序员民主化进程中,唯一的例外是basic.
Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
不是没有道理的。


: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
c.

: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
硬件的

: 功不可没



【在 n***p 的大作中提到】
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
: 功不可没

n***p
发帖数: 110
128
嗯,各花入各眼,很难一个语言一统江湖。

【在 g****t 的大作中提到】
: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
: 现在语言的设计要讨好程序员,不然出门就是死。
: 在这个程序员民主化进程中,唯一的例外是basic.
: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
: 不是没有道理的。
:
:
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
: c.
:
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
: 硬件的

g****t
发帖数: 31659
129
参考文献
http://time.com/69316/basic/
Basic: the language that made computers personal
I would lik to say:
DNN: the algorithm that made data analysis personal


: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。

: 现在语言的设计要讨好程序员,不然出门就是死。

: 在这个程序员民主化进程中,唯一的例外是basic.

: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,

: 不是没有道理的。

: c.

: 硬件的



【在 g****t 的大作中提到】
: 以前程序员是硬件的奴隶。然后程序语言是C设计者的奴隶。
: 现在语言的设计要讨好程序员,不然出门就是死。
: 在这个程序员民主化进程中,唯一的例外是basic.
: Basic一开始就要讨好程序员。所以bill gates是basic的粉丝,
: 不是没有道理的。
:
:
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者
: c.
:
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞
: 硬件的

y**********u
发帖数: 2839
130
没用,又没钱,还天天担心被裁,惨惨惨

【在 n***p 的大作中提到】
: 要不是因为EE工程师们的不断努力提升硬件速度,现在最流行的应该是汇编或者c.
: 以前编程要讲究效率,现在“快”的要求从运算速度转向成develop和维护,搞硬件的
: 功不可没

相关主题
老魏问你个问题什么是OS Memory management and heap structure?
咱们好像生活在两个世界里说说我以前做的ultra low latency架构吧
Goodbug,是不是单机大于1 million/s的I/O你就输了?玩go还是要玩OO
进入Programming版参与讨论
s*********y
发帖数: 6151
131
静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是nginx改吧
改吧 你提这种问题没意思的很
d******c
发帖数: 2407
132
你这个引申的结论就不合适了
搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
多,可能性无限。
硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
件成本算上,而且这个成本是和规模一起放大的。
你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。
另外nginx本来就是俄罗斯人搞的,在一个领域追求性能极致,golang是几个人创造工
具创造市场给自己保住饭碗,你用的更不知道是谁写的自己吹牛用的,跟nginx这样在
市场中证明的肯定没法比。

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

g****t
发帖数: 31659
133
Can we put go binary server behind the nginx ?

【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

m*****p
发帖数: 39
134
就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
就像drystone測試,一般都選最簡單的應用。


: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
nginx改吧

: 改吧 你提这种问题没意思的很



【在 s*********y 的大作中提到】
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是nginx改吧
: 改吧 你提这种问题没意思的很

T*******x
发帖数: 8565
135
numpy 糟蹋C的性能了吗?

:软件也是,c的性能被numpy糟蹋,numpy被pandas糟蹋,tensorflow被keras糟蹋,
:pandas和keras用的人最多。下里巴人最好找工作。
m*****p
发帖数: 39
136
我的主要觀點是硬件設計非常謹慎,我們改幾行RTL都得層層審批,一幫大牛評估,可
有可無的都被砍掉,於是硬件CPU廠家的性能差距越來越小。而軟件互聯網領域開發要
求糙快猛,實現同樣的功能,性能差異極大,導致各種方便麵語言橫行,golang是一個
,python更差,java也不咋滴。
我認為主要原因不是golang、python、java這些語言爛,而是用這些語言的大部分程序
員普遍缺乏軟件效率和CPU架構的基本常識,寫的東西爛。但這些並不妨礙他們的
package大,福利更好。因為硬件領域狡兔死獵狗烹,做得太穩定就沒工作了。


: 你这个引申的结论就不合适了

: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造
市场

: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的
事情太

: 多,可能性无限。

: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,
产生新

: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,
成本只

: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得
先把硬

: 件成本算上,而且这个成本是和规模一起放大的。

: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕
你真的

: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。



【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

m*****p
发帖数: 39
137
互聯網領域講究一個月上線,勉強完成功能,然後不斷改進提高性能,提升空間有一百
倍以上。硬件正好相反,用幾年時間設計,一旦發布,靠固件和微指令性能提升空間只
有幾個percent,如果出問題(meltdown)新固件性能下降卻很大。這就是我感嘆的地
方。
n***p
发帖数: 110
138
试过rust的iron或者rocket没有? 期待你的评估结果

【在 m*****p 的大作中提到】
: 就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
: 求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
: 就像drystone測試,一般都選最簡單的應用。
:
:
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
: nginx改吧
:
: 改吧 你提这种问题没意思的很
:

w***g
发帖数: 5958
139
可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。

【在 g****t 的大作中提到】
: Can we put go binary server behind the nginx ?
m*****p
发帖数: 39
140
你說的scale成本低是不準確的。我們硬件scale有兩種:scale-up和scale-out。你說
的scale成本線性增加是scale-out,但多核處理器設計必須要考慮scale-up,就是在同
樣內存地址空間上爆核心,問題很多,不容易提升。另外MPI算scale-out,OpenMP是
scale-up。互聯網基本是scale-out,傳統數據庫是scale-up。CPU設計兩個都需要考慮。


: 你这个引申的结论就不合适了

: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造
市场

: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的
事情太

: 多,可能性无限。

: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,
产生新

: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,
成本只

: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得
先把硬

: 件成本算上,而且这个成本是和规模一起放大的。

: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕
你真的

: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。



【在 d******c 的大作中提到】
: 你这个引申的结论就不合适了
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造市场
: 但是对软件工程师的需求不是来自于这些被创造的市场,而是来源于软件能做的事情太
: 多,可能性无限。
: 硬件也可以做很多,但做个新硬件的成本和限制太多,周期太长,开辟新市场,产生新
: 产值这方面和软件没法比。软件从开源的开始往加东西,现成的都不需要成本,成本只
: 有很少的硬件成本,scale起来硬件成本不需要同样放大。硬件你用现成的也得先把硬
: 件成本算上,而且这个成本是和规模一起放大的。
: 你要想转CS,就得学习CS的优点,不能只从酸葡萄心理出发,那没有好处。哪怕你真的
: 认为软件就是靠烂创造市场,那你就该想想你怎么学这一招,也来靠烂创造市场。

相关主题
玩go还是要玩OOmagagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
magagop可以看看这些基本golang scheduler的资料刚刚发现,立刻简报,SHOW
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
进入Programming版参与讨论
y**********u
发帖数: 2839
141
感觉magagop兄说这么多,还是因为自己挣得太少,如果把你的package和互联网换过来
,你应该很开心吧
加油吧,有空去龟版看看,里面氛转码围很好的
爱你宝贝

【在 m*****p 的大作中提到】
: 互聯網領域講究一個月上線,勉強完成功能,然後不斷改進提高性能,提升空間有一百
: 倍以上。硬件正好相反,用幾年時間設計,一旦發布,靠固件和微指令性能提升空間只
: 有幾個percent,如果出問題(meltdown)新固件性能下降卻很大。這就是我感嘆的地
: 方。

d***a
发帖数: 13752
142
ngnix快,是因为写它的人对硬件性能非常了解,对软件底层细节抠的很细。连C++都不
用,只用C, 就是为了性能最大化啊。
其实你自己不就是在做这种类型的工作吗?我的理解,你做的工作是系统软件优化,
对吧?

【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

y*j
发帖数: 3139
143
Apache 的那些project用过几个,每个质量都相当差,印象相对不好。


: 可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。



【在 w***g 的大作中提到】
: 可以的,但是该慢还是慢啊。我现在全线从apache2转nginx了。
e*******o
发帖数: 4654
144
看了一下algernon 一个人搞的大杂烩。
lz你比较各啥。
d*******o
发帖数: 493
145
go本身就有http.FileServer,为什么要用第三方库。
性能跟nginx相差不大
https://www.reddit.com/r/golang/comments/28so0e/go_networking_performance_vs
_nginx/
m**u
发帖数: 541
146
其实这很好理解,什么都是为着客户转的,你看看现在垃圾程序员是大多数,作为语言
的客户,你得为着他们转,搞高了他们弄不转,就不用了,所以没有客户了,语言就挂
了。所以,归根结底,是现在程序员烂货居多导致的。
S*******n
发帖数: 305
147
algernon 性能比nginx慢几十倍,你就得出golang不行了…… 然后感叹硬件不好混...
.无力吐槽
d******c
发帖数: 2407
148
任何一个功能要做好都没有简单的
这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
少钱途,因为nginx已经push到极限了,很难有余地做的更好
软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
开始个项目,但那根本不是产品

【在 m*****p 的大作中提到】
: 就是這種簡單到不行的功能,golang algernon都沒做好,我不是做互聯網的,老闆要
: 求用各種語言給CPU做benchmark,在golang上就選了algernon,結果性能弱爆了。這個
: 就像drystone測試,一般都選最簡單的應用。
:
:
: 静态文件下载 这种cdn业界早就做烂了 百分之90以上的cdn服务后端都是
: nginx改吧
:
: 改吧 你提这种问题没意思的很
:

y**********u
发帖数: 2839
149
其实magagop兄耿耿于怀的就是那帮傻x凭啥挣那么多了,百思不得其解
索南都不容易啊,大家一起转码拿大包不好吗?

【在 d******c 的大作中提到】
: 任何一个功能要做好都没有简单的
: 这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
: 了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
: 少钱途,因为nginx已经push到极限了,很难有余地做的更好
: 软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
: 开始个项目,但那根本不是产品

m*****p
发帖数: 39
150
刚刚用了golang official的http benchmark,得到跟algernon同样的结果,说明还是
golang的问题,即使用124个线程,性能也无法达到nginx在48核上98%的占用率,
golang http benchmark只有30%占用率。
https://github.com/golang/benchmarks/blob/master/http/http.go

【在 e*******o 的大作中提到】
: 看了一下algernon 一个人搞的大杂烩。
: lz你比较各啥。

相关主题
Help, what you can do in this situation?转王垠雄文-Oberon 操作系统:一个被忽略的珍宝
求推荐:fortran好用的debug软件请教一个逻辑地址到物理地址映射的问题 (转载)
linux内存分配中page的几个问题转:王垠--一种新的操作系统设计
进入Programming版参与讨论
y**********u
发帖数: 2839
151
软件做这么烂?为啥还能拿大包呢?百思不得其解啊

【在 m*****p 的大作中提到】
: 刚刚用了golang official的http benchmark,得到跟algernon同样的结果,说明还是
: golang的问题,即使用124个线程,性能也无法达到nginx在48核上98%的占用率,
: golang http benchmark只有30%占用率。
: https://github.com/golang/benchmarks/blob/master/http/http.go

m*****p
发帖数: 39
152
为什么我测试的性能差别很大呢,难道哪里搞错了?
我现在用这个:https://github.com/golang/benchmarks/blob/master/http/http.go
48核30k RPS,nginx是400k以上

vs

【在 d*******o 的大作中提到】
: go本身就有http.FileServer,为什么要用第三方库。
: 性能跟nginx相差不大
: https://www.reddit.com/r/golang/comments/28so0e/go_networking_performance_vs
: _nginx/

m*****p
发帖数: 39
153
golang的http microbenchmark结果跟algernon一样,说明不是algernon问题,要不就
是golang需要额外调优,跟jvm一样https://github.com/golang/benchmarks/blob/
master/http/http.go

..

【在 S*******n 的大作中提到】
: algernon 性能比nginx慢几十倍,你就得出golang不行了…… 然后感叹硬件不好混...
: .无力吐槽

m*****p
发帖数: 39
154
但是http都这么弱,违背了当初golang的卖点:如java一样好用,类似c的性能。
其实性能比c弱多了,根本就不是类似好么。

【在 d******c 的大作中提到】
: 任何一个功能要做好都没有简单的
: 这个功能有现成的最好产品,golang根本没有动力去再做一遍,做的只是一个demo,为
: 了证明说它能做,实际不可能去和人家竞争,根本没有动力,没有资源去做,也没有多
: 少钱途,因为nginx已经push到极限了,很难有余地做的更好
: 软件界什么功能往往都有一堆实现,但是大部分都很难没法用,因为随便什么人都可以
: 开始个项目,但那根本不是产品

s********k
发帖数: 6180
155
同学,这些语言的目的就是让人不需要了解硬件底层都可以写,要不又懂CPU,又懂多
核,NUMA架构,还懂服务器设计的人才实在太少,怎么满足的了人民群众日益增长的需
求啊

【在 m*****p 的大作中提到】
: 我的主要觀點是硬件設計非常謹慎,我們改幾行RTL都得層層審批,一幫大牛評估,可
: 有可無的都被砍掉,於是硬件CPU廠家的性能差距越來越小。而軟件互聯網領域開發要
: 求糙快猛,實現同樣的功能,性能差異極大,導致各種方便麵語言橫行,golang是一個
: ,python更差,java也不咋滴。
: 我認為主要原因不是golang、python、java這些語言爛,而是用這些語言的大部分程序
: 員普遍缺乏軟件效率和CPU架構的基本常識,寫的東西爛。但這些並不妨礙他們的
: package大,福利更好。因為硬件領域狡兔死獵狗烹,做得太穩定就沒工作了。
:
:
: 你这个引申的结论就不合适了
:
: 搞framework,做软件工具的是要发明轮子,因为那是他们的市场,他们要创造

m*****p
发帖数: 39
156
对头,一个人随便写写,就能开一个项目,拿大包裹。
algernon支持的feature一大堆,却连基本的http static file都做不好。
说明很多开源项目的功能其实是只能看看而已,别当真。
golang不吹牛说跟C效率类似,就更没有人用了

【在 y**********u 的大作中提到】
: 其实magagop兄耿耿于怀的就是那帮傻x凭啥挣那么多了,百思不得其解
: 索南都不容易啊,大家一起转码拿大包不好吗?

s********k
发帖数: 6180
157
其实你可以去把它那个改好,就也能拿大包裹了:)
话说我看到很多benchmark都没有差10倍,C肯定是要快,不过你可以贴code看看是不是
哪里测试错了

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

m*****p
发帖数: 39
158
NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
古怪的新语言:golang/rust/scala等等。

【在 s********k 的大作中提到】
: 同学,这些语言的目的就是让人不需要了解硬件底层都可以写,要不又懂CPU,又懂多
: 核,NUMA架构,还懂服务器设计的人才实在太少,怎么满足的了人民群众日益增长的需
: 求啊

m*****p
发帖数: 39
159
https://github.com/golang/benchmarks/blob/master/http/http.go
就是这个

【在 s********k 的大作中提到】
: 其实你可以去把它那个改好,就也能拿大包裹了:)
: 话说我看到很多benchmark都没有差10倍,C肯定是要快,不过你可以贴code看看是不是
: 哪里测试错了

y**********u
发帖数: 2839
160
赞magagop兄这么坦诚,爱你

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

相关主题
大坑看晕了咱们好像生活在两个世界里
high performance computer architecture 这课有啥大意义吗Goodbug,是不是单机大于1 million/s的I/O你就输了?
老魏问你个问题什么是OS Memory management and heap structure?
进入Programming版参与讨论
y**********u
发帖数: 2839
161
赞magagop兄这么坦诚,爱你

【在 m*****p 的大作中提到】
: 对头,一个人随便写写,就能开一个项目,拿大包裹。
: algernon支持的feature一大堆,却连基本的http static file都做不好。
: 说明很多开源项目的功能其实是只能看看而已,别当真。
: golang不吹牛说跟C效率类似,就更没有人用了

h*i
发帖数: 3446
162


【在 m*****p 的大作中提到】
: 軟件設計太重要了,今天測試golang algernon http server靜態文件性能,比nginx差
: 了幾十倍以上。在我們硬件CPU領域,別說差幾倍,性能提升5%都叫大改進,可以更新
: 一代架構了。
: 這使我對golang寫的多核應用程序性能產生懷疑:一個http server在48核處理器上居
: 然搞出124個threads,而且沒有pin to core,不識別numa,簡單靜態文件性能還沒有
: nginx的零頭多,75% CPU都是idle,有失golang的水準。
: 這讓我想到了EE工程師的悲哀:世界上硬件CPU公司屈指可數,最牛的CPU公司性能比最
: 差的快也不到一倍。而不合格的軟件工程師寫的爛程序糟蹋多核CPU,性能可能下降上
: 百倍,而且還有安全漏洞。所以軟件公司願意多花幾倍的包裹雇用優秀軟件工程師還是
: 省錢的。大多數互聯網公司對硬件的要求是穩定就好,不關心性能。而他們自己的軟件

s********k
发帖数: 6180
163
有几个人能有做出Nginx水平啊,广大人民群众的需求这点少的牛人满足不了啊

【在 m*****p 的大作中提到】
: NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
: 古怪的新语言:golang/rust/scala等等。

s********k
发帖数: 6180
164
话说老兄觉得Golang现在没法pin to core,不识NUMA,这正是大好机会啊,你要是能
够参与这方面的工作岂不是立马就大包裹了.看问题角度要不同嘛,你看到一个东西烂
,但是还很受欢迎,不要去质疑为什么烂还收欢迎,要去想为啥这么烂还能收欢迎,我
稍微改进下岂不是可以日进斗金。这样想大包裹自然来。
随便给两个你看看
https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
qxM2Vp7iGwwuM/pub
https://docs.google.com/document/d/1At2Ls5_
fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit

【在 m*****p 的大作中提到】
: NGINX就做得很好啊,给俄国人点赞。软件业就缺像NGINX这样的好项目。不缺各种稀奇
: 古怪的新语言:golang/rust/scala等等。

y**********u
发帖数: 2839
165
> : https://docs.google.com/document/d/1At2Ls5_
> : fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit
竟然是Russ Cox,多年前经常在USACO上看到他的题解,往事如梦啊

【在 s********k 的大作中提到】
: 话说老兄觉得Golang现在没法pin to core,不识NUMA,这正是大好机会啊,你要是能
: 够参与这方面的工作岂不是立马就大包裹了.看问题角度要不同嘛,你看到一个东西烂
: ,但是还很受欢迎,不要去质疑为什么烂还收欢迎,要去想为啥这么烂还能收欢迎,我
: 稍微改进下岂不是可以日进斗金。这样想大包裹自然来。
: 随便给两个你看看
: https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
: qxM2Vp7iGwwuM/pub
: https://docs.google.com/document/d/1At2Ls5_
: fhJQ59kDK2DFVhFu3g5mATSXqqV5QrxinasI/edit

m*****p
发帖数: 39
166
罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
// scanobject scans the object starting at b, adding pointers to gcw.
// b must point to the beginning of a heap object or an oblet.
// scanobject consults the GC bitmap for the pointer mask and the
// spans for the size of the object.
//
//go:nowritebarrier
func scanobject(b uintptr, gcw *gcWork) {
// Note that arena_used may change concurrently during
// scanobject and hence scanobject may encounter a pointer to
// a newly allocated heap object that is *not* in
// [start,used). It will not mark this object; however, we
// know that it was just installed by a mutator, which means
// that mutator will execute a write barrier and take care of
// marking it. This is even more pronounced on relaxed memory
// architectures since we access arena_used without barriers
// or synchronization, but the same logic applies.
...
// Work here is duplicated in scanblock and above.
// If you make changes here, make changes there too.
obj := *(*uintptr)(unsafe.Pointer(b + i)) ===> this line
caused cache miss?
// At this point we have extracted the next potential
pointer.
// Check if it points into heap and not back at the current
object.
if obj != 0 && arena_start <= obj && obj < arena_used && obj
-b >= n {
// Mark the object.
if obj, hbits, span, objIndex := heapBitsForObject(
obj, b, i); obj != 0 {
greyobject(obj, b, i, hbits, span, gcw,
objIndex)
}
}
y**********u
发帖数: 2839
167
赞啊,转码浪费了,可是不转还是没钱,唉,人生好难

【在 m*****p 的大作中提到】
: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
: // scanobject scans the object starting at b, adding pointers to gcw.
: // b must point to the beginning of a heap object or an oblet.
: // scanobject consults the GC bitmap for the pointer mask and the
: // spans for the size of the object.
: //
: //go:nowritebarrier
: func scanobject(b uintptr, gcw *gcWork) {
: // Note that arena_used may change concurrently during
: // scanobject and hence scanobject may encounter a pointer to

f*******t
发帖数: 7549
168
展开说说?

【在 m*****p 的大作中提到】
: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b + i))
: // scanobject scans the object starting at b, adding pointers to gcw.
: // b must point to the beginning of a heap object or an oblet.
: // scanobject consults the GC bitmap for the pointer mask and the
: // spans for the size of the object.
: //
: //go:nowritebarrier
: func scanobject(b uintptr, gcw *gcWork) {
: // Note that arena_used may change concurrently during
: // scanobject and hence scanobject may encounter a pointer to

m*****p
发帖数: 39
169
目前发现两大问题:
1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
G1强很多么?NGINX不用GC不是照样可以写程序么?
2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
goroutines给本来就很脆弱的futex加重负担。
各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
设计失误吧?
[pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
u64=140170486062464}}], 128, -1) = 1
[pid 29063] futex(0x147c010, FUTEX_WAKE, 1) = 1
[pid 29063] read(6,
[pid 29010] <... futex resumed> ) = 0
[pid 29063] <... read resumed> "GET /1kb HTTP/1.1\r\nHost: dx-1"..., 4096) =
1316
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1) = 1
[pid 29977] <... futex resumed> ) = 0
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=0, tv_nsec=994743017} <
unfinished ...>
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] sched_yield(
[pid 29063] futex(0xc42434c148, FUTEX_WAKE, 1
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 0
[pid 29977] sched_yield(
[pid 29019] <... futex resumed> ) = 0
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29019] epoll_wait(4,
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29019] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29977] <... futex resumed> ) = 0
[pid 29063] write(6, "HTTP/1.1 200 OK\r\nAccept-Ranges: "..., 1444 <
unfinished ...>
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=9, tv_nsec=999836825} <
unfinished ...>
[pid 29019] futex(0xc432ddc948, FUTEX_WAKE, 1
[pid 29063] <... write resumed> ) = 1444
[pid 29019] <... futex resumed> ) = 1
[pid 29063] futex(0x1481040, FUTEX_WAKE, 1
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29977] <... futex resumed> ) = 0
[pid 29063] <... futex resumed> ) = 1
[pid 29977] sched_yield(
[pid 29062] <... futex resumed> ) = 0
[pid 29977] <... sched_yield resumed> ) = 0
[pid 29063] read(6,
[pid 29977] futex(0x1481020, FUTEX_WAKE, 1
[pid 29063] <... read resumed> 0xc42ed24000, 4096) = -1 EAGAIN (Resource
temporarily unavailable)
[pid 29977] <... futex resumed> ) = 0
[pid 29063] epoll_wait(4,
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=9, tv_nsec=999668369} <
unfinished ...>
[pid 29063] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29062] epoll_wait(4,
[pid 29063] epoll_wait(4,
[pid 29062] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29019] epoll_wait(4,
[pid 29062] futex(0xc432ddc948, FUTEX_WAIT, 0, NULL
[pid 29019] <... epoll_wait resumed> [], 128, 0) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29019] futex(0xc42434c148, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29010] futex(0x147c010, FUTEX_WAIT, 0, {tv_sec=60, tv_nsec=0} <
unfinished ...>
[pid 29977] <... futex resumed> ) = -1 ETIMEDOUT (Connection timed out)
[pid 29977] futex(0x147c010, FUTEX_WAKE, 1) = 1
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=0, tv_nsec=15876} <
unfinished ...>
[pid 29010] <... futex resumed> ) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29977] <... futex resumed> ) = -1 ETIMEDOUT (Connection timed out)
[pid 29977] futex(0xc42434c148, FUTEX_WAKE, 1) = 1
[pid 29019] <... futex resumed> ) = 0
[pid 29977] futex(0xc432ddc948, FUTEX_WAKE, 1
[pid 29019] futex(0xc4340ffd48, FUTEX_WAKE, 1
[pid 29977] <... futex resumed> ) = 1
[pid 29062] <... futex resumed> ) = 0
[pid 29977] futex(0x1481040, FUTEX_WAIT, 0, {tv_sec=5, tv_nsec=730378996} <
unfinished ...>
[pid 29062] futex(0xc432ddc948, FUTEX_WAIT, 0, NULL
[pid 29508] <... futex resumed> ) = 0
[pid 29019] <... futex resumed> ) = 1
[pid 29508] futex(0xc4340ffd48, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29019] epoll_ctl(4, EPOLL_CTL_DEL, 6, 0xc43657db64) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29019] close(6) = 0
[pid 29019] futex(0xc4340ffd48, FUTEX_WAKE, 1) = 1
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29019] futex(0xc42434c148, FUTEX_WAIT, 0, NULL
[pid 29508] <... futex resumed> ) = 0
[pid 29010] pselect6(0, NULL, NULL, NULL, {tv_sec=0, tv_nsec=20000}, NULL <
unfinished ...>
[pid 29508] futex(0xc4340ffd48, FUTEX_WAIT, 0, NULL
[pid 29010] <... pselect6 resumed> ) = 0 (Timeout)
[pid 29010] futex(0x147c010, FUTEX_WAIT, 0, {tv_sec=60, tv_nsec=0} <
unfinished ...>
m*****p
发帖数: 39
相关主题
什么是OS Memory management and heap structure?magagop可以看看这些基本golang scheduler的资料
说说我以前做的ultra low latency架构吧怎样能把go写的稍微漂亮一点?
玩go还是要玩OOmagagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
进入Programming版参与讨论
m*****p
发帖数: 39
171
golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。
T********i
发帖数: 2416
172
pid 29010 貌似是GC thread。否则没法解释20us醒一次。
GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实也很高。一般
比20%要大。
当然我可以用空间换时间。但是那是customize allocators。

【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

g****t
发帖数: 31659
173
牛。GC你统计过longest pause什么的吗?
gc作者之一在这里
https://groups.google.com/forum/m/?fromgroups#!topic/golang-dev/Ab1sFeoZg_8


: 罪魁祸首找到了:obj := *(*uintptr)(unsafe.Pointer(b i))

: // scanobject scans the object starting at b, adding pointers to
gcw.

: // b must point to the beginning of a heap object or an oblet.

: // scanobject consults the GC bitmap for the pointer mask and
the

: // spans for the size of the object.

: //

: //go:nowritebarrier

: func scanobject(b uintptr, gcw *gcWork) {

: // Note that arena_used may change concurrently during

: // scanobject and hence scanobject may encounter a
pointer to



【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

g****t
发帖数: 31659
174
可预测性很重要。jvm最早时候我记得老死机吧?
c的话比较复杂,各种编译器各种优化什么的。


: pid 29010 貌似是GC thread。否则没法解释20us醒一次。

: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实
也很高
。一般

: 比20%要大。

: 当然我可以用空间换时间。但是那是customize allocators。



【在 T********i 的大作中提到】
: pid 29010 貌似是GC thread。否则没法解释20us醒一次。
: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实也很高。一般
: 比20%要大。
: 当然我可以用空间换时间。但是那是customize allocators。

s********k
发帖数: 6180
175
赞干货
两个问题
1,关闭GC等于内存最后一直在那然后不会回收,你做一次test可能性能更好,但是肯
定不是长久之计,GC只有20%的overhead其实还不错了,拿完全手动内存分配的C和go的
GC比肯定好,就像极致的手动挡当然比自动挡快,可以比较下JVM有GC下的overhead?
2. FUTEX, 是不是这个问题?https://github.com/golang/go/issues/23360
话说完全可以提交一个PR了

JVM
herd

【在 m*****p 的大作中提到】
: 目前发现两大问题:
: 1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
: G1强很多么?NGINX不用GC不是照样可以写程序么?
: 2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
: problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
: goroutines给本来就很脆弱的futex加重负担。
: 各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
: 设计失误吧?
: [pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
: u64=140170486062464}}], 128, -1) = 1

d***a
发帖数: 13752
176
如果用golang的syscall包,可以用SO_REUSEPORT吧。OS要支持SO_REUSEPORT。
这个比较对golang不太公平。golang可以做很多事情,nginx专长做web server。

【在 m*****p 的大作中提到】
: golang到目前为止也不支持SO_REUSEPORT,这个至少比NGINX慢5倍。
: 垃圾GC估计比NGINX慢1倍。多余的goroutine调度再慢上1倍。
: algernon建立在golang上,golang在性能设计上有问题,algernon也没办法。

d***a
发帖数: 13752
177
我的两分钱如下: :-)
1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
关,看起来象。
2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
futex调用。
我说的不一定对。

JVM
herd

【在 m*****p 的大作中提到】
: 目前发现两大问题:
: 1. GOGC,关闭Garbage Collection,性能提高20%,无语了,golang不是吹牛GC比JVM
: G1强很多么?NGINX不用GC不是照样可以写程序么?
: 2. 滥用FUTEX,从strace上看,一个HTTP GET引发众多threads拼抢,thundering herd
: problem,跟NGINX的SO_REUSEPORT设计完全不同。GO runtime调度需要用futex,众多
: goroutines给本来就很脆弱的futex加重负担。
: 各位大侠,我没学过golang,只花了几天测测http性能,就发现这两个问题,这应该是
: 设计失误吧?
: [pid 29063] <... epoll_wait resumed> [{EPOLLIN|EPOLLOUT, {u32=4228357504,
: u64=140170486062464}}], 128, -1) = 1

d***a
发帖数: 13752
178
看了一下algernon源代码,好像就是用了golang的http包,在上面加了一层处理各种文
件类型...如果我的理解没错。
这样来做,不太可能有好的性能啊。:)

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

s********k
发帖数: 6180
179
所以说就是golang的这个包并没有做event based loop,还是直接狂开goroutine,所
以肯定比不过专门针对epoll做的IO密集型nginx?

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

s********k
发帖数: 6180
180
golfing 里面那个http package最好?

【在 d***a 的大作中提到】
: 看了一下algernon源代码,好像就是用了golang的http包,在上面加了一层处理各种文
: 件类型...如果我的理解没错。
: 这样来做,不太可能有好的性能啊。:)

相关主题
刚刚发现,立刻简报,SHOW求推荐:fortran好用的debug软件
C++ OO approach to use multi-dim array for HPClinux内存分配中page的几个问题
Help, what you can do in this situation?转王垠雄文-Oberon 操作系统:一个被忽略的珍宝
进入Programming版参与讨论
m*****p
发帖数: 39
181
SO_REUSEPORT是Linux Kernel 3.9里面新加的,可以让多个process共享socket,减少
socket accept上的瓶颈。
golang不支持这个我挺吃惊的。NGINX 1.9就有了。对于业务繁重的HTTP服务器,或者
压力测试,SO_REUSEPORT必不可少。
感觉默认的goroutine blocking工作模式效率比non-blocking event poll低很多,虽
然编程更容易。
难道后端不应该都是non-blocking模式么?还有goroutine概念,给硬件加速带来负担
。不知道各种网卡traffic steering技术对golang有没有效果。

【在 d***a 的大作中提到】
: 我的两分钱如下: :-)
: 1. 我并不知道algernon是怎么实现的。从trace看,从一个打开的了socket里处理一个
: http get请求,algernon用了六七个线程来做,似乎algernon滥用了goroutine。
: goroutine用起来很方便,也许是这个原因?当然这是假设所有的线程都和这个请求相
: 关,看起来象。
: 2. SO_REUSEPORT和futex没有直接联系吧。goroutine多了,相互之间要同步,futex调
: 用就会多。SO_REUSEPORT的目的是快速重用网络端口吧,用了SO_REUSEPORT,不会减少
: futex调用。
: 我说的不一定对。
:

m*****p
发帖数: 39
182
内存设计得好,就不需要自动GC。内存泄露可以用工具各种测试,反而JVM GC的bug不
好弄,也不好优化。
Cassandra为了躲避GC,特地用JNI搞了offheap objects,malloc也换成jemalloc,这
不就是Cpp么?
JVM GC效率也是问题,G1比CMS慢好多,Shenandoah比G1更慢。。。
关于20%问题,对于软件工程师可能不算什么,对于硬件CPU,10%以上就可以决定跑分
输赢。

【在 s********k 的大作中提到】
: 赞干货
: 两个问题
: 1,关闭GC等于内存最后一直在那然后不会回收,你做一次test可能性能更好,但是肯
: 定不是长久之计,GC只有20%的overhead其实还不错了,拿完全手动内存分配的C和go的
: GC比肯定好,就像极致的手动挡当然比自动挡快,可以比较下JVM有GC下的overhead?
: 2. FUTEX, 是不是这个问题?https://github.com/golang/go/issues/23360
: 话说完全可以提交一个PR了
:
: JVM
: herd

m*****p
发帖数: 39
183
自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
都这么做了
只有亚麻和阿里是奇葩。

【在 g****t 的大作中提到】
: 可预测性很重要。jvm最早时候我记得老死机吧?
: c的话比较复杂,各种编译器各种优化什么的。
:
:
: pid 29010 貌似是GC thread。否则没法解释20us醒一次。
:
: GC overhead如果20%的话,其实是很不错的。C的内存管理overhead其实
: 也很高
: 。一般
:
: 比20%要大。
:
: 当然我可以用空间换时间。但是那是customize allocators。
:

s********k
发帖数: 6180
184
这些大公司里面,CPP,java,golang都用的(当然软软加上C#),CPP是好,但是真是
顶级人才满足不了人民群众日益增长需求,要精通太难了。
做大规模项目
human is always the least scalable in your system

【在 m*****p 的大作中提到】
: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
: 都这么做了
: 只有亚麻和阿里是奇葩。

s********k
发帖数: 6180
185
你看看这个?
https://github.com/kavu/go_reuseport
https://github.com/libp2p/go-reuseport

【在 m*****p 的大作中提到】
: SO_REUSEPORT是Linux Kernel 3.9里面新加的,可以让多个process共享socket,减少
: socket accept上的瓶颈。
: golang不支持这个我挺吃惊的。NGINX 1.9就有了。对于业务繁重的HTTP服务器,或者
: 压力测试,SO_REUSEPORT必不可少。
: 感觉默认的goroutine blocking工作模式效率比non-blocking event poll低很多,虽
: 然编程更容易。
: 难道后端不应该都是non-blocking模式么?还有goroutine概念,给硬件加速带来负担
: 。不知道各种网卡traffic steering技术对golang有没有效果。

m*****p
发帖数: 39
186
謝謝,我也找到這些了,但他們都是非標準、野生的SO_REUSEPORT庫,我本身也不是搞
golang的,只能報告裡面寫,目前標準golang不支持,未來1.11有可能支持了

【在 s********k 的大作中提到】
: 你看看这个?
: https://github.com/kavu/go_reuseport
: https://github.com/libp2p/go-reuseport

w**z
发帖数: 8232
187
绝大部分的应用对实时性的要求是可以容忍 偶尔 long gc。 一般互联网公司 SLA 99.
99% 在 large distributed system 里,别说 long paused GC, 整个机器不见了的事
情时刻在发生。客户端容错做好就行了,一个 request timeout, 下一个 request 就
去别的node

:自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
:我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为
m*****p
发帖数: 39
188
其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
論:http://accelazh.github.io/storage/Tail-Latency-Study
百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
1。關閉GOGC,優化tail latency。
2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
事件編程的效率,來彌補goroutine性能問題。
結論是GO可以被使用,但需要優化。
https://youtu.be/n9FkJkMdzL4

99.
华为

【在 w**z 的大作中提到】
: 绝大部分的应用对实时性的要求是可以容忍 偶尔 long gc。 一般互联网公司 SLA 99.
: 99% 在 large distributed system 里,别说 long paused GC, 整个机器不见了的事
: 情时刻在发生。客户端容错做好就行了,一个 request timeout, 下一个 request 就
: 去别的node
:
: :自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
: :我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百度华为

y**********u
发帖数: 2839
189
牛逼,请收下我的膝盖

【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

s********k
发帖数: 6180
190
赞资料
现在golang运行环境大部分其实更复杂,很多事在cloud上的VM做的,VM针对bare
linux的调度就是多了一层,如果用container(绝大部分golang都用k8s或者其他
container的部署技术)比如k8s,那么一个VM只是一个node,上面还有很多pod,又加
了一层隔离,其中的网络配置方式也可以有多种。所以这个性能优化还真是一个大课题
。搞定这个绝对大包不愁啊
magagop 你底层系统经验这么好,绝对应该搞搞这个

【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

相关主题
请教一个逻辑地址到物理地址映射的问题 (转载)high performance computer architecture 这课有啥大意义吗
转:王垠--一种新的操作系统设计老魏问你个问题
大坑看晕了咱们好像生活在两个世界里
进入Programming版参与讨论
y*j
发帖数: 3139
191
关于Go的多线程GC慢的问题,这里有一个解释:
https://blog.cloudflare.com/go-dont-collect-my-garbage/
基本就是线程很多的时候,GC频繁回收大量的临时变量,导致性能提升不大。
他调节了GOGC的参数,最后能够充分利用24核,性能提高23倍。


: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。

: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软
腾讯百
度华为

: 都这么做了

: 只有亚麻和阿里是奇葩。



【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

y*j
发帖数: 3139
192
关于Golang, 我感觉是CPP的一个简化版,但是砍得太猛了,也许留下stack 上的自动
变量会好一些。至少减轻GC的压力。


: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。

: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软腾讯百
度华为

: 都这么做了

: 只有亚麻和阿里是奇葩。



【在 m*****p 的大作中提到】
: 其實不是這樣的,這個問題叫long tail latency problem,困擾我們很久了,因為越
: 大的雞群,層數多,服務複雜,這1%的tail latency將會被放大很多倍,這個blog有討
: 論:http://accelazh.github.io/storage/Tail-Latency-Study
: 百度GO-BFE應用也討論過這個問題,他們的結論居然跟我昨天上面寫得一樣:
: 1。關閉GOGC,優化tail latency。
: 2。目前沒有辦法解決大量goroutine的併發問題,只能拚機器,靠GO研發4倍于C非阻塞
: 事件編程的效率,來彌補goroutine性能問題。
: 結論是GO可以被使用,但需要優化。
: https://youtu.be/n9FkJkMdzL4
:

m*****p
发帖数: 39
193
剛才看了看goroutine的評論,發現Csharp的fiber和Java的loom都很有競爭力,Cpp也
有Facebook的Folly庫支持fiber,看來狗家go確實沒有軟家Csharp語言能力強。
T********i
发帖数: 2416
194
俺一直都说,C#是最好的语言。。。。

【在 m*****p 的大作中提到】
: 剛才看了看goroutine的評論,發現Csharp的fiber和Java的loom都很有競爭力,Cpp也
: 有Facebook的Folly庫支持fiber,看來狗家go確實沒有軟家Csharp語言能力強。

m*****p
发帖数: 39
195
關於golang的NUMA,我找到文檔了,2014年設計,至今(2018年)沒有人實現,說明不
容易。老毛子就是有人才啊,Dmitry Vyukov
https://docs.google.com/document/u/0/d/1d3iI2QWURgDIsSR6G2275vMeQ_X7w-
qxM2Vp7iGwwuM/pub
https://groups.google.com/forum/#!topic/golang-dev/Hjj3fPBLXlk
m*****p
发帖数: 39
196
这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
少的。
The main concepts in Go runtime are:
M - OS thread (Machine).
P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
G - Goroutine.
Netpoll - network poller (epoll descriptor).
RunQ - scheduler queue with runnable G's.
MHeap - global memory allocator state (contains central caches and free
spans).
MCache - per-P memory allocator cache.
GC - garbage collector.
Current system architecture can be depicted as follows:
Runtime does not try hard to ensure any locality, resources like P's and M's
are pooled. Runtime is not aware of system topology. MCache is tied to P,
and this provides some locality. But then P is not tied to M, so this *
locality is easily destroyable*. New G's are generally submitted to the
local RunQ, but once again P is not tied to M. When an M returns from a
syscall quickly, it tries to re-acquire the same P it used before the
syscall.
m*****p
发帖数: 39
197
多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且还能非
线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。

【在 y*j 的大作中提到】
: 关于Go的多线程GC慢的问题,这里有一个解释:
: https://blog.cloudflare.com/go-dont-collect-my-garbage/
: 基本就是线程很多的时候,GC频繁回收大量的临时变量,导致性能提升不大。
: 他调节了GOGC的参数,最后能够充分利用24核,性能提高23倍。
:
:
: 自动GC的问题就是为了增加可预测性,牺牲性能,参考G1GC。
:
: 我一直想不通,需要可预测性的程序为什么不直接上Cpp?毕竟FG和微软
: 腾讯百
: 度华为
:
: 都这么做了

y*j
发帖数: 3139
198
把GC完全关掉,时间一长,非耗尽内存空间不可。


: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且
还能非

: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。



【在 m*****p 的大作中提到】
: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且还能非
: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。

b*******s
发帖数: 5216
199
golang + docker may be the best practice

【在 s********k 的大作中提到】
: 赞资料
: 现在golang运行环境大部分其实更复杂,很多事在cloud上的VM做的,VM针对bare
: linux的调度就是多了一层,如果用container(绝大部分golang都用k8s或者其他
: container的部署技术)比如k8s,那么一个VM只是一个node,上面还有很多pod,又加
: 了一层隔离,其中的网络配置方式也可以有多种。所以这个性能优化还真是一个大课题
: 。搞定这个绝对大包不愁啊
: magagop 你底层系统经验这么好,绝对应该搞搞这个

y*j
发帖数: 3139
200
Csharp 也是我的favorite。java和它相比很粗糙,cpp 和它相比又太复杂混乱。


: 俺一直都说,C#是最好的语言。。。。



【在 T********i 的大作中提到】
: 俺一直都说,C#是最好的语言。。。。
相关主题
Goodbug,是不是单机大于1 million/s的I/O你就输了?玩go还是要玩OO
什么是OS Memory management and heap structure?magagop可以看看这些基本golang scheduler的资料
说说我以前做的ultra low latency架构吧怎样能把go写的稍微漂亮一点?
进入Programming版参与讨论
m*****p
发帖数: 39
201
CSharp在Linux、非x86架构下有性能很好的编译器和库么?
听说.NET开源的只是核心库,不是全部,不知道未来怎样。还有IDE和社区,这也很重
要。

【在 y*j 的大作中提到】
: Csharp 也是我的favorite。java和它相比很粗糙,cpp 和它相比又太复杂混乱。
:
:
: 俺一直都说,C#是最好的语言。。。。
:

m*****p
发帖数: 39
202
关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。

【在 y*j 的大作中提到】
: 把GC完全关掉,时间一长,非耗尽内存空间不可。
:
:
: 多谢回复,这个GC问题正是我碰到的,没想到GOGC还能设置超过100的数,而且
: 还能非
:
: 线性优化,真是个坑,看来GOGC任重道远啊。我本以为GOGC=off就万事大吉了。
:

y*j
发帖数: 3139
203
我自己瞎猜的,如果内存一点也不释放的话,会损失Cache locality, 内存空间会碎片
化。


: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。



【在 m*****p 的大作中提到】
: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。
d***a
发帖数: 13752
204
内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。

【在 y*j 的大作中提到】
: 我自己瞎猜的,如果内存一点也不释放的话,会损失Cache locality, 内存空间会碎片
: 化。
:
:
: 关键是GOGC=off性能比GOGC=2400差,不知道为什么。。。
:

s********k
发帖数: 6180
205
用.Net core,比之前那个overhead很高的.net好很多,关键是LINQ比Java 新的那个
stream好用啊

【在 m*****p 的大作中提到】
: CSharp在Linux、非x86架构下有性能很好的编译器和库么?
: 听说.NET开源的只是核心库,不是全部,不知道未来怎样。还有IDE和社区,这也很重
: 要。

s********k
发帖数: 6180
206
page fault不是忙IO把,是swap出去之后重新load进TLB很花时间?

害。

【在 d***a 的大作中提到】
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。
s********k
发帖数: 6180
207
如果本来就是在VM上面再加pod上运行container,这个NUMA的作用还会很大吗?因为没
法控制底层的OS,golang也很难做好scheduler把?

miss

【在 m*****p 的大作中提到】
: 这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
: 和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
: 估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
: 该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
: 少的。
: The main concepts in Go runtime are:
: M - OS thread (Machine).
: P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
: G - Goroutine.
: Netpoll - network poller (epoll descriptor).

s********k
发帖数: 6180
208
我觉得你是不是可以换个方法实验
你目前的实验室基于一个200+核心直接run bare golang的http server?但是实际上很
多golang打包container的都是基于pod的,可以试一下k8s,比如你开# of core 个VM
?然后pin每个VM到一个core成为一个node,再每个node上再开2个pod?
所以你原来的测试是1个http server 开N个goroutine,现在变成每个pod上开一个http
server,就应该是1个http server开N/200/2个goroutine
这样的scheduler问题就完全变了。不知道效果如何

miss

【在 m*****p 的大作中提到】
: 这里面讲了,为什么goroutine太多,在多路众核处理器上会大量造成cache-line miss
: 和ping-pong效应。我们目前最强的机器是2路200+核心16个内存控制器,还没有测试,
: 估计golang性能因为scheduling会很难看。做处理器的最怕跨路访问内存,一个load应
: 该有200~300ns延时,再加上超标量,相当于等待成百上千条指令啊,性能下降10倍算
: 少的。
: The main concepts in Go runtime are:
: M - OS thread (Machine).
: P - Logical CPU (Processor), there are exactly GOMAXPROCS P's.
: G - Goroutine.
: Netpoll - network poller (epoll descriptor).

y*j
发帖数: 3139
209
看那个报告的样子,应该还没有到经常page fault 的地步,否则性能会下降得非常厉
害。


: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss
更厉害。



【在 d***a 的大作中提到】
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss更厉害。
d***a
发帖数: 13752
210
从内存里做TLB refill大约是150-200个纳秒左右吧,page fault的延迟是毫秒级了。

【在 s********k 的大作中提到】
: page fault不是忙IO把,是swap出去之后重新load进TLB很花时间?
:
: 害。

相关主题
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
magagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。Help, what you can do in this situation?
刚刚发现,立刻简报,SHOW求推荐:fortran好用的debug软件
进入Programming版参与讨论
d***a
发帖数: 13752
211
是的,不过如果把GC关掉长时间运行下去,page fault会增加的。

miss

【在 y*j 的大作中提到】
: 看那个报告的样子,应该还没有到经常page fault 的地步,否则性能会下降得非常厉
: 害。
:
:
: 内存用的太多,会增加page fault rate。I/O系统忙起来,比频繁的cache miss
: 更厉害。
:

s********k
发帖数: 6180
212
哦所以你意思是swap到disk上了?不做GC确实有可能,不过如果GC下多个goroutine频
繁调度不知道会不会频繁重新load TLB,golang的schedule好像在避免这个

【在 d***a 的大作中提到】
: 从内存里做TLB refill大约是150-200个纳秒左右吧,page fault的延迟是毫秒级了。
m*****p
发帖数: 39
213
.NET Core 2目前只支持Windows下的arm64,等Linux下也有arm64再開始轉吧。
Mono支持Linux的arm64,但性能應該不行(跟gcc 7.2比)

【在 s********k 的大作中提到】
: 用.Net core,比之前那个overhead很高的.net好很多,关键是LINQ比Java 新的那个
: stream好用啊

m*****p
发帖数: 39
214
我們試過lxc和kvm,如果不是Xeon的CPU的話,性能會再下降一個數量級(因為host-
guest communication in kernel code),而且裡面坑特別多,就不細講了。另外
docker和k8s對非x86的支持也不是很好。
虛擬化和容器不是silverbullet,至少在性能上說。AWS最近就在去VM化,參考AWS
Nitro和baremetal EC2。如果同時用虛擬化和容器,或者雙重虛擬化,性能就別指望了。

VM
http

【在 s********k 的大作中提到】
: 我觉得你是不是可以换个方法实验
: 你目前的实验室基于一个200+核心直接run bare golang的http server?但是实际上很
: 多golang打包container的都是基于pod的,可以试一下k8s,比如你开# of core 个VM
: ?然后pin每个VM到一个core成为一个node,再每个node上再开2个pod?
: 所以你原来的测试是1个http server 开N个goroutine,现在变成每个pod上开一个http
: server,就应该是1个http server开N/200/2个goroutine
: 这样的scheduler问题就完全变了。不知道效果如何
:
: miss

s********k
发帖数: 6180
215
我的意思是实际上运行环境很多事虚拟化的,你把NGINX跑到VM上是不是也会性能下降.
VM肯定性能下降,但是大家(Golang http server 和NGINX)都下降下,你再比较下呢?
?关于去VM倒是又是一个课题。

了。

【在 m*****p 的大作中提到】
: 我們試過lxc和kvm,如果不是Xeon的CPU的話,性能會再下降一個數量級(因為host-
: guest communication in kernel code),而且裡面坑特別多,就不細講了。另外
: docker和k8s對非x86的支持也不是很好。
: 虛擬化和容器不是silverbullet,至少在性能上說。AWS最近就在去VM化,參考AWS
: Nitro和baremetal EC2。如果同時用虛擬化和容器,或者雙重虛擬化,性能就別指望了。
:
: VM
: http

m*****p
发帖数: 39
216
Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
多,這也是亞馬遜買CPU公司做硬件的原因。

降.
呢?

【在 s********k 的大作中提到】
: 我的意思是实际上运行环境很多事虚拟化的,你把NGINX跑到VM上是不是也会性能下降.
: VM肯定性能下降,但是大家(Golang http server 和NGINX)都下降下,你再比较下呢?
: ?关于去VM倒是又是一个课题。
:
: 了。

d***a
发帖数: 13752
217
你用的nginx和golang algernon是I/O intensive的workload。如果跑compute
intensive的workload,VM和裸机会很接近。
看起来你们用的硬件,对VM中的I/O部分的支持不好啊,不应该影响这么大。有可能是I
/O虚拟化的硬件支持不好。感觉你们的系统,要调的地方很多,工作量很大。:)

【在 m*****p 的大作中提到】
: Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
: 下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
: 多,這也是亞馬遜買CPU公司做硬件的原因。
:
: 降.
: 呢?

s********k
发帖数: 6180
218
对啊,我就是这个意思,专门针对单机优化上,最接近底层的C做出来的还是肯定好,
但是很少golang是在bare的单机上运行,大部分都是distributed的VM上

【在 m*****p 的大作中提到】
: Nginx下降更多,都用VM結果是nginx和golang的差距比裸機小,從原來的10倍或100倍
: 下降到一半或幾倍,可能這就是網上說的golang和c差距不大的原因。去VM性能提高很
: 多,這也是亞馬遜買CPU公司做硬件的原因。
:
: 降.
: 呢?

T********i
发帖数: 2416
219
其实所谓云架构,大多数是没啥必要的。
VM慢了一个数量级以上,无论如何都不能justify。
被人收割骗钱而已。

【在 s********k 的大作中提到】
: 对啊,我就是这个意思,专门针对单机优化上,最接近底层的C做出来的还是肯定好,
: 但是很少golang是在bare的单机上运行,大部分都是distributed的VM上

p*u
发帖数: 2454
220
云本来就是为了节省IT support的costs,不是提高性能。

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

相关主题
linux内存分配中page的几个问题转:王垠--一种新的操作系统设计
转王垠雄文-Oberon 操作系统:一个被忽略的珍宝大坑看晕了
请教一个逻辑地址到物理地址映射的问题 (转载)high performance computer architecture 这课有啥大意义吗
进入Programming版参与讨论
s********k
发帖数: 6180
221
追求性能肯定要自己做,但是大部分应用上云架构主要是方便,开启服务,scale,
monitor,啥都方便,等到服务做大了,再专门自己搞DC做

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

m*****n
发帖数: 3575
222
你和软件工程师只有一个本质差别:
你不掌握生产资料,所以只能被剥夺剩余价值
卡尔 马克思
j*******h
发帖数: 1
223
不明白。软件工程师不是也在被剥夺剩余价值?
本来软件既是生产资料又是劳动产出,结果给来了个开源。
唉唉唉

【在 m*****n 的大作中提到】
: 你和软件工程师只有一个本质差别:
: 你不掌握生产资料,所以只能被剥夺剩余价值
: 卡尔 马克思

N*****r
发帖数: 94
224

你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

【在 j*******h 的大作中提到】
: 不明白。软件工程师不是也在被剥夺剩余价值?
: 本来软件既是生产资料又是劳动产出,结果给来了个开源。
: 唉唉唉

j*******h
发帖数: 1
225
nginx

【在 N*****r 的大作中提到】
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

f******2
发帖数: 2455
226
开源是牛逼但不被承认的社会底层的唯一出路,类似十月革命掀桌子


: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司



【在 N*****r 的大作中提到】
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司

f*******t
发帖数: 7549
227
啥出路?做高质量开源能挣大钱?

【在 f******2 的大作中提到】
: 开源是牛逼但不被承认的社会底层的唯一出路,类似十月革命掀桌子
:
:
: 你见过什么重要的东西做的很完美的搞开源的, 除了sun那个傻逼公司
:

m*****n
发帖数: 3575
228
R就是这么搞的
一边开源
一边弄个收费高级版
还有Qt系列也是如此

【在 f*******t 的大作中提到】
: 啥出路?做高质量开源能挣大钱?
b******t
发帖数: 9
229
algernon三年四百多个星的野鸡库也敢用
想用go webserver, 试试caddy
l***p
发帖数: 358
230
速度不是唯一的要求

【在 T********i 的大作中提到】
: 其实所谓云架构,大多数是没啥必要的。
: VM慢了一个数量级以上,无论如何都不能justify。
: 被人收割骗钱而已。

相关主题
老魏问你个问题什么是OS Memory management and heap structure?
咱们好像生活在两个世界里说说我以前做的ultra low latency架构吧
Goodbug,是不是单机大于1 million/s的I/O你就输了?玩go还是要玩OO
进入Programming版参与讨论
m*****p
发帖数: 39
231
IO虛擬化目前只有intel的vt-d、sr-iov、apic-v做得很好,其他非x86架構都不行,因
為軟件問題。別看白皮書介紹得簡單,裡面非常複雜,非常不好做,坑特別多。性能只
有xeon可以接近裸機,這就是xeon佔領99.9%市場的原因,amd都不行。

是I

【在 d***a 的大作中提到】
: 你用的nginx和golang algernon是I/O intensive的workload。如果跑compute
: intensive的workload,VM和裸机会很接近。
: 看起来你们用的硬件,对VM中的I/O部分的支持不好啊,不应该影响这么大。有可能是I
: /O虚拟化的硬件支持不好。感觉你们的系统,要调的地方很多,工作量很大。:)

w**z
发帖数: 8232
232
现在有自己DC的公司已经没几个了。以后也不太会有新的公司用自己DC了

【在 s********k 的大作中提到】
: 追求性能肯定要自己做,但是大部分应用上云架构主要是方便,开启服务,scale,
: monitor,啥都方便,等到服务做大了,再专门自己搞DC做

s********k
发帖数: 6180
233
做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在cloud
上,比如netflix,但是99%公司还没到追求极致性能就死掉了

【在 w**z 的大作中提到】
: 现在有自己DC的公司已经没几个了。以后也不太会有新的公司用自己DC了
w**z
发帖数: 8232
234
你提到的那些都是在 cloud 流行之前开始的,不存在从 cloud 转到 自己 DC 的。公
司规模越大,要转的代价就越大, 真不如乖乖给 aws 写支票。新的有一定规模的公司
,除了 uber, 都在云上。

:做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在
cloud
:上,比如netflix,但是99%公司还没到追求极致性能就死掉了
f*******t
发帖数: 7549
235
Dropbox转到自己的DC了

【在 w**z 的大作中提到】
: 你提到的那些都是在 cloud 流行之前开始的,不存在从 cloud 转到 自己 DC 的。公
: 司规模越大,要转的代价就越大, 真不如乖乖给 aws 写支票。新的有一定规模的公司
: ,除了 uber, 都在云上。
:
: :做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在
: cloud
: :上,比如netflix,但是99%公司还没到追求极致性能就死掉了

w**z
发帖数: 8232
236
that was a bold move.
During its early years, Dropbox ran its entire operation on Amazon’s cloud
computing service. But more recently it has moved much of its
infrastructure off AWS to cut down on costs. The company said that in 2016,
it was able to shrink its cost of revenue by $35.1 million as part of its
AWS migration, which it refers to as “Infrastructure Optimization.” As
tech publication GeekWire notes, the data center move help saved
Dropbox about $75 million over a two-year period.

:Dropbox转到自己的DC了
m*****p
发帖数: 39
237
感覺golang的默認goroutine設計模式有問題,下面是golang http microbenchmark的
perf report:
60.24% [kernel] [k] arch_cpu_idle
6.43% [kernel] [k] _raw_spin_lock
4.40% http [.] runtime.runqgrab
2.19% http [.] runtime.findrunnable
感覺golang如果有很多goroutine和thread,大部分時間都會用在runtime.runqgrab上
,然後runtime.futex會過載,導致系統60% CPU都是idle
m*****p
发帖数: 39
238
在runtime/proc.go裡面有很多lock(&sched.lock),
例如把goroutine放到global runq裡面就需要lock
func goschedImpl(gp *g) {
status := readgstatus(gp)
if status&^_Gscan != _Grunning {
dumpgstatus(gp)
throw("bad g status")
}
casgstatus(gp, _Grunning, _Grunnable)
dropg()
lock(&sched.lock)
globrunqput(gp)
unlock(&sched.lock)
schedule()
}
sched是runtime2.go裡面的一個全局變量
var (
allglen uintptr
allm *m
allp []*p // len(allp) == gomaxprocs; may change at safe
points, otherwise immutable
allpLock mutex // Protects P-less reads of allp and all writes
gomaxprocs int32
ncpu int32
forcegc forcegcstate
sched schedt
newprocs int32
)
schedt是一個type struct
type schedt struct {
// accessed atomically. keep at top to ensure alignment on 32-bit
systems.
goidgen uint64
lastpoll uint64
lock mutex
// Global runnable queue.
runqhead guintptr
runqtail guintptr
runqsize int32
// Global cache of dead G's.
gflock mutex
// Central cache of sudog structs.
sudoglock mutex
// Central pool of available defer structs of different sizes.
deferlock mutex
}
lock mutex就是32位變量
// Mutual exclusion locks. In the uncontended case,
// as fast as spin locks (just a few user-level instructions),
// but on the contention path they sleep in the kernel.
// A zeroed Mutex is unlocked (no need to initialize each lock).
type mutex struct {
// Futex-based impl treats it as uint32 key,
// while sema-based impl as M* waitm.
// Used to be a union, but unions break precise GC.
key uintptr
}
func lock實現極其簡單,就是先CAS看鎖了沒,然後spinning一會兒,最後futexsleep:
// This implementation depends on OS-specific implementations of
//
// futexsleep(addr *uint32, val uint32, ns int64)
// Atomically,
// if *addr == val { sleep }
// Might be woken up spuriously; that's allowed.
// Don't sleep longer than ns; ns < 0 means forever.
//
// futexwakeup(addr *uint32, cnt uint32)
// If any procs are sleeping on addr, wake up at most cnt.
func lock(l *mutex) {
// Speculative grab for lock.
v := atomic.Xchg(key32(&l.key), mutex_locked)
if v == mutex_unlocked {
return
}
if ncpu > 1 {
spin = active_spin
}
for {
// Try for lock, spinning. procyield(active_spin_cnt)
// Try for lock, rescheduling. osyield()
// Sleep.
v = atomic.Xchg(key32(&l.key), mutex_sleeping)
if v == mutex_unlocked {
return
}
wait = mutex_sleeping
futexsleep(key32(&l.key), mutex_sleeping, -1)
}
}
m*****p
发帖数: 39
239
所以我前面提到的golang性能的第二個問題不是algernon獨有,也是golang區別於c的
最大特點:goroutine。目前golang最多能有一千萬併發goroutines,換成內存也就是
幾十GB,對於AWS上的只有幾十GB的VM小系統估計夠用了,但是對於多路1TB共享內存大
系統,golang目前沒有NUMA調度架構顯然不行。
測試golang http,其實變成了測試Linux sys_futex(),唉。。。
c****f
发帖数: 1102
240
现在只有很极致的公司才追求那10%的性能优化 更多的追求实用 短平快
人家根本不care这点区别 再堆机器就是了 机器多少钱 我请人回来弄类似nginx的
memory trick得花多少钱 以后怎么维护? 升级 更新怎么办?
就想之前碰到一个公司 所有的http服务都是in house的 结果碰到H2 自己做的基于LVS
的链接toss back不能用了不说 连H2的功能的prototype都要做好久
但是市场需求就是马上要H2 你怎么办? 只能去掉自己in house的LB
所有在用人成本 今后维护 各方面来说 真的可以追求那最顶点性能优化的公司也就没
几个
现在K8S这么热 大家都网上迁呢 谁在乎调度器和API被干爆了如何 多加几个就是了
相关主题
玩go还是要玩OOmagagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
magagop可以看看这些基本golang scheduler的资料刚刚发现,立刻简报,SHOW
怎样能把go写的稍微漂亮一点?C++ OO approach to use multi-dim array for HPC
进入Programming版参与讨论
m*****p
发帖数: 39
241
看清我的結論:性能差別10倍不止,不是10%,如果是50%,我都會說golang很好。但是
差距1000%,我就呵呵了。

LVS

【在 c****f 的大作中提到】
: 现在只有很极致的公司才追求那10%的性能优化 更多的追求实用 短平快
: 人家根本不care这点区别 再堆机器就是了 机器多少钱 我请人回来弄类似nginx的
: memory trick得花多少钱 以后怎么维护? 升级 更新怎么办?
: 就想之前碰到一个公司 所有的http服务都是in house的 结果碰到H2 自己做的基于LVS
: 的链接toss back不能用了不说 连H2的功能的prototype都要做好久
: 但是市场需求就是马上要H2 你怎么办? 只能去掉自己in house的LB
: 所有在用人成本 今后维护 各方面来说 真的可以追求那最顶点性能优化的公司也就没
: 几个
: 现在K8S这么热 大家都网上迁呢 谁在乎调度器和API被干爆了如何 多加几个就是了

f*******t
发帖数: 7549
242
别钻牛角尖了,找到一个特殊的应用说性能差10倍以上,作为技术研究是好的,但没有
实际意义。用Go写backend service的公司很多,碰到性能瓶颈,总会有fix或者
workaround。如果真的需要10倍性能,而Go无论如何都达不到的,就换更合适的语言写
对应的模块唄。

【在 m*****p 的大作中提到】
: 看清我的結論:性能差別10倍不止,不是10%,如果是50%,我都會說golang很好。但是
: 差距1000%,我就呵呵了。
:
: LVS

m*****p
发帖数: 39
243
http的goroutine和gogc不是特殊應用,是golang做web後台的基礎好麼,回去先看看什
麼是goroutine和gogc再來回復。這兩個問題非常不好workaround,是golang區別於cpp
語言的根子。

【在 f*******t 的大作中提到】
: 别钻牛角尖了,找到一个特殊的应用说性能差10倍以上,作为技术研究是好的,但没有
: 实际意义。用Go写backend service的公司很多,碰到性能瓶颈,总会有fix或者
: workaround。如果真的需要10倍性能,而Go无论如何都达不到的,就换更合适的语言写
: 对应的模块唄。

g****t
发帖数: 31659
244
做web后台那你就和java比啊。和cpp较劲为哪般呢。。。
任何语言和c/cpp,fortran,pascal比性能都没什么意义。

cpp

【在 m*****p 的大作中提到】
: http的goroutine和gogc不是特殊應用,是golang做web後台的基礎好麼,回去先看看什
: 麼是goroutine和gogc再來回復。這兩個問題非常不好workaround,是golang區別於cpp
: 語言的根子。

p******y
发帖数: 99
245
这个说的不错

【在 w**z 的大作中提到】
: 你提到的那些都是在 cloud 流行之前开始的,不存在从 cloud 转到 自己 DC 的。公
: 司规模越大,要转的代价就越大, 真不如乖乖给 aws 写支票。新的有一定规模的公司
: ,除了 uber, 都在云上。
:
: :做到500B市值以上一般都会有(FGAM等),100B估计开始考虑但是还是可以全在
: cloud
: :上,比如netflix,但是99%公司还没到追求极致性能就死掉了

m*****n
发帖数: 3575
246
是不是这样理解
goroutine只能做到支持单机多核
例如8核还好用,32核效率就一般,再多了就扯了
分布式计算必须得换map reduce?

cpp

【在 m*****p 的大作中提到】
: http的goroutine和gogc不是特殊應用,是golang做web後台的基礎好麼,回去先看看什
: 麼是goroutine和gogc再來回復。這兩個問題非常不好workaround,是golang區別於cpp
: 語言的根子。

m*****n
发帖数: 3575
247
别的行业的剥削基础是在于劳动者必须依附于某个大佬的公司才能开展工作,因为缺乏
完成工作成果必备的生产资料,而代码工作者不需要。实在不爽了,自己出来单干或几
个人合伙开个小公司都行,不需要缺它不可的需要大额资金投入的生产资料,例如刻芯
片的机器。
所以码工是跳槽最频繁的职业,依然工资最高。很多老板反而是弱势群体。

【在 j*******h 的大作中提到】
: 不明白。软件工程师不是也在被剥夺剩余价值?
: 本来软件既是生产资料又是劳动产出,结果给来了个开源。
: 唉唉唉

1 (共1页)
进入Programming版参与讨论
相关主题
大坑看晕了magagop可以看看这些基本golang scheduler的资料
high performance computer architecture 这课有啥大意义吗怎样能把go写的稍微漂亮一点?
老魏问你个问题magagop我给你出个主意,你把GOGC搞明白,移植到luajit上去。
咱们好像生活在两个世界里刚刚发现,立刻简报,SHOW
Goodbug,是不是单机大于1 million/s的I/O你就输了?C++ OO approach to use multi-dim array for HPC
什么是OS Memory management and heap structure?Help, what you can do in this situation?
说说我以前做的ultra low latency架构吧求推荐:fortran好用的debug软件
玩go还是要玩OOlinux内存分配中page的几个问题
相关话题的讨论汇总
话题: futex话题: pid话题: golang话题: resumed话题: unfinished