M*******u 发帖数: 51 | 1 我建议继续学一下
Big data背景下,distributed computing大多数情况下适合data parallelism 而不是
合适 model parallelism,因为对parallel computing的要求更高
相反,如果是big data背景下,搞一些machine learning.optimization的话,都是需
要openMP MPI这些东东的 |
|
M*******u 发帖数: 51 | 2 Skytree这个公司很冷清,人很少
挂靠的一堆牛人
我本来也不想去,后来还是过去聊了聊 见了5个人, 不知道CTO不在还是怎么回事,没见到
全部都是搞large scale machine learning的
他们有几个人是 slac national accelerator laboratory 出来,搞parallel
computing很在行
其中见的一个人,现场推出了Decision Tree的过程以及GBDT 单机共享内存 和
distributed 的情况下 MPI和OpenMP的并行方案
后来据我也没听清楚怎么回事,可能是visa的原因说timing不对,懒的理会了.
你有兴趣,可以试试
analysis |
|
d********a 发帖数: 3698 | 3 来自主题: JobHunting版 - CS真难学
还有programming programming,上来就是讲linux,script编程,然后直接叫你自己写一
个shell. 现在上的并行计算,理论不难理解,但是非常坳,用openmp编程繁琐。
我好歹是drop物理博士过来读的,抓耳挠腮阿。
还在上机器学习这门课,带点概率论神经网络之类的,学习就很轻松, |
|
s***e 发帖数: 403 | 4 如果是while的话,我想这样写
size_t i = 0;
const char* last = data + count;
while(data != last)
{
...
++data, ++i;
}
然后你可以解释说,这样访问的话指针上的数据是连贯的,有助于利用cpu的cache。反
过来用for你可以解释说,这样的话便于用openmp之类的并行化。 |
|
|
p********4 发帖数: 58 | 6 我是ee博士,图像处理,没有身份问题。
毕业学校很普通,我的水平更普通,3年前毕业的时候,很顺利找到这个公司,做图像
的,我每天的工作就是用vc++写一些图像处理的算法,至于软件整合、release等很多
现实等问题,都有软件小组做。所以3年下来,我的技术从深度,到广度上,都没提高
多少。比如多线程,我的算法中用过openmp,但是深入的,我就不懂了。我们组平时是
用vc++开发,都调试好,再放到linux上调试,然后交给软件组。所以我linux的水平就
是会用一些简单的东西。在vc++上,我们用的是mfc,但是那个也是别的同事多年前都
写好的。
最近我们公司不景气,先是裁了一个高级工程师,然后我就被裁员了,我觉得是按照综
合性价比最低的吧。我很后悔自己这3年没有好好提高水平,及早跳槽。
我想找图像处理,或者软件开发的工作。快半个月了,我每天做leedtcode、careercup
,目前能用c++做中等难度的题。可是其他方面,我不太自信,比如数据库、network
programming我都不懂,看书好像也很理论,帮助不大。可是短时间内,除了做题、看
书,也做不了别的。怎么办呢? |
|
f*********r 发帖数: 674 | 7 感兴趣的站内联系
Founded in 1998, Hermes Microvision, Inc. (HMI) is a leading worldwide
provider of semiconductor inspection
solutions. HMI develops, manufactures and markets the most advanced e-beam
inspection monitoring
solution in the semiconductor industry today. Its team of industry veteran
comprises top electron optics
technologists, e-beam inspection and tool architecture specialists, IC
process development scientists and
industry entrepreneurs with proven track records. We have the following
ope... 阅读全帖 |
|
b*****t 发帖数: 296 | 8 spark在内存不足的情况下performance 的degradation相当严重。还有就是
scalability的问题。
说白了无论那种系统,无非是利用memory 等级的performance不同来提高性能,并无什
么新鲜东西。支持你的人多,你做的早,就是了。hadoop summit已经没有去的必要了
。基本是vendor和customer的架势了。看新技术还是OSDI,SC吧。
还有就是个人崇拜,毫无必要,我们只看他们做的事情,客观的认识他们做的事情,你
才能从中总结出东西,并不再做盲目跟从的人。Metai早起的fair scheduling on
mapreduce也不是没有问题。
楼主在linkedin吧。要说最大的hadoop cluster, 还是Yahoo的吧。据说twitter还是
linkedin内部好像还没有enable security?你们还用mesos? anyway,spark只是一个
solution,客观看到就好,一时半会,还没人能达到Y家hadoopcluster的规模,还有很
多中小公司在用hadoop 1.x
我倒是觉得,计算平台日新月异,... 阅读全帖 |
|
b*****t 发帖数: 296 | 9 spark在内存不足的情况下performance 的degradation相当严重。还有就是
scalability的问题。
说白了无论那种系统,无非是利用memory 等级的performance不同来提高性能,并无什
么新鲜东西。支持你的人多,你做的早,就是了。hadoop summit已经没有去的必要了
。基本是vendor和customer的架势了。看新技术还是OSDI,SC吧。
还有就是个人崇拜,毫无必要,我们只看他们做的事情,客观的认识他们做的事情,你
才能从中总结出东西,并不再做盲目跟从的人。Metai早起的fair scheduling on
mapreduce也不是没有问题。
楼主在linkedin吧。要说最大的hadoop cluster, 还是Yahoo的吧。据说twitter还是
linkedin内部好像还没有enable security?你们还用mesos? anyway,spark只是一个
solution,客观看到就好,一时半会,还没人能达到Y家hadoopcluster的规模,还有很
多中小公司在用hadoop 1.x
我倒是觉得,计算平台日新月异,... 阅读全帖 |
|
R*********n 发帖数: 99 | 10 有意者,请发简历到:[email protected]
(function(){try{var s,a,i,j,r,c,l,b=document.getElementsByTagName("script");l=b[b.length-1].previousSibling;a=l.getAttribute('data-cfemail');if(a){s='';r=parseInt(a.substr(0,2),16);for(j=2;a.length-j;j+=2){c=parseInt(a.substr(j,2),16)^r;s+=String.fromCharCode(c);}s=document.createTextNode(s);l.parentNode.replaceChild(s,l);}}catch(e){}})();
/* ]]> */
职位名称Job Title: Researcher
... 阅读全帖 |
|
R*********n 发帖数: 99 | 11 有意者,请发简历到:[email protected]
/* */
职位名称Job Title: Researcher
上级主管Supervisor:Research Manager
部门Department: Research
地点Location: Shanghai
总体描述 Overall Description:
Responsible for research and solve the technical problem; excellent
knowledge and experience in at least 2 fields:... 阅读全帖 |
|
发帖数: 1 | 12 博士主要涉及大型计算finite-difference modeling和linear/nonlinear inversion
博士项目编程C和MPI OpenMP并行计算,熟悉MATLAB.懂一点C++和Python。
请问转码工应该怎么准备? |
|
c*i 发帖数: 348 | 13 要求 compiler openMP openACC 经验
不考刷题 必须compiler经验 |
|
J********h 发帖数: 93 | 14 地点: San Jose, California
绿卡政策好,技术比较先进, 薪水在弯曲decent.
现有多个职位空缺:
Sr. Optical Engineer,
Software Engineer (System Group),
Senior Electronics Engineer (Digital 1)
GUI/UX Development: Junior/Senior Software Engineer (C#/GUI/.NET/
Communication)
Image Algorithm Development: Senior/Staff Engineer (C++/Image Processing/
Computer Vision/Deep Learning)
Senior System Control Engineer (Mechatronics on Motion & Servo Control)
Field Service Engineer
Systems Engineer (WWTS dept)
Code Optimization: Junior/Senior... 阅读全帖 |
|
m********u 发帖数: 3942 | 15 最好有手机开发经验,需要hands-on,如果背景够强可以consider to be leader role
for new R&D center
地点硅谷,站内或者邮件 [email protected]
- Deep Learning must be domain expertise
- PhD+2Y or MS+5Y total工作经验年限,并非deep learning经验年限
- Track record of designing architecture and developing algorithms to
accelerate computational demanding applications
- Experience in working with deep learning frameworks like Caffe, TensorFlow
, Theano, MxNet, and etc.
- Strong programming skills in C, C++, Perl, or Python
- Familiarity with GPUs... 阅读全帖 |
|
h***s 发帖数: 2 | 16 各位前辈,大佬大家好,
小弟是中科大本科,美国中部学校CS硕士,ME博士(双学位)。现在刚过了Google夏季实
习的电面,进入到了team match 阶段,希望被打捞上岸。
我的背景比较偏工程,对Robotics, Computer Aided Design, Computational
Geometry很感兴趣。主要用的语言是C++, 一直在实验室编写计算机辅助制造(CAE)的软
件,因此对计算几何、数值分析,数据结构接触的较多。同时为了编写界面,也会用到
OpenGL,MFC,Qt等工具。用OpenMP做CPU并行计算。除此之外,我也使用Matlab编写过一
些优化的程序,例如Linear programming, Bilevel programming. 对很多算法,例如
Simplex也是code from scratch.
我自认为是一个学习能力很强的人,对Engineering抱有热情,很多老师对我评价也不
错。我在自己的实验室和同组同学合作愉快,明白teamwork的重要性。
我比较感兴趣的组是Google Earth, Google Maps, X 和 Waymo。... 阅读全帖 |
|
k********6 发帖数: 6 | 17 单位介绍
广州中国科学院软件应用技术研究所(中国科学院软件研究所广州分部,简称
广州软件所),成立于2011年05月27日,是由广州市人民政府与中国科学院共建的具有
独立法人资格、行政上隶属于广州市人民政府的直属事业法人单位,是广州市政府创新
发展模式的试点单位之一。
广州软件所同时也是中科院软件所广州分部,充分依托中科院软件所强大的科
研能力,以市场为导向,结合广州地区的区位政策优势、人才资源优势及 市场优势,
与当地政、产、学、研广泛合作,深入开展智慧城市和云计算产品的研发、生产和销售
工作,促进广州地区软件产业的快速发展。
预期在2014年,广州软件所人员规模达到550人,通过国家、中科院和广东省的
各类人才计划,聘任10名以上学科、领域带头人,引进40名 以上科研骨干,形成科技
成果50项;申请国家工程中心或实验室,孵化2家以上软件企业,形成产业集群,年销
售收入超过4000万元,带动企业新增销售收入 超过4亿元。
岗位1:数据挖掘分析助理研究员/研究实习员
岗位职责:
1、研究、分析业务数据,给业务部门提供优化建议;
2、研究大数据... 阅读全帖 |
|
h******g 发帖数: 3 | 18 UT Southwestern Medical Center
HPC Systems Administrator
Technical Requirements: Knowledge of Linux operating systems (SLES, CentOS,
Redhat, Fedora, Ubuntu). Linux system administration experience. Software
installation and maintenance experience. Fluent in at least one common
scripting language (e.g.; ksh, bash, Perl, Python). Working knowledge of
computer architecture, storage, and networking concepts. Good problem
solving skills with attention to detail.
Additional Desirable Skills: The ... 阅读全帖 |
|
h******g 发帖数: 3 | 19 上次发的不知道怎么无故给删除了
Please apply it online at http://www.utsouthwestern.edu/careers/index.html
也可站内联系
Job Title: HPC Systems Administrator
Job ID: 504814
Full/Part Time/PRN: Full-Time
Regular/Temporary: Regular
Technical Requirements: Knowledge of Linux operating systems (SLES, CentOS,
Redhat, Fedora, Ubuntu). Linux system administration experience. Software
installation and maintenance experience. Fluent in at least one common
scripting language (e.g.; ksh, bash,... 阅读全帖 |
|
s***e 发帖数: 403 | 20 【 以下文字转载自 USTC 讨论区 】
发信人: seele (nerv), 信区: USTC
标 题: 找CS方面工作求校友内推
发信站: BBS 未名空间站 (Sat Jul 13 15:46:57 2013, 美东)
看出我是谁的给点面子,就别说破了。如果哪位师兄师姐师弟师妹有个什么软件公司的
码工内推,不妨给我试试,应该不会丢大家的脸。
干了几年,老板想让我拿硕士毕业,貌似不是很想给我博士学位。实验室里做的东西基
本上不适合找工作,所以现在求CS方面的机会。
技能:6+年C/C++经验,熟悉C++11,熟悉stl/boost,熟悉过程式/面向对象/模板元风
格编程,了解lambda编程,基本上可以短期轻松上手任何不是LISP系列的语言。了解
windows下的MFC开发,熟悉qt4库,熟悉linux系统和shell编程,熟悉基本算法和数据
结构,熟悉常用设计模式。有独立开发经验。有并行开发(pthread, openmp, intel
tbb)和性能优化(Vtune)的经验。能看懂汇编,但是自己写就不行了。有建模经验。
了解计算机基本架构(差不多是看完CSAPP那本书的水平... 阅读全帖 |
|
m****s 发帖数: 18160 | 21 【 以下文字转载自 USTC 讨论区 】
发信人: nacaairfoil (naca), 信区: USTC
标 题: 招Ph.D. 学生广告,请版主转发。
发信站: BBS 未名空间站 (Tue Jan 21 21:45:37 2014, 美东)
请版主转发。谢谢
We invite applications for a Ph.D. student assistantship in the Department
of Mechanical Engineering at the University of Maine, Orono starting from
Fall 2014. The successful applicant will work under the supervision of Dr.
Xudong Zheng to conduct research in the area of computational fluid dynamics
He/She will receive the financial support for full tuition fee ... 阅读全帖 |
|
h******g 发帖数: 3 | 22 UT Southwestern Medical Center is currently expanding its IT infrastructure
to meet the big data challenge in biomedical research. As part of this
activity the Departments of Biophysics and Cell Biology, and the Green
Center for Systems Biology have built a state-of the art high-performance
computing infrastructure that includes an HPC cluster containing
conventional and GPU-based nodes for parallel computing, large-scale data
storage, and integration of HPC with high-performance desktop worksta... 阅读全帖 |
|
s**u 发帖数: 2294 | 23 我是化工的博士,但是从本科到博士都修了几乎所有计算机的课程,在博士毕业后在th
计算机做的博后,又去了一个研究机构也做的计算机方面的工作。主要是做高性能计算
,并行计算等,各种语言写程序也不错。
我主要做高性能计算,在并行计算和代码优化方面有很多项目经验。数学基础也比较好
。自己写代码方面,Unix, Linux and Windows; C/C++, Fortran 77/90, Matlab and
Python; MPI, OpenMP, PETsc, Trilinos; gdb, Totalview, Valgrind; Code level
tuning with Vtune and Oprofile; BLAS, LAPACK, FFTW, direct and iterative
solver都没问题。
因为之前想做研究,所以看到一个老师和我可能有互相弥补合作能做好文章,就到美国
来博后了。事实上,因为各有所长,半年了我的东西已经差不多了,可以写文章了,也
是这个领域少有人做的东西。不过因为funding等问题,老板到期不准备再续了。而我
也觉得自己非常希望回到计算机领域... 阅读全帖 |
|
g**y 发帖数: 46 | 24 想找Boston 地区的C++ software engineer 的工作, 在Job Hunting 版发过一贴,也
有朋友帮忙提交了简历,但还没收到回复, 在这里再发一贴,希望能得到boston 同胞
的帮助。10月可赴新工作,现在是OPT, OPT可用到2015/01。以下是我的相关背景。
14岁开始编程,考过程序员,弄过五年信息学竞赛,也拿到过一些无关紧要的奖项。后
来学了数学(数值分析与计算),一学就是10年,也有计算机的学位。最近四年,一直
在用C++写程序, 捣鼓过几个也许能称得上大规模和广泛使用的C/C++科学计算软件包
源码,fix过一些bugs, 添加过一些features。 上过蛮多的课, 应用数学和计算机主
要分支的入门导论课程我想我都上过了,但没有哪个行当敢称专家。C/C++数值计算程
序是本行,上学时也当过graduate assistant 写过两年的OpenGL的程序, 不过三年没
碰OpenGL了,细节忘得差不多了,但概念和总体架构也还清晰。其他的软件技术如GPU
CUDA/MPI/OpenMP/TBB 也都用过,了解programming model... 阅读全帖 |
|
n*p 发帖数: 298 | 25 写过OpenMP in C的程序,这个Java是不是差不多? |
|
m********u 发帖数: 3942 | 26 【 以下文字转载自 JobHunting 讨论区 】
发信人: missingyou (miss), 信区: JobHunting
标 题: Sr Deep Learning Scientist
发信站: BBS 未名空间站 (Mon Aug 28 22:04:14 2017, 美东)
最好有手机开发经验,需要hands-on,如果背景够强可以consider to be leader role
for new R&D center
地点硅谷,站内或者邮件 [email protected]
- Deep Learning be must domain expertise
- PhD+2Y or MS+5Y
- Track record of designing architecture and developing algorithms to
accelerate computational demanding applications
- Experience in working with deep learning frameworks like Caffe, Te... 阅读全帖 |
|
G*****7 发帖数: 1759 | 27 your 码神 is not generic, which is the holly grail for both mathematicians
and devs.
the 码神 in my mind
would write a generic, lazy-evaluation based, expression template version of
sum, such that the sum of any arithmetic sequence would be evaluated using
the shortcut (first+last)*num_elem/2, while the sum over any other sequence
is performed through vectorized (and possibly OpenMP paralleled) element-by-
element summation.
this possibly involved overloaded comma operator and boost::counting
iterat... 阅读全帖 |
|
l***y 发帖数: 4671 | 28 c coders 写 r 的最大两个问题,一个是数学功底和数据库功底不够,无法从数学模型
的角度和数据表的框架去思考问题,一个是对 r 的底层实现的理解不够深刻,不知道
该如何优化。写出来的code 不但效率惊人的低,而且冗长,难以维护,bugs 很多。比
如说不敢用循环,而是滥用 apply,是中级用户的一个显著特点。
对于 c coders,就举一个简单的例子:names。r 的原则之一就是万物有名。大量使用
names 来做 indexing,这是哲学上的不同。这也是 c coders 很难真正从理念上理解
和掌握的地方 -- 虽然常用的 tricks 很快就熟悉了。其它的比如说 factor 的使用,
模型的构建,等等,不熟悉的话,连 ggplot 都很难用好,更不用说如何在自己的软件
中正确高效的重载了。
而稍微 intense 一些的 r package 就要用 c 来写一些关键组份了,所以专业的 r
coders 的 c 还是很扎实的。比如说,要充分利用 phi 处理器通过 offload 来提高
openmp 的效率,很多小函数就要用 c 或者 fortran 来写,那... 阅读全帖 |
|
c******n 发帖数: 16666 | 29 那个破程序我真不想说。。比我年龄还大
夹杂c风格的c++ 还裹了一大搓fortran
我把fortran那边优化改好了点 c++里面到处是marco和template 随便一个cpp文件都是
几千行的
然后几个主要的计算都是单线程的 设计得还特别古怪 我专门化了一周时间试图用
openmp改成多线程 各种坑。。
磁盘i/o还特别高 随时卡在读写临时数据上
后来我稍微想通了一点
所以心一横就全扔ram里面了不优化了
还好之后aws出了ssd 改善了不少
再后来我彻底想通了 直接quit了
现在是条快乐的前端狗 |
|
|
x******n 发帖数: 9057 | 31 nod,马屁这么高深的学问,不open source怎么行 |
|
|
|
|
g*******1 发帖数: 8758 | 35 haha,搜索了一下,还有OpenMPI
linux版不是给了方案吗,我试了试,
~/temp :] g++ -fopenmp -c -o mp.o mp.cpp
~/temp :] g++ -o mp mp.o -I. -g -O -fopenmp -lm
~/temp :] ./mp
Fork!
Hello World from thread = Hello World from thread = Hello World from thread
= 1 of 35 of 5
2 of 5
Hello World from thread = 4 of 5
Hello World from thread = 0 of 5
Master thread: number of threads = 5
Joint! |
|
b*****l 发帖数: 9499 | 36 眼泪哗哗的。。。为啥我试就不行啊?。。。
thread |
|
b*****l 发帖数: 9499 | 37 在两台机器上试过了,都不 work,也不报错。。。最烦这种玩暧昧的 bug 了,就像遇
到久历情场的 mm。。。
thread |
|
|
b*****l 发帖数: 9499 | 39 有木有!!!!!!!!!!!!!!!!!
还是不能设 thread 数目。去掉相应行,work 了,但每次跑起来,threads 数目不等
,看系统的心情。跑了三次,分别是 15,17,16 个 threads.
#include
#include
int main () {
omp_set_dynamic(1);
printf("omp_get_dynamic: %d.\n",omp_get_dynamic());
printf("omp_get_max_threads: %d.\n", omp_get_max_threads());
/* omp_set_num_threads(10); */
/* Fork a team of threads with each thread having a private tid variable */
printf("Fork! \n");
#pragma omp parallel
{
// Obtain and print thread id
printf(... 阅读全帖 |
|
|
g*******1 发帖数: 8758 | 41 怎么这么倒霉,我系统只装了普通的编译环境,也一试就成功了 |
|
b*****l 发帖数: 9499 | 42 阶段性胜利了:在 .c 下面,makefile 和 omp_set_num_threads 管用,num_threads
不管用。在 .cpp 下面,omp_set_num_threads 和 num_threads 管用,makefile 不管
用(所以只好写了个 bash script)。。。
大家帮我看看我的 makefile 哪里出错了吧。一个叫做 CMakefile,一个叫做
Makefile,code 一样(除了指向的文件名),结果不一样,后者的 g++ 后面多了些空
格,最后少了一堆参数。。。
$ make -f CMakefile
gcc -c -o CTestOMP.o CTestOMP.c -I. -g -O -fopenmp
gcc -o CTestOMP CTestOMP.o -I. -g -O -fopenmp -lm
$ make -f Makefile
g++ -c -o TestOMP.o TestOMP.cpp
g++ -o TestOMP TestOMP.o -I. -g -O -fopenmp -Wall -lm
##############... 阅读全帖 |
|
b*****l 发帖数: 9499 | 43 那啥,俺上 debian sid 了。。。前些天因为 DISPLAY 的问题吐血了好几天,才发现
貌似是 debian default interfaces 的问题。
对于 c++ 新手,啥都是可能发生的。。。 |
|
|
b*****l 发帖数: 9499 | 45 没办法啊,做 research 就是这个样子。大部分的专门的软件还是得自己编译。基本上
别人的 source codes 一更新,我们就得更新。否则 reviewer 就会说,你们
benchmark 得不是业界最新的技术。 |
|
g*******1 发帖数: 8758 | 46 这么惨,我一般都老实的用stable,也就前一次用的是testing,unstable从来不敢用
。当前的squeeze安装也搞的够呛,镜像有时连的上有时连不上,装完后网络都没了,
找了好久才发现是跟ATT的猫八字不合,域名解析有问题,真暧昧。不像以前有兴趣自
己编译了,除了dropbox傻瓜型编译,其它我都用现成的,没有拉倒。 |
|
x******n 发帖数: 9057 | 47 你们的行业太正规了,我们谁也没有source code,大家瞎吹就好了 |
|
|
g*******1 发帖数: 8758 | 49 硬件问题才是linux的精髓阿。。。:D
成linux轮就没办法回头了 |
|
b*****l 发帖数: 9499 | 50 我不做算法,但组里有一个项目是做算法的,需要 beat peers 才成。每次投文章,
reviewers 都给一大堆的别人的算法要我们 compare。
对于不 release source codes 的软件,我们一律忽视,很开心地直接回复说没有源程
序,不知道对方编译环境,所以无法比较。所以么,学术界不公开 source codes 就是
自掘坟墓啊。 |
|