由买买提看人间百态

topics

全部话题 - 话题: 获取数据
1 2 3 4 5 6 7 8 9 10 下页 末页 (共10页)
h****a
发帖数: 1767
1
【 以下文字转载自 Programming 讨论区 】
发信人: herosa (黑罗刹?), 信区: Programming
标 题: 请教:怎样从网上数据库获取数据 (转载)
发信站: BBS 未名空间站 (Mon Dec 5 12:51:16 2011, 美东)
发信人: herosa (黑罗刹?), 信区: PhotoGear
标 题: 请教:怎样从网上数据库获取数据
发信站: BBS 未名空间站 (Sun Dec 4 23:01:37 2011, 美东)
网页上的数据库,有下拉菜单选择,查询之后返回数据列表。看起来是服务器上的CGI
脚本实现的。
对网页的东西很外行,请教一下,用什么编程可以批量查询下载数据?
a*****e
发帖数: 4577
2
来自主题: NanoST版 - 如何从一张图中获取数据点?
【 以下文字转载自 Physics 讨论区 】
发信人: abalone (hope), 信区: Physics
标 题: 如何从一张图中获取数据点?
发信站: BBS 未名空间站 (Wed Jul 29 21:59:46 2009, 美东)
原来用过engauge,还挺不错的
但是需要手动来取点
但是不知道能否实现这样的功能
即对应某个x相对准确的获取y的数据
比如x=0,1,2,...对应的y值
多谢
h****a
发帖数: 1767
3
【 以下文字转载自 PhotoGear 讨论区 】
发信人: herosa (黑罗刹?), 信区: PhotoGear
标 题: 请教:怎样从网上数据库获取数据
发信站: BBS 未名空间站 (Sun Dec 4 23:01:37 2011, 美东)
网页上的数据库,有下拉菜单选择,查询之后返回数据列表。看起来是服务器上的CGI
脚本实现的。
对网页的东西很外行,请教一下,用什么编程可以批量查询下载数据?
g**1
发帖数: 10330
4
华为轮值董事长徐直军:美国是想保护隐私,还是想获取数据?
分享到:410
2019-02-14 12:12:54字号:A- A A+来源:观察者网
关键字: 华为徐直军蓬佩奥地缘政治
【文/观察者网 奕含】
“美国真的是在考虑网络安全并保护其他国家公民的隐私,还是有其他动机?有人说,
因为这些国家使用华为设备,而令美国方面更难获得它们的数据。”
日前,美国国务卿蓬佩奥向中欧国家发出反对使用华为设备的警告。综合英国《金融时
报》、科技网站TechDigest网站报道,华为轮值董事长徐直军当地时间13日质疑华盛顿
方面的动机。
在徐直军看来,“蓬佩奥先生此番表态正是美国政府对华为有系统的地缘政治行动的又
一指征。”
当天,徐直军还谈及,华为正花费20亿美元更新电信系统编码,以便令后者更为清晰、
易读,符合英国当局的要求。
“这有助于华为更好地与现行标准保持一致,并为未来的产品线提供支持,”他说。
徐直军表示,预计5G将成为未来几年支持智能家居,无人驾驶汽车网络和其他新技术的
基础设施。而这令美国十分关心。
“当我们看看5G的主要设备供应商时,你会看到诺基亚、爱立信、华为、三星和中兴,
而却... 阅读全帖
m********3
发帖数: 3280
5
NSA是通过网络接入点获取数据,类似TG的GFW位置。然后做data mining.
并没有权力进入网络公司服务器
a**i
发帖数: 608
6
来自主题: Quant版 - 南开校友团经济数据泄密案
*****************
此贴不敢转到南开板去, hehe。
不过从另一方面体现出: 南开经济学院还是很牛的,校友很多混得不错。
***************
经济数据泄密案 涉南开校友团
2名被告人为博士 14名获密人为其校友 绝大多数任职于证券行业 分析称有利益驱动
记者独家获悉,轰动一时的"泄露经济数据系列案"的第4起已宣判。西城法院以故
意泄露国家秘密罪判处国信证券公司宏观经济分析师林松立有期徒刑6个月,缓刑1年。
已判决的4起案件中的3起系串案,其中2名被告人是毕业于南开大学经济学院的博
士,泄密对象包括其14名南开校友,这些人均为经济学科背景,绝大多数任职于证券公
司等金融企业。
伍超明案
发短信泄密 半年内传给15人
被告人之一伍超明,1973年生人,南开大学虚拟经济研究方向博士。博士在读期间
,他曾获南开"十大杰出青年"称号。
毕业后,伍超明被中国人民银行录用,虽然编制在金融研究所货币金融史研究室,
但一直被借调在研究局宏观经济研究处,后者是掌握宏观经济数据的核心部门。
宏观经济研究处处长纪敏证实,伍超明实际履行的是副处长的职责,协助自己进行
宏... 阅读全帖
b*****d
发帖数: 61690
7
美报说斯诺登凭简单技术获取大量机密文件
新华社华盛顿2月9日电(记者孙浩 穆东) 美国《纽约时报》9日刊文报道,正在调
查“棱镜门”事件的美国情报官员透露,前防务承包商雇员爱德华·斯诺登只凭借比较
简单的“网络爬虫”技术就获取了大量机密文件,由此曝光国家安全局对内安保存在一
定漏洞。
《纽约时报》援引了多名不愿公开身份情报官员的消息。据报道,经调查发现,斯
诺登所使用的是比较廉价、也容易获取的“网络爬虫”或爬行器类软件,通过程序设定
自动抓取大量数据,而不是一个人坐在电脑前一一查找、复制、下载大量文件。
国家安全局官员坚称,如果斯诺登当时是在国安局位于马里兰州的总部工作,由于
总部监控体系可以自动监测到有人获取和下载大量数据的行为,他恐怕早就被锁定和抓
获,但他当时所在的夏威夷站点还未能更新监控系统。
据报道,斯诺登获取大量数据当时还是一度引起注意,他也为此事接受过多次内部
质询,但他辩称自己作为技术承包商雇员只是在进行例行系统维护,凭这一理由蒙混过
关。
《纽约时报》报道说,令人讶异的是,国安局本身采用的都是最尖端的情报监控技
术,但对内部安保措施却存在如此漏洞。
美国智库布鲁金斯学... 阅读全帖
N*********L
发帖数: 517
8
政府公关组ERIC JI通过FOIA的渠道,已经获取2011年财政年度职业移民审批数据
,上半年截止到4月30日,职业移民总计审批发放52,475个绿卡名额。 同时公关组
志愿者和奥本海默的沟通中,截止昨天获知 , 职业已经审批了121,000个绿卡
名额。
NIU数据和分析志愿者将会对从FOIA获得的2011年上半年每月批准数据做进一步分
析,期待他们的后续讨论和分析。
此次数据的进展的关键是认识了USCIS处理FOIA的关键人士,建立起沟通渠道,通过
FOIA被证明是一条可行的办法获取数据。 现在的问题是,很快志愿者要离开组织,此
次FOIA是4月份ERIC JI提出的(QUK,JWE律师信并行的项目),有三个月的时滞。迫
切需要新人加入NIU,利用NIU的平台和已有的沟通渠道,继续为自己为大家服务。
感谢大家支持NIU!!!
数据的疑点
1.52475不包括CP。
2.121000未明确截止日期。
t****v
发帖数: 9235
9
根据华盛顿邮报的报道,美国国家安全局(NSA)和联邦调查局(FBI)接入了九家互联
网公司的中心服务器,获取和追踪用户的语音和视频聊天、照片、电子邮件、文档和网
络连接日志信息。
这个项目的代码是 PRISM,直到现在才被公诸于世。根据泄漏的文档,PRISM 收集信息
的对象包括了美国九个服务提供商:微软、雅虎、Google、Facebook、PalTalk、AOL、
Skype、YouTube和苹果,云存储服务商Dropbox 在不久以后也会加入。美国国家安全局
曾经也与一些互联网公司合作获取数据信息,但是 Google 和 Facebook 在此之前从
未参与其中。
prism-slide-4_verge_super_wide
PRISM 所收集的数据有 98% 来自于雅虎、Google 和微软。泄漏的政府官方文档称,为
了保护这些数据来源,一旦项目被外界发现就立刻撤除。“美国国家安全局的报告正在
越来越依赖 PRISM 提供的数据”,目前每七篇情报报告中就有一篇是来自 PRISM 所提
供的资料线索。
prism-slide-5_verge_super_wide上图展示的各公司... 阅读全帖
s*******u
发帖数: 676
10
美国领导的多国情报联盟“五眼联盟”(Five Eyes)7月30日表示,科技公司必须允许
执法机构访问加密数据,以防犯罪分子利用。“五眼联盟”还警告称,数据加密不应以
牺牲公众安全为代价。
据路透社、《卫报》30日报道,由美、英、澳、加拿大和新西兰组成的“五眼联盟”结
束了在伦敦为期两天的会议,会议旨在打击虐待儿童和恐怖主义,并要求移动通讯应用
WhatsApp等加密通信公司提供特殊的后门访问权限。
这两天的会议并没有公开议程,但英国的一些大臣私下表达了对WhatsApp的担忧,因为
该应用是脸书公司(Facebook)旗下很受欢迎的通讯软件,而脸书曾在2017年伦敦桥恐
袭事件中被恐怖分子利用,广泛传播恐怖主义信息。
“五眼联盟”在会后的一份声明中表示,科技公司应该在其加密产品和服务中纳入新机
制,允许政府有适当的合法权限,能够以可读和可用的格式获取数据。
英国内政大臣普丽蒂·帕特尔(Priti Patel)表示,“五眼”成员一致认为,科技公
司不应该开发那些会助长犯罪分子或是危害公众安全的产品或服务,包括端到端加密技
术。
负责电子通讯监听的英国政府通信总部(GCHQ)建议,硅谷公... 阅读全帖

发帖数: 1
11
美国领导的多国情报联盟“五眼联盟”(Five Eyes)7月30日表示,科技公司必须允许
执法机构访问加密数据,以防犯罪分子利用。“五眼联盟”还警告称,数据加密不应以
牺牲公众安全为代价。
据路透社、《卫报》30日报道,由美、英、澳、加拿大和新西兰组成的“五眼联盟”结
束了在伦敦为期两天的会议,会议旨在打击虐待儿童和恐怖主义,并要求移动通讯应用
WhatsApp等加密通信公司提供特殊的后门访问权限。
这两天的会议并没有公开议程,但英国的一些大臣私下表达了对WhatsApp的担忧,因为
该应用是脸书公司(Facebook)旗下很受欢迎的通讯软件,而脸书曾在2017年伦敦桥恐
袭事件中被恐怖分子利用,广泛传播恐怖主义信息。
“五眼联盟”在会后的一份声明中表示,科技公司应该在其加密产品和服务中纳入新机
制,允许政府有适当的合法权限,能够以可读和可用的格式获取数据。
英国内政大臣普丽蒂·帕特尔(Priti Patel)表示,“五眼”成员一致认为,科技公
司不应该开发那些会助长犯罪分子或是危害公众安全的产品或服务,包括端到端加密技
术。
负责电子通讯监听的英国政府通信总部(GCHQ)建议,硅谷公... 阅读全帖
o******1
发帖数: 1046
12
【 以下文字转载自 Programming 讨论区 】
发信人: outlook1 (outlook1), 信区: Programming
标 题: 请教个wget获取要密码登录的http页面的问题
发信站: BBS 未名空间站 (Thu Oct 8 19:20:51 2015, 美东)
目的是想获取router的一些即时的信息,但是这个router不支持snmp,现在想到的只有
从http页面用wget(或者curl)搞。当然是有大量的相似的router,所以必须自动化。
但是搞不定这种登录的情形。比如登录页面是http://172.16.0.1/login/,需要获取数据的页面是http://172.16.0.1/diagnostics/。我先用wget从http://172.16.0.1/login/保存一个cookies.txt,同时加了--keep-session-cookies选项。对比了直接从浏览器的cookie,这个获取的cookies.txt内容一模一样。
但是下一步就不行了。我用了--load-cookies,然后再用--post-data把http://172... 阅读全帖
o******1
发帖数: 1046
13
【 以下文字转载自 Programming 讨论区 】
发信人: outlook1 (outlook1), 信区: Programming
标 题: 请教个wget获取要密码登录的http页面的问题
发信站: BBS 未名空间站 (Thu Oct 8 19:20:51 2015, 美东)
目的是想获取router的一些即时的信息,但是这个router不支持snmp,现在想到的只有
从http页面用wget(或者curl)搞。当然是有大量的相似的router,所以必须自动化。
但是搞不定这种登录的情形。比如登录页面是http://172.16.0.1/login/,需要获取数据的页面是http://172.16.0.1/diagnostics/。我先用wget从http://172.16.0.1/login/保存一个cookies.txt,同时加了--keep-session-cookies选项。对比了直接从浏览器的cookie,这个获取的cookies.txt内容一模一样。
但是下一步就不行了。我用了--load-cookies,然后再用--post-data把http://172... 阅读全帖
o******1
发帖数: 1046
14
【 以下文字转载自 Programming 讨论区 】
发信人: outlook1 (outlook1), 信区: Programming
标 题: 请教个wget获取要密码登录的http页面的问题
发信站: BBS 未名空间站 (Thu Oct 8 19:20:51 2015, 美东)
目的是想获取router的一些即时的信息,但是这个router不支持snmp,现在想到的只有
从http页面用wget(或者curl)搞。当然是有大量的相似的router,所以必须自动化。
但是搞不定这种登录的情形。比如登录页面是http://172.16.0.1/login/,需要获取数据的页面是http://172.16.0.1/diagnostics/。我先用wget从http://172.16.0.1/login/保存一个cookies.txt,同时加了--keep-session-cookies选项。对比了直接从浏览器的cookie,这个获取的cookies.txt内容一模一样。
但是下一步就不行了。我用了--load-cookies,然后再用--post-data把http://172... 阅读全帖
o******1
发帖数: 1046
15
【 以下文字转载自 Programming 讨论区 】
发信人: outlook1 (outlook1), 信区: Programming
标 题: 请教个wget获取要密码登录的http页面的问题
发信站: BBS 未名空间站 (Thu Oct 8 19:20:51 2015, 美东)
目的是想获取router的一些即时的信息,但是这个router不支持snmp,现在想到的只有
从http页面用wget(或者curl)搞。当然是有大量的相似的router,所以必须自动化。
但是搞不定这种登录的情形。比如登录页面是http://172.16.0.1/login/,需要获取数据的页面是http://172.16.0.1/diagnostics/。我先用wget从http://172.16.0.1/login/保存一个cookies.txt,同时加了--keep-session-cookies选项。对比了直接从浏览器的cookie,这个获取的cookies.txt内容一模一样。
但是下一步就不行了。我用了--load-cookies,然后再用--post-data把http://172... 阅读全帖
M*V
发帖数: 3205
16
来自主题: WorldNews版 - 5月宏观数据疑似早泄zz
发信人: sautin (老将萨乌丁), 信区: Military
标 题: 5月宏观数据疑似早泄
发信站: BBS 未名空间站 (Tue Jun 21 01:42:26 2011, 美东)
核心提示:国家统计局计划于6月14日公布5月份宏观经济数据。和以往一样,在公布前
夕,网络上就出现了疑似“走光”的核心数据,各家金融机构争相预测。
在国家统计局将按计划于6月14日公布5月份中国一系列宏观经济数据前,和以往一样,
5月CPI等核心数据这之前已经在网络上频频疑似提前“走光”。
6月8日,路透社再次抢先发布我国经济数据,预测中国5月份CPI较上年同期上涨5.4%,
将追平3月份创下的32个月高位,与此同时,网络上各位“经济学家”和各家投资机构
乃至网民对于最新宏观经济数据的预测也热火朝天。
与此类似,彭博也在其终端上发布称,经济学家对宏观数据的预测值显示,5月份的中
国CPI同比涨幅为5.5%。而根据“中国网事”记者掌握的数据,另有四家国内外证券机
构对5月份的中国CPI同比涨幅预测也为5.5%,高达三家机构对5月PPI的预测为同比增长
6.4%。
微博上,证券市场资深分析师黄硕写道:... 阅读全帖
s****n
发帖数: 8912
17
来自主题: Military版 - 5月宏观数据疑似早泄
核心提示:国家统计局计划于6月14日公布5月份宏观经济数据。和以往一样,在公布前
夕,网络上就出现了疑似“走光”的核心数据,各家金融机构争相预测。
在国家统计局将按计划于6月14日公布5月份中国一系列宏观经济数据前,和以往一样,
5月CPI等核心数据这之前已经在网络上频频疑似提前“走光”。
6月8日,路透社再次抢先发布我国经济数据,预测中国5月份CPI较上年同期上涨5.4%,
将追平3月份创下的32个月高位,与此同时,网络上各位“经济学家”和各家投资机构
乃至网民对于最新宏观经济数据的预测也热火朝天。
与此类似,彭博也在其终端上发布称,经济学家对宏观数据的预测值显示,5月份的中
国CPI同比涨幅为5.5%。而根据“中国网事”记者掌握的数据,另有四家国内外证券机
构对5月份的中国CPI同比涨幅预测也为5.5%,高达三家机构对5月PPI的预测为同比增长
6.4%。
微博上,证券市场资深分析师黄硕写道:“明日上午10时将公布的5月CPI似乎已经没有
太大悬念目前市场对于该数据的一致预期是5.5%,高于4月份的5.3%。”
事实上,这已经不是第一次市场“竞猜”宏观经济数据了,而以路透社为代表的... 阅读全帖
h******b
发帖数: 6055
18
etlshop.com
我们的团队对各种ETL服务非常熟悉. 各种数据格式转换, 从各种地方获取数据, 在
数据库整合然后做出各种动态网页和报表, 只要你能写出要求我们就能做。 e-
commerce, 金融,都有接触。
最近几年也就是组了个服务器, 跑跑cron job, 在自己的小圈子里小打小闹挣点外快
。 后来觉得这样不是办法, 下定决心整合一个平台, 以做产品的态度来搞这个。
现在的网站只不过是个广告而已, 后台还只是起步不久。 我们不收任何upfront的钱
, 只要你要求的提供的接口是可以卖给更多用户的, 我们承担一切开发费用。
给我们介绍客户可以获取20% life time佣金。 Life time就是说只要你拉进来的客户
还付我们钱, 你就拿两毛。 我们会给你提供一个网页清楚看到你的客户每月花多少
钱。 如果以业绩证明自己是sales/marketing的大牛。 一年以后可以谈股份。
暂时不需要技术人员, 我们这个阶段还只是追求糙快猛, 小庙请不起大神。
求交流j**[email protected]
h******b
发帖数: 6055
19
etlshop.com
我们的团队对各种ETL服务非常熟悉. 各种数据格式转换, 从各种地方获取数据, 在
数据库整合然后做出各种动态网页和报表, 只要你能写出要求我们就能做。 e-
commerce, 金融,都有接触。
最近几年也就是组了个服务器, 跑跑cron job, 在自己的小圈子里小打小闹挣点外快
。 后来觉得这样不是办法, 下定决心整合一个平台, 以做产品的态度来搞这个。
现在的网站只不过是个广告而已, 后台还只是起步不久。 我们不收任何upfront的钱
, 只要你要求的提供的接口是可以卖给更多用户的, 我们承担一切开发费用。
给我们介绍客户可以获取20% life time佣金。 Life time就是说只要你拉进来的客户
还付我们钱, 你就拿两毛。 我们会给你提供一个网页清楚看到你的客户每月花多少
钱。 如果以业绩证明自己是sales/marketing的大牛。 一年以后可以谈股份。
暂时不需要技术人员, 我们这个阶段还只是追求糙快猛, 小庙请不起大神。
求交流j**[email protected]
P*******g
发帖数: 215
20
中国首幅全月球图亮相
2008年11月12日15时05分,根据中国首颗探月卫星嫦娥一号获取数据制作完成的“
中国第一幅全月球影像图”正式亮相。
这幅来自中国的月境真实影像,涵盖了神秘月境的全部“领地”:由嫦娥一号卫星
拍摄的589轨图像数据处理完成,覆盖了月球西经180度到东经180度、南北纬90度之间
的范围。
图幅左边的影像图为正轴等角割35度墨卡托投影,包括神秘的月境南北纬70度之间
的区域,约占全月球面积的94%——这是2007年11月20日嫦娥“ 睁开眼睛”后,至2008
年5月12日,“看到”并传回的真实景象;由于CCD相机状态稳定,中国探月工程指挥部
又决定开展月球两极影像拍摄试验,至 2008年7月1日,完整获取了月球两极的影像数
据,补充制作了月球极区影像图。至此,“中国嫦娥”在其绚烂而短暂的生命期内,告
诉了世人一个完整的月球图景。
世界上最完整的全月球图
评审专家认为,这幅月球全图图像数据完整、信息丰富、信噪比高、质量良好,其
图像质量和影像制作方面均达到国际先进水平。
“我们请了全国测绘学、制图学和遥感科学应用方面的院士、专家来鉴定这张图,
专家
I******r
发帖数: 265
21
来自主题: BuildingWeb版 - 怎样从JavaScript的网页获取数据?
嵌有JavaScript的网页,可以输入数据得到一些信息。怎么通过script语言, such as
Python, Perl, etc., 模拟输入数据操作获取这些信息?
I******r
发帖数: 265
22
来自主题: BuildingWeb版 - 怎样从JavaScript的网页获取数据?
嵌有JavaScript的网页,可以输入数据得到一些信息。怎么通过script语言, such as
Python, Perl, etc., 模拟输入数据操作获取这些信息?
o******1
发帖数: 1046
23
目的是想获取router的一些即时的信息,但是这个router不支持snmp,现在想到的只有
从http页面用wget(或者curl)搞。当然是有大量的相似的router,所以必须自动化。
但是搞不定这种登录的情形。比如登录页面是http://172.16.0.1/login/,需要获取数据的页面是http://172.16.0.1/diagnostics/。我先用wget从http://172.16.0.1/login/保存一个cookies.txt,同时加了--keep-session-cookies选项。对比了直接从浏览器的cookie,这个获取的cookies.txt内容一模一样。
但是下一步就不行了。我用了--load-cookies,然后再用--post-data把http://172.16.0.1/diagnostics/页面form中input的参数pass过去,仔细检查过,没有typo。但是就是获取不到登录后的信息,wget返回的还是未登录前的http文件。
看了一下这个页面的source,好像有一些javascript函数,还有把密码和一段string一
起sha2... 阅读全帖
w***g
发帖数: 5958
24
【 以下文字转载自 Programming 讨论区 】
发信人: wdong (cybra), 信区: Programming
标 题: 大数据在工业界流行的黑暗真相
发信站: BBS 未名空间站 (Sat Apr 11 08:05:27 2015, 美东)
这两天在faculty版上灌水纠结大数据概念,让我突然想明白了大数据在工业界兴起的
原因:
很多规律在数据量大了以后都会变得很显然,算法再傻B,在超大量数据作用下效果也
会变得很好。因为开发牛B算法开销很大风险很高,而获取数据对不少公司而言很容易。
所以会出现一个大数据潮流,大家都指着数据变成救命法宝。
比如大数据的源头Google,Pagerank其实就是个幌子,真正优化Google搜索结果的其实
是人民群众。结果被点得多了排名就上去了。算法够傻B吧。还有Google翻译也用到了
大数据技术。算法是否傻B是和系统复杂度相对的。比如linear regression,数据量小用
atlab三五行就写出来了。数据量大了就得上Hadoop, Spark,支持运算的平台比真正的
算法要复杂得多得多。
但真相果真如此吗?做过machin... 阅读全帖
w***g
发帖数: 5958
25
来自主题: Programming版 - 大数据在工业界流行的黑暗真相
这两天在faculty版上灌水纠结大数据概念,让我突然想明白了大数据在工业界兴起的
原因:
很多规律在数据量大了以后都会变得很显然,算法再傻B,在超大量数据作用下效果也
会变得很好。因为开发牛B算法开销很大风险很高,而获取数据对不少公司而言很容易。
所以会出现一个大数据潮流,大家都指着数据变成救命法宝。
比如大数据的源头Google,Pagerank其实就是个幌子,真正优化Google搜索结果的其实
是人民群众。结果被点得多了排名就上去了。算法够傻B吧。还有Google翻译也用到了
大数据技术。算法是否傻B是和系统复杂度相对的。比如linear regression,数据量小用
atlab三五行就写出来了。数据量大了就得上Hadoop, Spark,支持运算的平台比真正的
算法要复杂得多得多。
但真相果真如此吗?做过machine learning的人都知道,数据量增大对于结果改善的边
际效应是递减的,而且往往是指数递减的。需要获得10个百分点的提高,可能需要成千
上万,甚至亿万倍的数据量。真是有点愚公移山的感觉了。
大数据的驱动力背后还有更黑暗的真相:提高barrier to ent... 阅读全帖
m***r
发帖数: 359
26
来自主题: DataSciences版 - 大数据日报 2015年2月楼
大数据日报 2015-02-14
@好东西传送门 出品, 过刊见
http://bd.memect.com
订阅:给 [email protected]
/* */ 发封空信, 标题: 订阅大数据日报
更好看的HTML版
http://bd.memect.com/archive/2015-02-14/short.html
1) 【Spark SQL 数据源 API:Spark平台的统一数据接入】 by @网路冷眼
关键词:计算框架, Spark
【Spark SQL 数据源 API:Spark平台的统一数据接入】自从Spark 1.0版本的Spark
SQL问世以来,它最常见的用途之一就是作为从Spark平台上面获取数据的一个渠道。到
了Spark 1.2 版本,我们已经迈出了下一步,让Spark的原生资源和更多的输入源进行
整合集成。 [1]
[1] http://code.csdn.net/news/2823955
2) 【市民眼中的绿地为何没那么多?用大数据讲述城市意象】 by @市政厅官微
关键词:应用, 规划
我们可以从大数据中找到市民心中的城市意象。从城市建设用... 阅读全帖
f*******w
发帖数: 407
27
我现在找人给我开发了一个基于away3D技术的3D模型的plotter/generator。这个
plotter会读取XML文件来自动产生3D模型。
模型里头的构件有不同的横截面形式(shape),比如说正方形、长方形、L形等。每一个
截面形式又有不同的型号,就是不同的尺寸。比如说L形有L4是边长4米的L截面,L5是
边长为5米的截面。这些每一不同型号的不同截面的几何信息和材料都存在一个相应的
mtl/obj文件里头。
这个3D模型的plotter/generator要产生3D模型的时候,他就读取XML文件里给出的关于
每一个构件的信息-tag的属性。通常构件的属性包括点的坐标,构件的截面形式和型
号等等。
现在的问题是,因为这个plotter/generator是读这个XML文件来获取模型定义信息的,
那么在整个模型产生以后,如果某一个或几个构件有变化,我就需要重新产生整个模型
的XML文件,这个plotter/generator也需要重新读取这整个XML文件并重新为每一个构
件产生模型,不管这个构件是否有变化。这样的一个过程效率很低。
我需要用户在模型的界面上有交互(interac... 阅读全帖
a*****e
发帖数: 4577
28
来自主题: Physics版 - 如何从一张图中获取数据点?
原来用过engauge,还挺不错的
但是需要手动来取点
但是不知道能否实现这样的功能
即对应某个x相对准确的获取y的数据
比如x=0,1,2,...对应的y值
多谢
g**1
发帖数: 10330
29
来自主题: Military版 - 美国CDC使用一亩三分地数据
美国CDC使用一亩三分地数据,美国确诊突破8万,旧金山有学校关门
Original 小编 一亩三分地Warald Today
点击蓝字关注我们
01
疫情网站更新情况
美国CDC联系我们获取数据
周二,Warald跟CDC官员通了电话
今天我们收到CDC邮件通知
使用一亩三分地的疫情数据
今天CDC一位官员也去Linkedin
给我们留了好评
注意:
1Point3Acres这名字太绕了,她没写全~
但是她在电话里能熟练念出全名 ^_^
h****a
发帖数: 1767
30
网页上的数据库,有下拉菜单选择,查询之后返回数据列表。看起来是服务器上的CGI
脚本实现的。
对网页的东西很外行,请教一下,用什么编程可以批量查询下载数据?
l****g
发帖数: 1922
31
来自主题: BuildingWeb版 - 怎样从JavaScript的网页获取数据?
javascript也是到服务器通过http得到数据的
你看看javascript的代码,自己提交request就行
x***d
发帖数: 227
32
前段时间还可以,现在无论如何 就是说 Error Connecting to the DataBase.
请熟悉这个东西的高手们 帮忙 指点,耽误太多时间了,
我不是搞这个的,只是要用数据,前面的人 什么documentation也没留下,老板更是一
问三不知,只是催我早点弄好,
a**s
发帖数: 9606
33
来自主题: Programming版 - 请教自动读取网页数据的Script
多谢, 下载一个研究一下. watin是启动一个IE或者Firefox来获取数据吗?
电脑同时做其它事情会不会被干扰? (鼠标/剪贴板等)
x***d
发帖数: 227
34
前段时间还可以,现在无论如何 就是说 Error Connecting to the DataBase.
请熟悉这个东西的高手们 帮忙 指点,耽误太多时间了,
我不是搞这个的,只是要用数据,前面的人 什么documentation也没留下,老板更是一
问三不知,只是催我早点弄好,
x***d
发帖数: 227
35
前段时间还可以,现在无论如何 就是说 Error Connecting to the DataBase.
请熟悉这个东西的高手们 帮忙 指点,耽误太多时间了,
我不是搞这个的,只是要用数据,前面的人 什么documentation也没留下,老板更是一
问三不知,只是催我早点弄好,
x***d
发帖数: 227
36
前段时间还可以,现在无论如何 就是说 Error Connecting to the DataBase.
请熟悉这个东西的高手们 帮忙 指点,耽误太多时间了,
我不是搞这个的,只是要用数据,前面的人 什么documentation也没留下,老板更是一
问三不知,只是催我早点弄好,
j*********g
发帖数: 3179
37
先试试别的软件能不能取数据先
m*********r
发帖数: 119
38
来自主题: DataSciences版 - 做大数据的好混学术界么?
我个人的理解是 这个在未来应该蛮有前途的
起码在social science的领域
克服了之前获取数据很难 或者是 样本量很小的问题
在psychology, eco, soci,clinical medicine等用处都很大

academia
Next
g**1
发帖数: 10330
39
只因写了一段爬虫,公司200多人被抓!
“一个程序员写了个爬虫程序,整个公司200多人被端了。”
“不可能吧!”
刚从朋友听到这个消息的时候,我有点不太相信,做为一名程序员来讲,谁还没有写过
几段爬虫呢?只因写爬虫程序就被端有点夸张了吧。
朋友说,消息很确认并且已经进入等待审判阶段了。
01.对消息进一步确认
朋友认识几个律师朋友,和他们有一些业务来往,得知他们想尝试把业务扩展到程序员
这个群体。那段时间我刚好离职也有时间,在朋友的安排下一起聊聊看看有没有合作的
机会。
他们为什么想扩展人群到程序员这个行业呢?其实就是因为他们代理了这名程序员的官
司,才发现很多程序员完全不懂法,直接说是法盲一点都不过分。
刚好我也很好奇程序员因爬虫被抓这个案子,看看到底是怎么回事,就和两名律师以及
朋友坐到一起,深入交流后才知道整个事件的来龙去脉。
这名程序员在被警察逮捕后,警察审问期间一直不承认自己触犯了法律,并且也完全没
有意识到自己犯法了。进去之后总以为警察搞错了,过几天就会把自己放出来,结果也
错过了取保候审的机会。
律师说,这名程序员的妈妈当时在他毕业的时候,就因程序员这个行业太辛苦不同意他... 阅读全帖
w****n
发帖数: 25644
40
来自主题: RuralChina版 - 美国全球监听行动纪录曝光!
26日惊天秘闻,图解惊人的美国全球监听行动纪录:全球很多国家都遭到其监控!
美国全球监听行动纪录无耻行径被曝光后引来一阵骂战。据悉,最早曝光这件事的是互
联网新闻研究中心26日发表《美国全球监听行动纪录》。当心美国正在监听你们哦!
互联网新闻研究中心26日发表《美国全球监听行动纪录》。
该纪录说,2013年6月,英国、美国和中国香港媒体相继根据美国国家安全局
前雇员爱德华·斯诺登提供的文件,报道了美国国家安全局代号为“棱镜”的秘密项目
,内容触目惊心。中国有关部门经过了几个月的查证,发现针对中国的窃密行为的内容
基本属实。
纪录指出,作为超级大国,美国利用自己在政治、经济、军事和技术等领域的霸权
,肆无忌惮地对包括盟友在内的其他国家进行监听,这种行为的实质早已超出了“反恐
”的需要,显示出其为了利益完全不讲道义的丑陋一面。这种行为悍然违反国际法,严
重侵犯人权,危害全球网络安全,应当受到全世界的共同抵制和谴责。
纪录从不同方面列举了美国对全球和中国进行秘密监听的行径,其中包括:
——每天收集全球各地近50亿条移动电话纪录。
——窥探德国现任总理默克尔手机长达十多年。
——秘密侵入雅虎、... 阅读全帖
w****n
发帖数: 25644
41
【 以下文字转载自 RuralChina 讨论区 】
发信人: wyiqin (QQ), 信区: RuralChina
标 题: 美国全球监听行动纪录曝光!
发信站: BBS 未名空间站 (Thu May 29 23:15:08 2014, 美东)
26日惊天秘闻,图解惊人的美国全球监听行动纪录:全球很多国家都遭到其监控!
美国全球监听行动纪录无耻行径被曝光后引来一阵骂战。据悉,最早曝光这件事的是互
联网新闻研究中心26日发表《美国全球监听行动纪录》。当心美国正在监听你们哦!
互联网新闻研究中心26日发表《美国全球监听行动纪录》。
该纪录说,2013年6月,英国、美国和中国香港媒体相继根据美国国家安全局
前雇员爱德华·斯诺登提供的文件,报道了美国国家安全局代号为“棱镜”的秘密项目
,内容触目惊心。中国有关部门经过了几个月的查证,发现针对中国的窃密行为的内容
基本属实。
纪录指出,作为超级大国,美国利用自己在政治、经济、军事和技术等领域的霸权
,肆无忌惮地对包括盟友在内的其他国家进行监听,这种行为的实质早已超出了“反恐
”的需要,显示出其为了利益完全不讲道义的丑陋一面。这种行为悍然违反... 阅读全帖
i***s
发帖数: 39120
42
10月26日,2015年福布斯中国富豪榜发榜。大连万达集团董事长王健林重新夺回首富之位,财富从去年的132亿美元迅猛增至300亿美元。10月中下旬,除了福布斯中国富豪榜,胡润全球百富榜、福布斯全球亿万富豪排行榜、彭博亿万富豪全球排行榜等各种富豪榜相继公布,令观者应接不暇。这些名目繁多的富豪榜是如何出炉的,排榜机构如何计算富豪们的身价?他们统计出来的数据可信度有多少?富豪排行榜背后又有哪些利益牵扯或者不为人知的趣闻?
焦点1
哪些富豪榜影响力较大?
比较有影响力的有福布斯富豪榜、胡润富豪榜和彭博全球亿万富豪榜。其中福布斯最早推出全球富豪榜,胡润最早推出针对中国的富豪榜。在今年的三大排行榜中,比尔·盖茨都是全球首富。
不管是对中国、美国等区域性富豪的排行榜,还是在全世界范围内的富豪排行榜,目前比较获得公众认可的主要有《福布斯》杂志推出的富豪榜与胡润研究院的胡润富豪榜。2013年开始,彭博社也推出彭博全球亿万富豪榜,以其实时更新的特点后来居上,在富豪榜大战中获得一席之地。
截至今年10月,三大排榜机构都对富豪们今年的身价和表现作出了评估。
在福布斯10月26日公布的中国富豪榜中,大连万达集团... 阅读全帖
v**e
发帖数: 8422
43
关于052C舰载相控阵雷达背后的故事
出国20年了,有个国内的故事总是忘不掉。 或者是夜深人静的时候躺在床上, 或者是
某天看到网上新闻受到触动, 故事就浮现在我的脑海里。里面的人物,场景会一一跳
出。 但是,最近我发现,有时候我明明想到了有关故事里的某个人,却想不出他的名
字了。让我会感到很难受。我觉得是我应该把这些故事写出来的时候了。不然,我哪天
真老年痴呆了,把这故事烂在了肚里,总觉得于心不安,因为故事里的真人真事是普通
人想不到的,其中的很多人物和事应该让人知道,并让世人评判。
我要写的这个故事是关于052C导弹驱逐舰的舰载相控阵雷达(现在被叫做“中华神盾”
,该雷达也已装在了中国唯一的航母“辽宁”舰上)的论证,研发和项目争取的经历。
里面提到的人物名字都是真人真名,事也是真事,只是关于雷达的那些敏感的最终指
标,尽量避免提及, 除非目前网上已经可看到了的。
一.项目启动
我在国内的工作单位是电子部14所。
14所接触052舰载相控阵雷达的论证始于1989年11月。 当时是孙宪章(原1461相控阵雷
达的主持设计师)去三亚参加了一个海军装备部(简称“海装”)主持的052B舰载雷... 阅读全帖
v**e
发帖数: 8422
44
关于052C舰载相控阵雷达背后的故事
出国20年了,有个国内的故事总是忘不掉。 或者是夜深人静的时候躺在床上, 或者是
某天看到网上新闻受到触动, 故事就浮现在我的脑海里。里面的人物,场景会一一跳
出。 但是,最近我发现,有时候我明明想到了有关故事里的某个人,却想不出他的名
字了。让我会感到很难受。我觉得是我应该把这些故事写出来的时候了。不然,我哪天
真老年痴呆了,把这故事烂在了肚里,总觉得于心不安,因为故事里的真人真事是普通
人想不到的,其中的很多人物和事应该让人知道,并让世人评判。
我要写的这个故事是关于052C导弹驱逐舰的舰载相控阵雷达(现在被叫做“中华神盾”
,该雷达也已装在了中国唯一的航母“辽宁”舰上)的论证,研发和项目争取的经历。
里面提到的人物名字都是真人真名,事也是真事,只是关于雷达的那些敏感的最终指
标,尽量避免提及, 除非目前网上已经可看到了的。
一.项目启动
我在国内的工作单位是电子部14所。
14所接触052舰载相控阵雷达的论证始于1989年11月。 当时是孙宪章(原1461相控阵雷
达的主持设计师)去三亚参加了一个海军装备部(简称“海装”)主持的052B舰载雷... 阅读全帖
r*******3
发帖数: 10886
45
这帮人是要搞的以后海龟wsn更难混啊。。。
原标题 [我国宏观经济数据被外媒提前公布案情披露 8人获刑]
我国宏观经济数据竟被境外媒体提前公布危害我经济安全案件侦办机关首次披露案情
CPI数据泄密案8人获刑
以路透社为代表的境外媒体及相关机构对我国经济数据的预测准确度相当之高。
据媒体报道,2008年至2011年,路透社累计7次精准地“猜”对了我国的月度CPI数
据。中国的核心经济数据屡屡提前“走光”,统计局权威发布的公信力受到极大质疑。
经过调查,“内部人员涉嫌泄密”浮出水面,相关部门随后对数据泄密事件展开侦
查。
目前已有8人因涉案获得法院判决。其中,孙振、伍超明等被判处有期徒刑5年至6
年不等的刑罚。
今天上午,承办该案件的西城检察院披露了案件侦破过程。
调查 统计局官员及证券公司职员涉嫌泄密
2011年2月28日,北京市西城检察院反渎职侵权局按照国家保密局、最高人民检察
院、北京市人民检察院的指示,成立2·28专案组。国家统计局的孙振以及上海某证券
公司工作的郑飞进入专案组视线。
孙振作为国家机关工作人员,比较容易控制。对于郑飞的情况,专案组却知之甚少
,只知道他在上海某证券公... 阅读全帖
l****z
发帖数: 29846
46
来自主题: USANews版 - 中情局被指向AT&T购买元数据
据政府官员透露,中央情报局(CIA)目前每年支付美国电话电报公司(AT&T)逾1000万美
元(约合6092万元人民币)的费用,利用该公司庞大的通话记录数据库协助海外反恐调
查,其中包括美国人的国际通话记录。
官员们透露,这种合作是依据自愿达成的合同进行的,CIA并没有通过发传票或法院命
令迫使该公司参与。官员们还表示,CIA提供海外恐怖主义嫌犯的电话号码,AT&T则搜
索自己的数据库,提供通话记录,这些记录可能有助于确认外国同伙的身份。该公司拥
有庞大的国内外通话记录数据库,其中包括所有经由其网络设备处理的通话,不仅是该
公司用户的通话。
该项目为有关政府监控及通讯记录隐私的争论提供了新的内容,最近几个月,这一争论
的焦点一直是美国国家安全局(National Security Agency,简称NSA)的项目。CIA项
目的曝光进一步揭露了情报官员与通讯服务供应商的关系,说明了NSA之外的机构如何
通过一些项目利用元数据——有关通话日期、持续时间及电话号码的记录,而不是通话
内容——来分析人与人之间的关系,规范这些项目的法律标准、程序及监督工作相互矛
盾。
官员们称,CIA无权监控... 阅读全帖
l*****7
发帖数: 8463
47
面对美国的“八大联军”, 中国完败!!!!
悲哀!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
See the Link below:
棱镜笼罩中国:思科等美国八大企业在华无缝渗透
http://site.6park.com/military/index.php?app=forum&act=threadvi
送交者: rm1980[♂御史大夫★★★☆♂] 于 2013-06-24 21:05 已读 286 次 @rm1980
@的微博
[提要] 我们的每一次通话,在摄像头下的每一个动作,在网络上留下的每一个脚印,
都有人在搜集、储存、分析。以前,我们不知道谁会如此“无聊”,但今年6月,美国
中央情报局前雇员斯诺登的爆料,让世人知道,我们的信息正和世界各地的个人资料一
起,被输入美国国家安全局庞大的硬件设备里,可以被保存几十年。 中国是美国监控
的重点。而在类似“棱镜”这样的美国多个信息监控和挖掘项目的“关照”下,中国近
似裸身。[网友有话说][更多精彩内容]
“你早已这样生活了:你发出的每一个声音,都是有人听到的,你的每一个动作,
除非在黑暗中,都是有人仔细观察的。... 阅读全帖
B**W
发帖数: 2273
48
来自主题: ChinaNews版 - 天地图原来如此
地图网站的核心部分有很多,比如数据获取,数据加工,数据发布(UI),任何一块做好
了都可以。BING Maps没有自己的数据,Google以前也没有自己的数据,现在大部分也
是买的。天地图显然有了自己的数据发布系统(就是服务器端的数据索引,载荷优化,
平衡等等,当然没有GOOGLE, BING 牛)。现在这个网站使用了商业遥感数据,但数据
获取加工本来就是测绘局的看家本领(特别是矢量地图),这方面比任何一个公司都有
优势。
可以这么说,现在世界没有任何公司或者机构可以在全球尺度下同时把数据获取,数据
加工,数据发布做好,Google有很多Cash,最有可能突破,但现阶段还得购买别人的数
据。即使Google有了自己的卫星,你知道一个高分辨率的卫星覆盖一次全球要花多长时
间么?等你扫完了一遍,很多又过时了。即使有了覆盖全球的卫星图像,获取道路,路
标名称等等,靠一个公司能行么,最终不是买,就是靠国家机构。这就是为什么“数字
地球”这个东西都是政府牵头,公司可以做,但必须靠集成,互通,共享,没有谁可以
单独拿下的。
b*******t
发帖数: 4756
49
方圆库 07月14日 06:00
Pokemon 游戏 增强现实
你在Pokémon Go上专注地抓皮卡丘时,你的数据可能也成了别人的抓取目标。游戏的
开发者Niantic正收集玩家的数据,这款增强现实游戏的火爆,可能造成了更大的隐私
安全隐患。
手机游戏Pokémon Go上线一周来,用增强现实技术,在三维世界打开了二次元的缺口
。放出来的宠物小精灵在全世界乱窜,玩家通过手机镜头可以看到它们在真实世界里出
现。数以万计的玩家拿着手机扫街,就为了通过GPS定位,走到小精灵会出现的地方,
投球收了它们。
这款游戏目前在美国的下载量超过了750万次,每天平均活跃用户的数量直逼推特。用
户平均每天玩43分钟,使用时间超过了Snapchat和Instagram。
游戏的合作开发公司是Pokémon Company,由任天堂公司控股。从7月6号游戏上线开始
的五天内,任天堂的股价上涨了近50%。
疯狂的股价背后,是疯狂的玩家。很多玩家完全沉浸在增强现实的世界里,遇到了各种
意外状况。有人开着车玩游戏撞车的,有人只盯手机不看路摔伤的。在美国密苏里州,
还有人顺着信号找到Poke-stop准备加些装... 阅读全帖
u**c
发帖数: 17972
50
【 以下文字转载自 ScitechNews 讨论区 】
发信人: Cnews (chinanews), 信区: ScitechNews
标 题: [KJPT]谷歌街景探秘:从佩奇座驾到大峡谷谷底(图)
发信站: BBS 未名空间站 (Sun Mar 10 22:07:54 2013, 美东)
编者按:据国外媒体报道,谷歌街景(Street View)让科幻小说中的瞬间移动(Teleportation)成为了现实,现在只需轻点鼠标,人们就能实现“远途旅行”。然而一旦技术变得无处不在,人们就往往会忽略其背后的不为人知的故事。
“瞬间移动——将物质从一个点传向另一点,而不需要穿越任何物理空间。这与早期的Apport概念有些相近,这个词曾被应用于唯心主义文章中。”
对于不少人来说,能够在世界各地自由穿梭,而不需要真的进行“实体”旅行,实在算得上是一个伟大的成就。无需经过严酷的穿越,就能够探索数千英里之外的物理空间,听上去就和科幻小说的情节一样梦幻。而现在,谷歌街景已经让人们离瞬间移动的目标更近一步——只是,当然,它不能真的对实体物品进行转移。
街景的前身是斯坦福大学的一个研究项目,之后这项技... 阅读全帖
1 2 3 4 5 6 7 8 9 10 下页 末页 (共10页)