J*****n 发帖数: 4859 | 1 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
启动以后,就要重新从硬盘上读数据。
我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
重新启动要数据的时候,就通过B从内存中调。
这个怎么实现?
谢谢 |
p***o 发帖数: 1252 | 2 弄台内存足够大的机器, 提前把那些文件读一遍, 系统会自动缓存它们的内容,
再跑A的时候就不用读硬盘了。
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
n*****t 发帖数: 22014 | 3 Linux 有 shared memory
http://www.cs.cf.ac.uk/Dave/C/node27.html
M$ 的这个东西好像差不多
https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
俺也不是太懂,你参考参考吧
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
s********r 发帖数: 394 | 4 数据干嘛不存数据库?导到sqlite里面不就行了
次A
★ 发自iPhone App: ChineseWeb 8.7
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
J*****n 发帖数: 4859 | 5
sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?
【在 s********r 的大作中提到】 : 数据干嘛不存数据库?导到sqlite里面不就行了 : : 次A : ★ 发自iPhone App: ChineseWeb 8.7
|
a*f 发帖数: 1790 | 6 不是,数据库service一直在后台运行
【在 J*****n 的大作中提到】 : : sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?
|
l*********s 发帖数: 5409 | |
J*****n 发帖数: 4859 | 8 Thanks, it is sth I am looking for.
【在 n*****t 的大作中提到】 : Linux 有 shared memory : http://www.cs.cf.ac.uk/Dave/C/node27.html : M$ 的这个东西好像差不多 : https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp : 俺也不是太懂,你参考参考吧 : : 次A
|
y*****r 发帖数: 327 | 9 如果用c++可以看看boost 里的container叫multiindex table(忘了是不是叫这个),存
几十G的东西查找很快。benchmark 过。HP有个数据库可以用来存市场数据。据说很快。
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
e*****r 发帖数: 700 | 10 算算也就几g的数据,放到ssd 上就好了
[在 Jadeson (紫昂德帅) 的大作中提到:]
:我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
:
:........... |
|
|
e*******o 发帖数: 4654 | 11 用数据库,然后把data 放到ssd上,我觉得就够了吧。
【在 e*****r 的大作中提到】 : 算算也就几g的数据,放到ssd 上就好了 : [在 Jadeson (紫昂德帅) 的大作中提到:] : :我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : : : :...........
|
J*****n 发帖数: 4859 | 12 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
启动以后,就要重新从硬盘上读数据。
我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
重新启动要数据的时候,就通过B从内存中调。
这个怎么实现?
谢谢 |
p***o 发帖数: 1252 | 13 弄台内存足够大的机器, 提前把那些文件读一遍, 系统会自动缓存它们的内容,
再跑A的时候就不用读硬盘了。
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
n*****t 发帖数: 22014 | 14 Linux 有 shared memory
http://www.cs.cf.ac.uk/Dave/C/node27.html
M$ 的这个东西好像差不多
https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
俺也不是太懂,你参考参考吧
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
s********r 发帖数: 394 | 15 数据干嘛不存数据库?导到sqlite里面不就行了
次A
★ 发自iPhone App: ChineseWeb 8.7
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
J*****n 发帖数: 4859 | 16
sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?
【在 s********r 的大作中提到】 : 数据干嘛不存数据库?导到sqlite里面不就行了 : : 次A : ★ 发自iPhone App: ChineseWeb 8.7
|
a*f 发帖数: 1790 | 17 不是,数据库service一直在后台运行
【在 J*****n 的大作中提到】 : : sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?
|
l*********s 发帖数: 5409 | |
J*****n 发帖数: 4859 | 19 Thanks, it is sth I am looking for.
【在 n*****t 的大作中提到】 : Linux 有 shared memory : http://www.cs.cf.ac.uk/Dave/C/node27.html : M$ 的这个东西好像差不多 : https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp : 俺也不是太懂,你参考参考吧 : : 次A
|
y*****r 发帖数: 327 | 20 如果用c++可以看看boost 里的container叫multiindex table(忘了是不是叫这个),存
几十G的东西查找很快。benchmark 过。HP有个数据库可以用来存市场数据。据说很快。
次A
【在 J*****n 的大作中提到】 : 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新 : 启动以后,就要重新从硬盘上读数据。 : 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A : 重新启动要数据的时候,就通过B从内存中调。 : 这个怎么实现? : 谢谢
|
|
|
e*****r 发帖数: 700 | 21 算算也就几g的数据,放到ssd 上就好了
[在 Jadeson (紫昂德帅) 的大作中提到:]
:我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
:
:........... |
e*******o 发帖数: 4654 | 22 用数据库,然后把data 放到ssd上,我觉得就够了吧。
【在 e*****r 的大作中提到】 : 算算也就几g的数据,放到ssd 上就好了 : [在 Jadeson (紫昂德帅) 的大作中提到:] : :我有几百个binary file,每个大概40mb左右,都是股票,期货数据。 : : : :...........
|
k***5 发帖数: 583 | |