由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 想自己搞一light weight in memory数据库in C#,求教
相关主题
C# 和 SQLite 连接问题,多谢拉Please recommend embedded RDBMS for .Net 2.0 (转载)
fossil 不错修改环境路径的问题。
请教一个初级算法问题 (转载)构建一个快速查询字典(数据结构题)?
数据库能用来存储文件吗?一个小问题
突然发现现在很反感malloc了Project求建议
一般操作很多的数据用什么数据结构?各种语言程序猿被鄙视级别排序 (转载)
请教一个python(pandas)的效率问题有没有简化的xml? (转载)
请问大家一个eclipse CDT的问题 (转载)怎样用Python选一部分数据出来
相关话题的讨论汇总
话题: 数据库话题: c#话题: 数据话题: memory话题: weight
进入Programming版参与讨论
1 (共1页)
J*****n
发帖数: 4859
1
我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
启动以后,就要重新从硬盘上读数据。
我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
重新启动要数据的时候,就通过B从内存中调。
这个怎么实现?
谢谢
p***o
发帖数: 1252
2
弄台内存足够大的机器, 提前把那些文件读一遍, 系统会自动缓存它们的内容,
再跑A的时候就不用读硬盘了。

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

n*****t
发帖数: 22014
3
Linux 有 shared memory
http://www.cs.cf.ac.uk/Dave/C/node27.html
M$ 的这个东西好像差不多
https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
俺也不是太懂,你参考参考吧

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

s********r
发帖数: 394
4
数据干嘛不存数据库?导到sqlite里面不就行了

次A
★ 发自iPhone App: ChineseWeb 8.7

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

J*****n
发帖数: 4859
5

sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?

【在 s********r 的大作中提到】
: 数据干嘛不存数据库?导到sqlite里面不就行了
:
: 次A
: ★ 发自iPhone App: ChineseWeb 8.7

a*f
发帖数: 1790
6
不是,数据库service一直在后台运行

【在 J*****n 的大作中提到】
:
: sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?

l*********s
发帖数: 5409
7
mysql没有内存表?
J*****n
发帖数: 4859
8
Thanks, it is sth I am looking for.

【在 n*****t 的大作中提到】
: Linux 有 shared memory
: http://www.cs.cf.ac.uk/Dave/C/node27.html
: M$ 的这个东西好像差不多
: https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
: 俺也不是太懂,你参考参考吧
:
: 次A

y*****r
发帖数: 327
9
如果用c++可以看看boost 里的container叫multiindex table(忘了是不是叫这个),存
几十G的东西查找很快。benchmark 过。HP有个数据库可以用来存市场数据。据说很快。

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

e*****r
发帖数: 700
10
算算也就几g的数据,放到ssd 上就好了
[在 Jadeson (紫昂德帅) 的大作中提到:]
:我有几百个binary file,每个大概40mb左右,都是股票,期货数据。

:...........
相关主题
一般操作很多的数据用什么数据结构?Please recommend embedded RDBMS for .Net 2.0 (转载)
请教一个python(pandas)的效率问题修改环境路径的问题。
请问大家一个eclipse CDT的问题 (转载)构建一个快速查询字典(数据结构题)?
进入Programming版参与讨论
e*******o
发帖数: 4654
11
用数据库,然后把data 放到ssd上,我觉得就够了吧。

【在 e*****r 的大作中提到】
: 算算也就几g的数据,放到ssd 上就好了
: [在 Jadeson (紫昂德帅) 的大作中提到:]
: :我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: :
: :...........

J*****n
发帖数: 4859
12
我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
启动以后,就要重新从硬盘上读数据。
我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
重新启动要数据的时候,就通过B从内存中调。
这个怎么实现?
谢谢
p***o
发帖数: 1252
13
弄台内存足够大的机器, 提前把那些文件读一遍, 系统会自动缓存它们的内容,
再跑A的时候就不用读硬盘了。

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

n*****t
发帖数: 22014
14
Linux 有 shared memory
http://www.cs.cf.ac.uk/Dave/C/node27.html
M$ 的这个东西好像差不多
https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
俺也不是太懂,你参考参考吧

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

s********r
发帖数: 394
15
数据干嘛不存数据库?导到sqlite里面不就行了

次A
★ 发自iPhone App: ChineseWeb 8.7

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

J*****n
发帖数: 4859
16

sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?

【在 s********r 的大作中提到】
: 数据干嘛不存数据库?导到sqlite里面不就行了
:
: 次A
: ★ 发自iPhone App: ChineseWeb 8.7

a*f
发帖数: 1790
17
不是,数据库service一直在后台运行

【在 J*****n 的大作中提到】
:
: sqlite在如果连接他的程序关闭了,那些放内存中的临时数据库也就自动销毁了吧?

l*********s
发帖数: 5409
18
mysql没有内存表?
J*****n
发帖数: 4859
19
Thanks, it is sth I am looking for.

【在 n*****t 的大作中提到】
: Linux 有 shared memory
: http://www.cs.cf.ac.uk/Dave/C/node27.html
: M$ 的这个东西好像差不多
: https://msdn.microsoft.com/en-us/library/dd997372(v=vs.110).asp
: 俺也不是太懂,你参考参考吧
:
: 次A

y*****r
发帖数: 327
20
如果用c++可以看看boost 里的container叫multiindex table(忘了是不是叫这个),存
几十G的东西查找很快。benchmark 过。HP有个数据库可以用来存市场数据。据说很快。

次A

【在 J*****n 的大作中提到】
: 我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: 我在做研究的时候,需要读这些数据,然后运算(called A)。每次我修改A然后重新
: 启动以后,就要重新从硬盘上读数据。
: 我想写一个程序B,打开时就读入相关的bin file保存在内存中,然后后台运行。每次A
: 重新启动要数据的时候,就通过B从内存中调。
: 这个怎么实现?
: 谢谢

相关主题
一个小问题有没有简化的xml? (转载)
Project求建议怎样用Python选一部分数据出来
各种语言程序猿被鄙视级别排序 (转载)现在android programmer工资非常高啊,比java developer都高。 (转载)
进入Programming版参与讨论
e*****r
发帖数: 700
21
算算也就几g的数据,放到ssd 上就好了
[在 Jadeson (紫昂德帅) 的大作中提到:]
:我有几百个binary file,每个大概40mb左右,都是股票,期货数据。

:...........
e*******o
发帖数: 4654
22
用数据库,然后把data 放到ssd上,我觉得就够了吧。

【在 e*****r 的大作中提到】
: 算算也就几g的数据,放到ssd 上就好了
: [在 Jadeson (紫昂德帅) 的大作中提到:]
: :我有几百个binary file,每个大概40mb左右,都是股票,期货数据。
: :
: :...........

k***5
发帖数: 583
23
几个G的数据而已,用内存虚拟个硬盘就好了。
1 (共1页)
进入Programming版参与讨论
相关主题
怎样用Python选一部分数据出来突然发现现在很反感malloc了
现在android programmer工资非常高啊,比java developer都高。 (转载)一般操作很多的数据用什么数据结构?
为啥python的人都用postgreSQL请教一个python(pandas)的效率问题
C# 和 SQLite 连接的问题请问大家一个eclipse CDT的问题 (转载)
C# 和 SQLite 连接问题,多谢拉Please recommend embedded RDBMS for .Net 2.0 (转载)
fossil 不错修改环境路径的问题。
请教一个初级算法问题 (转载)构建一个快速查询字典(数据结构题)?
数据库能用来存储文件吗?一个小问题
相关话题的讨论汇总
话题: 数据库话题: c#话题: 数据话题: memory话题: weight